Ознакомившись с проектом, Ленин резко осудил идею автономизации и 26 сентября 1922 г. обратился к Политбюро с письмом, в котором высказался за объединение равноправных Советских республик в единое государство. Открывшийся 6 октября 1922 г. Пленум ЦК РКП(б) принял ленинские предложения. Он постановил создать новую комиссию для разработки проекта закона об образовании Союза Советских Социалистических Республик (СССР) на основе Федеративного договора, по которому всем республикам гарантировались равные права в составе Союза, а также право свободного выхода из него. В октябре — декабре 1922 г. пленумы ЦК КП и съезды Советов республик высказались за объединение в составе СССР.

С самого утра 30 декабря на I Союзный съезд Советов в Большой театр стали собираться люди в необычных одеждах: лисьих шапках, белых чалмах, халатах. Среди них мелькали кожанки и серые шинели, фраки и крахмальные воротнички дипломатов. В час дня на трибуну поднялся старейший большевик П.Г. Смидович, который открыл съезд. С докладом об образовании СССР выступил И.В. Сталин. Он зачитал тексты Декларации и Договора об образовании СССР. Оба документа по предложению М.В. Фрунзе в основном были приняты и направлялись на доработку. Окончательная их ратификация откладывалась до II съезда Советов. Первыми подписали документы главы делегаций: от РСФСР — М.И. Калинин, от УССР — М.В. Фрунзе и Г.И. Петровский, от БССР — А.Г. Червяков, от ЗCФCP — М.Г. Цхакая. Делегаты избрали ЦИК СССР в составе 371 члена и 138 кандидатов, в их число вошли Л.Б. Красин, Г.М. Кржижановский, Н.К. Крупская. Первыми советскими наркомами стали А.Г. Шлихтер (земледелия), И.В. Сталин (по делам национальностей), Н.А. Семашко (здравоохранения), Ф.Э. Дзержинский (председатель ВЧК и нарком железнодорожного транспорта), А.Д. Цюрупа (продовольствия).

Успехи нэпа благотворно сказывались на национально-государственном строительстве. В 1924 г. на территории Средней Азии возникли Узбекская и Туркменская ССР, вступившие в 1925 г. в состав СССР, и Киргизская АССР в составе РСФСР. В 1924 г. ряд районов с преобладанием белорусского населения передали из РСФСР в БССР. Совершенствовались и автономные отношения. В составе PCФCP были образованы новые автономные республики, в том числе Немцев Поволжья и Бурят-Монгольская, а Аджарская и Абхазская АССР — в составе Грузии. В Азербайджане права автономии получили Нахичевань (АССР) и Нагорный Карабах (Автономная область), в составе УССР образовалась Молдавская АССР.

Однако не все было гладко в развитии национальных отношений. Наиболее острыми оставались унаследованные с царского времени проблемы национального размежевания в Закавказье и Средней Азии. СССР с самого начала был не столько федеративным государством, сколько унитарным. Суверенитет союзных республик хотя широко декларировался, однако на деле оставался более номинальным, нежели реальным. Власть в них концентрировалась на уровне партийных комитетов, подчинявшихся принципу демократического централизма. Ключевые решения принимались центральными органами РКП(б) и были обязательны для республиканских организаций. И хотя национально-территориальные формирования в составе СССР (союзные и автономные республики, национально-территориальные округа и национальные районы) располагали лишь культурно-национальной автономией, даже это было шагом вперед по сравнению с дореволюционной Россией. Многие народы впервые получили письменность. Стали издаваться на национальных языках литература и периодика, открылись национальные школы, театры.

Работа по созданию союзной конституции развернулась в первой половине 1923 г. Уже летом сессия ЦИК утвердила ее и ввела в действие. Окончательно ратифицировал ее 31 января 1924 г. II съезд Советов СССР. Председателем СНК съезд назначил А.И. Рыкова. Союзные наркоматы руководили внешней политикой, вопросами обороны, транспортом, связью и планированием. Кроме того, верховные органы власти ведали вопросами границ СССР и республик, приемом в Союз. Высшим законодательным органом власти провозглашался съезд Советов СССР. Он избирался на основе непрямого избирательного права депутатами губернских и республиканских Советов. Ограничение избирательных прав, установленное Конституцией 1918 г., сохранялось. В 1922—1925 годах удельный вес «лишенцев», т.е. лиц, отнесенных к категории «нетрудовых элементов» общества, составлял от 2 до 9% населения старше 18 лет. Выборы не были тайными. Они проводились в городах на собраниях трудовых коллективов. Выборы не были равными для рабочих и крестьян: первые посылали одного делегата от 25 тысяч избирателей, вторые — от 125 тысяч.

Съезды Советов должны были созываться раз в два года. Между ними три раза в год собирался ЦИК — высший государственный орган власти между съездами. Он состоял из двух законодательных палат: Совета Союза и Совета Национальностей. Между сессиями ЦИК его функции осуществлял избиравшийся им Президиум ЦИК. ЦИК также назначал Совет Народных Комиссаров — высший исполнительный и административный орган с рядом законодательных функций. Судебную ветвь власти представлял Верховный Суд, Прокурор которого назначался Президиумом ЦИК для надзора за деятельностью ОГПУ — органа по охране государственной безопасности. Президиум ЦИК формировал РВС — коллегиальный орган высшей военной власти страны.

В.И. Ленин отстаивал принцип соблюдений единой законности с тем, чтобы вывести ее из-под зависимости местной бюрократии. Однако даже на исходе нэпа еще господствовало убеждение, что «нужно руководствоваться не только буквой закона, а надо подходить к закону с пролетарским чутьем». На ХV съезде ВКП(б) высказывалась идея о том, что хорошие законы следует исполнять, а плохие — нет. На это председатель Верховного трибунала Н. Крыленко привел такую статистику: из 1176 уездных помощников прокуроров РСФСР только 129 были с высшим юридическим образованием, а 690 имели только несколько начальных классов. В этих условиях целесообразность означала суд «как бог на душу положит».

1922 год стал переломным для системы судопроизводства. Были подготовлены и утверждены Уголовный и Гражданский кодексы, узаконена цензура и ее институты, ВЧК, функции которой несколько ограничивались, была преобразована в Главное Политическое Управление (ГПУ) при НКВД (с 1923 г. — ОГПУ при СНК СССР). Была проведена судебная реформа: упразднены ревтрибуналы и административное судопроизводство, учреждены прокуратура и адвокатура. В начале 20-х годов в 350 лагерях 43 губерний страны содержались около 140 тысяч заключенных. К 1928 г. их число сократилось до 30 тысяч. В Уголовном кодексе более десятка статей предусматривали смертную казнь, в том числе за пропаганду и агитацию против Советской власти. По предложению Ленина Президиуму ВЦИК было предоставлено право заменять расстрел высылкой за границу. Ленин утверждал, что «суд должен не устранить террор… а обосновать его и… ясно, без фальши и без прикрас».

Сопротивление Советской власти в годы нэпа носило очаговый характер. В РСФСР ударной силой было кулачество. Первая половина 20-х годов была отмечена настоящим кулацким бунтом. Преследованиям подвергались коммунисты, сельские корреспонденты, участники движения за ликвидацию неграмотности. Только в 1925 г. было совершено на селе более 700 терактов. Тогда же развернулось движение под лозунгами национальной независимости в Грузии, на Северном Кавказе, на Украине и в Белоруссии. В 1921—1926 годах шли ожесточенные бои с басмачеством в Средней Азии. Против повстанцев был даже организован Туркестанский фронт.

Власть применяла к своим политическим оппонентам и врагам самые разные формы борьбы. Чекисты, например, создавали якобы монархические организации и таким образом заманивали в страну лидеров оппозиционных движений. Так были обезврежены Б.В. Савинков и С. Рейли. Партия выступила против легализации крестьянских прокулацких союзов, запретила легализацию партий меньшевиков и эсеров, многие члены этих партий были арестованы и высланы за границу. Одновременно с целью дискредитации инсценировались «самороспуски» этих партий. Уже к середине 20-х годов утвердилась политическая монополия ВКП(б). По решению Политбюро с лета 1922 г. был ужесточен контроль над деятельностью интеллигенции. На политическую благонадежность были проверены все печатные издания, учебные заведения, творческие союзы. За границу были высланы 160 выдающихся представителей творческой и научной интеллигенции, не прошедших этой процедуры. В том же году развернулся и антицерковный террор, позволивший поставить под контроль власти до 70% приходов страны.

Советы провозглашались основой политического строя. Свою власть они делили с партийными комитетами в городах и мирскими сходами в деревнях. Сельские ячейки партии в 20-е годы были редки и малочисленны. На выборах сельских и волостных Советов в 1922 г. голосовала лишь пятая часть избирателей. На село были посланы партийные агитаторы, с 1925 г. организовывались группы бедноты, создавались разнообразные секции при Советах — и в результате процент голосовавших на выборах в Советы 1926 г. поднялся до 50%. Слабостью Советов являлось отсутствие у них реальной политической власти и серьезных хозяйственных функций.