В 1931 году Ландау возвратился в Советский Союз. Как марксист и патриот, он был полон решимости донести последние достижения теоретической физики до ученых своей страны, и всюду ему сопутствовал успех. Ландау руководил теоретическим отделом Украинского физико-технического института, одновременно заведовал кафедрами теоретической физики в Харьковском инженерно-механическом институте и в Харьковском университете. В 1937 году Ландау возглавил отдел теоретической физики во вновь созданном Институте физических проблем в Москве и со своими сотрудниками впервые в Советском Союзе занялся астрофизикой. Он предложил радикально новый подход — строить модели поведения звезд с помощью методов теоретической физики. Проведя изящные вычисления, он создал модель звезды, состоящей из полностью вырожденного холодного вещества, чрезвычайно плотного и не излучающего ни свет, ни тепло. Получалось, что такая звезда с массой больше солнечной в 1,5 раза будет сжиматься до невероятно маленьких размеров. Ландау заново открыл верхний предел Чандры массы белых карликов (хотя полученное им число несколько отличалось от значения, полученного Чандрой) и — немедленно объявил, что «в действительности» звезды не могут следовать «таким смехотворным сценариям».
Подобно Милну и другим астрофизикам, Ландау был убежден, что звезды в определенный момент должны прекратить коллапсировать, и тогда звезда «будет представлять собой сверхплотное ядро, окруженное веществом в обычном состоянии». Он согласился с мнением большинства ученых, утверждавших, что после полного выгорания топлива масса звезды будет меньше верхнего предела, и таким образом она избежит коллапса. Будучи физиком, Ландау не читал астрофизических журналов и не знал о ранних работах Чандры. Много лет первой работой по определению верхнего предела массы белых карликов считалась статья Ландау 1932 года, а не статья Чандры 1931 года. При этом Ландау поначалу сам не поверил своему открытию. Шесть лет спустя он дополнил свои прежние результаты, предположив, что глубоко внутри звезды с очень высоким давлением должно возникнуть ядро, как у белого карлика. Когда масса ядра превысит верхний предел, оно станет нестабильным и сколлапсирует до плотности атомных ядер — 1014 граммов на кубический сантиметр. Если бы Земля сжалась до такой плотности, то ее диаметр был бы 300 метров, а не ~12750 километров, как сейчас. При такой плотности электроны начинают «вдавливаться» в ядра атомов и превращают протоны в нейтроны, что и приводит к образованию нейтронной звезды. Нейтроны, как и электроны, подчиняются принципу Паули и создают давление вырождения, нейтрализуя дальнейшее гравитационное сжатие. Ландау определил величину максимальной массы для стабильного белого карлика. Но при этом возник вопрос, какая минимальная масса необходима для формирования нейтронной сердцевины. Ландау использовал теорию тяготения Ньютона и квантовую статистику и получил значение минимальной массы, которая оказалась приблизительно равной одной тысячной массы Солнца.
Далее Ландау перешел к теории излучения звезд, причем его теория весьма отличалась от эддингтоновской теории излучения при слиянии ядер. Ландау предположил, что излучение звезд возникает при падении частиц внешней газовой оболочки на нейтронное ядро и превращении их кинетической энергии в свет.
А между тем в жизни Ландау было все не так гладко. Начиная с 1931 года сталинский режим становился все более жестоким, а к 1937 году жизнь в Советском Союзе стала просто невыносимой. Насильственная коллективизация сельского хозяйства привела к гибели примерно 7 миллионов человек. Производились регулярные чистки среди ведущих политиков, интеллигентов и военных специалистов. Ландау всегда был в центре внимания, а потому подвержен особенному риску. Лучшим способом выжить в этой страшной ситуации было путешествие в «один конец», то есть бежать за границу. Надеясь, что работа по нейтронным ядрам поднимет его авторитет в стране, Ландау отослал статью о нейтронных звездах в журнал «Nature» и в лучшие советские научные издания, а также отправил Бору. Бор был почетным иностранным членом Академии наук СССР и пользовался большим уважением в советских научных кругах. Узнав, что статья произвела впечатление на великого датчанина, Ландау опубликовал комментарий Бора на эту работу в ведущей советской газете «Известия». Однако ничего не помогло — Ландау все же арестовали, 28 апреля 1938 года, и отправили в Бутырку, одну из самых страшных тюрем НКВД. Как всегда, обвинения были абсурдны и сфабрикованы. Ландау обвинили в шпионаже в пользу нацистской Германии и критике политики государства в области проведения научных исследований. Власти были уверены в его якобы антисоветской деятельности.
И тогда Петр Капица, открывший явление сверхтекучести, друг Бора и Резерфорда, создатель Института физических проблем в Москве, где работал Ландау, бросился на его защиту. Он написал Сталину и народному комиссару Вячеславу Молотову письмо, в котором говорил, что только Ландау сумел объяснить явление сверхтекучести, а это в значительной мере повысило престиж советской физики. Капица даже пригрозил, что остановит свои собственные исследования, если Ландау не будет выпущен из тюрьмы. Это (а может, что-то другое) сработало, и через год Ландау освободили. Он был страшно измучен и «не мог нормально жить еще „в течение полугода“», как вспоминал сам Ландау в интервью для советской газеты «Правда» в 1964 году. Ландау все же нашел в себе силы вернуться к научной работе, но потом никогда не делал заявлений, которые даже отчасти могли быть истолкованы как политические.
А на другом полушарии Земли Георгий Гамов, счастливчик, сумевший сбежать из коммунистического «рая», и Эдвард Теллер, венгерский еврей, ставший американцем, были ведущими учеными в Университете имени Джорджа Вашингтона в Вашингтоне. Начиная с 1936 года они организовывали весенние конференции по теоретической физике в Отделе земного магнетизма вашингтонского Института Карнеги. Конференция, состоявшаяся в марте 1938 года, была посвящена излучению звезд. Она стала поворотным пунктом как в области астрофизики, так и в ядерной физике. Гамов и Теллер составили мощный исследовательский тандем. Эти энергичные ученые, известные своими оригинальными работами, пригласили на конференцию ведущих специалистов в области астрофизики, физики и бурно развивающейся ядерной физики. Ханс Бете — человек, которому предстояло совершить прорыв в тайны звездной энергии, вспоминал: «Более стимулирующих встреч на моей памяти не было». Чандра, естественно, тоже был приглашен. На конференцию приехал и Бенгт Стрёмгрен, старый друг Чандры из Копенгагена и коллега по Йеркской обсерватории. Он был астрофизиком, способным говорить на одном языке с физиками, Гамов назвал его «асом». То была весьма своеобразная конференция. Обсуждения шли совершенно неформально, протоколы заседаний не велись, и участники не обязаны были представлять свои доклады. Эта непринужденная, свободная обстановка очень отличалась от заседаний в Королевском астрономическом обществе.
Конечно, на конференцию пригласили и Эйнштейна, и Рассела, но ни тот ни другой не приехали. Эйнштейну ее программа была не интересна, а вот отсутствие Рассела удивляло — патриарх американской астрофизики всегда интересовался вопросами источника звездной энергии. Наверное, рассуждения физиков типа Гамова не очень соответствовали аристократическим вкусам Рассела. Можно себе представить, как бы он отреагировал на гамовское заявление такого рода: «Физик, изучающий звезды, чувствует себя счастливым, пока не наткнется на астрономические таблицы». На этой встрече главенствовали физики, а не астрофизики.
