Немцы наметили наступление на 18 мая, но Тимошенко их опередил — 12 мая он начал операцию по охвату 6-й армии Паулюса под Харьковом с севера и с юга. Северный клин советского наступления составляла 28-я армия, насчитывавшая в своем составе шестнадцать стрелковых и кавалерийских дивизий, три танковые и две механизированные бригады. Северному клину противостояли только шесть немецких дивизий (XVII-й и LI-й армейские корпуса генералов Карла Холлидта и фон Зейдлпц-Курцбаха. Южный клин советского наступления в обход Харькова составляли 6-я и 57-я советские армии. На этом направлении полдюжины немецких и румынских пехотных дивизий, не имевших танков, оказались под натиском значительно превосходящих сил Красной армии. Слабая боеспособность румын, о которой ходили слухи в советской армии, на самом деле была мифом — и Манштейн и другие немецкие офицеры скептически относились к профессиональным качествам румынских офицеров, к вооружению румын, но о румынских солдатах отзывались как о выносливых и стойких в бою.
Северный советский клин генерал Паулюс смог остановить в 20 км от Харькова, но южный (с Изюмского выступа) сметал все на своем пути. 16 мая советская кавалерия приблизилась к Полтаве, где располагался штаб фон Бока. Катастрофа немецкой обороны казалась неминуемой. В этой тяжелой ситуации фон Бок решился на очень рискованный шаг — он приказал начать операцию «Фридрих», но «с одной рукой», одним клином, поскольку армия Паулюса была втянута в жестокие оборонительные бои на севере. 17 мая армейская группа фон Клейста начала атаку из района южнее Изюма, «подрезая» продвигающийся вперед советский южный клин. В тот момент, когда 17 мая ударная группировка танковой группы Клейста перешла в наступление против советских войск 57-й и 9-й армии, следовало немедленно прекратить наступление советских войск на Харьков, но Сталин отверг это предложение. Даже 19 мая, когда Клейст взял Изюм и советские войска оказались в полуокружении, командование Юго-западным фронтом — С.К. Тимошенко, И.С. Хрущев и И.X. Баграмян — просто констатировали этот факт в боевом донесении Сталину и ничего не предлагали, хотя было очевидно, что войска нужно развернуть и попытаться вывести из окружения. Это было убедительным доказательством того что командование фронтом смирилось с приближающейся катастрофой. После того как немецкие танки прорвали оборону Южного фронта и начали отрезать советские войска, Тимошенко — вместо того, чтобы бросить против немцев свой танковый резерв — направил его на усиление наступающих частей, которые сами шли в «котел». 23 мая кольцо окружения замкнулось (части немецких 6-й армии и 14-й танковой дивизии соединились); в плену оказалось 240 тысяч солдат, трофеи были также велики — 2026 орудий и 1249 танков. Немцы потеряли около 20 тысяч убитыми и ранеными.
Под Харьковом советским войскам не повезло — они начали наступление против немецкой группировки, которая находилась в полной стадии готовности и ожидала наступления противника. Теперь у Тимошенко не было иного выбора, кроме как развернуть свои войска и прорываться на восток. Смогут ли тонкие стенки немецкого котла сдержать натиск советских дивизий? Началась решающая стадия операции; войскам Тимошенко нужно было прорваться любой ценой — Донецкий фронт находился всего лишь в 40 км. Начались упорные бои с целью вырваться из немецкого окружения, но на третий день натиск советских войск стал спадать. К тому времени командующие 6-й и 57-й армиями (генералы А.М. Городнянский и К.П. Подлас) погибли на Барвенковском плацдарме. В Харьковском котле солдаты Красной армии, в основном атакуя по ночам, почти неделю пытались прорвать кольцо окружения. Но кольцо захлопнулось прочно, и красноармейцы тысячами гибли в свете немецких осветительных ракет. Возле германских окопов возникли целые валы из мертвых тел. Спастись удалось лишь одному из 10 красноармейцев 6-й и 57-й армий, попавших в «Барвенковскую мышеловку». Паулюс стал героем нацистской прессы. Фюрер наградил его Рыцарским крестом и отправил ему поздравление, в котором выражал «восхищение успехом 6-й армии, сумевшей разгромить численно превосходившего противника».
Такой победы немцы еще не одерживали — находясь на грани поражения, они в течение нескольких дней достигли громадного успеха. В ушах немецких солдат звучали победные реляции — Керчь и Харьков, две битвы на окружение и две победы. Немецкая армия на Востоке опять доказала свое безусловное превосходство над противником. Теперь вермахт стремился отбить у Красной армии Ростов-на-Дону. Моральный дух вермахта был очень высок, чему способствовали его успехи, хорошая погода и поступление в войска новых видов вооружений. Ужасы прошлой зимы на время забылись. «Мы все страдали от раздвоения личности, — вспоминал граф Клеменс фон Кагенек, лейтенант 3-й танковой дивизии, вскоре получивший Рыцарский крест с Дубовыми листьями. — Мы стремительно и даже радостно двигались вперед, но в то же время знали, что зимой враг вновь перейдет в контрнаступление». Немцы почти забыли, что Россия с ее необъятными просторами, суровым климатом и плохими дорогами способна перемолоть всю их современную технику и заставить маневренную армию вернуться к тактике времен Первой мировой войны. В письме домой генерал Штрекер описывал русские просторы как «океан, способный поглотить любого, кто осмелится в него войти».
В майских событиях под Харьковом в еще большей степени, чем в операциях 1941 г., проявились некомпетентность Сталина, рабская покорность командования Юго-западным фронтом и безволие начальника Генштаба А.М. Василевского. При несомненном оперативном таланте, он смертельно боялся противоречить Сталину. В целом созданная в СССР в начале войны Ставка Верховного Главнокомандования и ее промежуточные органы в виде главных командований направлений почти на всем протяжении первого периода войны действовали крайне некомпетентно. Боязнь инициативы и ответственности довлела над советскими командирами всех звеньев, а высокие морально-политические качества и личная храбрость не могли заменить оперативного мастерства и способности быстро принимать правильные решения. Естественно, что при таких условиях процветало очковтирательство: свои потери советские командиры всех рангов принижали, немецкие преувеличивали; высшие штабы не обладали объективной информацией и ставили перед войсками невыполнимые задачи.
Жуков четко определил положение военной власти в СССР в годы войны: «Ставка — это Сталин, ГКО — это Сталин, Политбюро — это Сталин». Члены Ставки никогда не собирались, с членами Ставки Сталин не считался. Ставка была фикцией коллегиального руководства. Так, Василевский, находясь на посту начальника Генштаба, не был членом Ставки.
В военном искусстве выдающимися считаются победы, которые добыты малой кровью и умением, а не числом. В основе такого подхода лежит справедливое убеждение в том, что человеческая жизнь, — несмотря даже на войну, — это высшая ценность. В противном случае и война теряет смысл… Военный историк Н.Г. Павленко отмечал, что превосходство обычно рассматривается с двух сторон: количества и качества. Каждая из сторон в известной мере компенсирует другую. Так, плохое вооружение компенсируется его большим, чем у противника, количеством, слабость подготовки войск — их численностью. Если же одна из сторон превосходит другую по многим качественным показателям (подготовка войск, уровень командования, качество боевой техники), то даже значительное численное превосходство другой стороны в силах и средствах не даст желаемого результата. До конца 1942 г. борьба на советско-германском фронте обычно развертывалась при качественном превосходстве противника. Если в чем-то Красная армия и превосходила противника (например, танк Т-34), то это преимущество часто сводилось на нет низким уровнем подготовки танковых экипажей и недостатками в управлении войсками. Танковые соединения Красной армии готовились в такой спешке, что практика вождения у многих водителей исчислялась несколькими часами. Они не умели исправлять в танках даже малейшие технические неисправности, поэтому уже на подходе к полю боя терялось много машин. С другой стороны, генерал-лейтенант вермахта Эрих Шнейдер отмечал, что в Красной армии весьма искусно использовали минометные вооружения — 122-мм миномет принял на себя основную часть тактических задач, которые в вермахте обычно решались дивизионной артиллерией. По советскому образцу в 1944 г. немцы создали минометные батальоны, которые стали настоящим кошмаром для союзников после открытия Второго фронта.