На сегодняшний день трудно детально восстановить ход сражения. Можно предположить, что приказ к общему наступлению имперской армии по всему фронту был отдан в полдень 18 или 19 августа, в ответ на мусульманские вылазки, поддержанные лучниками из главной линии. Арабы преднамеренно выбрали это время, поскольку византийцы больше них страдали от жары. Стратегически положение ромеев было относительно выгодным, но тактически они имели несколько проблем. Изрезанный ландшафт, особенно в центре и на правом фланге, предполагал необходимость для наступающих дробить свои силы.
Самого серьезного внимания заслуживало еще и то обстоятельство, что на Вади аль-Рукад имелся только один мост, и в случае его захвата неприятелем все войска на восточном берегу оказывались в мышеловке.
В начальной стадии боя в северном секторе византийская пехота, преодолевая сопротивление заградительных сил неприятеля, повела бодрое наступление в направлении мусульманского лагеря. Беда была в том, что их рвение умело использовалось арабами, которые симулировали беспорядочное отступление и даже начали для вида показной демонтаж лагеря. В то же время, пользуясь складками местности, значительные силы укрылись в засадах и стали ждать своего часа. Вероятно, эта тактика была спланирована ими заранее. В ходе преследования образовался разрыв между пехотой и конницей, в который устремились всадники Халида ибн аль-Валида, атаковав ромейскую кавалерию на фланге, совместно с засадными отрядами, которые теперь вышли на поле. Сопротивление византийской конницы было сломлено, и она была рассеяна. Теперь притворно отходившие части арабской пехоты сделали поворот кругом и контратаковали истощенных ромейских пехотинцев, которые, не выдержав удара с двух сторон, с наступлением сумерек обратились в бегство. Печальным следствием этого стал захват единственного моста через Вади аль-Рукад. Гассаниды, которые стояли на страже этого ключевого пункта, частью дезертировали, частью перешли на сторону врага. Воспользовавшись моментом, Халид ибн аль-Валид напал прямо на лагерь в Джиллике, быстро подавив там всякое сопротивление. Всего за четыре или пять часов весь византийский левый фланг рассыпался.
Первый день боя подошел к концу. После незначительного начального успеха ромеев и последовавшей очень жестокой борьбы, отмеченной и мусульманскими, и византийскими источниками, первая стадия сражения закончилась поражением имперских сил на северном участке посредством клина, вбитого арабами между этими силами и центром. Скорее всего, тактика заманивания неприятеля к своему лагерю, чтобы нарушить взаимодействие между имперскими войсками и прорвать их фронт, была тщательно спланирована заранее командующим Абу Убейда ибн аль-Джар-рахом. В этом он проявил себя более искусным полководцем, чем ромеи, сумев привязать действия своих войск к особенностям местности. К этому времени южное, или правое крыло, и центр имперских сил, базировавшиеся на лагерь в Якузе, перешли Вади аль-Рукад, и дошли на восток до Вади-Аллана. С этого положения они попытались отбросить арабов, прорваться к их ставке и, в свою очередь, охватить центр и правый фланг. Однако Вади-Аллан им перейти не удалось. Поскольку весть о предательстве гассанидов распространилась среди солдат, их моральный дух сильно упал. Ситуация еще ухудшилась, когда, в результате внезапного ночного нападения, арабы захватили лагерь в Якузе, защитники которого разбежались по оврагам или бросились на северо-восток, по дороге на Дамаск.
Потеря этого лагеря на правом фланге и моста через Вади аль-Рукад подразумевала, что главные силы имперской армии были отрезаны как от левого крыла (которое они, возможно, считали еще боеспособным), так и от всех путей отступления. Они были прочно заперты между обрывистыми берегами Вади аль-Рукада и Вади-Аллана на западе и на востоке, и рекой Ярмук на юге. Утром 20 августа арабы начали решающее наступление с севера и с запада, от лагеря в Якузе. Разразившаяся песчаная буря помогла им скрытно подойти к окруженным. Паника охватила ромейские войска, каждый спасался как мог. Много всадников и лошадей сломали себе шею в напрасной надежде перескочить крутые овраги. Многие солдаты вместе со своими командирами складывали оружие и садились на землю в ожидании плена. Но аль-Джаррах приказал в плен никого не брать.
К тому времени организованного сопротивления уже никто не оказывал. Главной задачей ромейских командиров в таком положении было наведение хоть какого-то порядка, но в данном случае это оказалось совершенно невозможным. Хотя многие бросились в поисках спасения к Дамаску, пока мост через Вади аль-Рукад еще не был захвачен арабской конницей, все свидетельства говорят об очень тяжелых потерях имперских войск, как на поле битвы, так и в ходе беспощадного преследования не только до Дамаска, но и далее на север, до самой Эмесы.
Имперская армия на Ближнем Востоке прекратила свое существование, и хотя полевые армии Востока и Армении, отдавшие ей свои части, сохранили боеспособность, но сильно уменьшились в численности, и о воссоздании фронта в Палестине и Сирии для эффективного сопротивления арабам уже не могло быть и речи. Только отдельные гарнизоны крепостей и хорошо укрепленных городов могли еще как-то держаться. Полевым войскам император Ираклий приказал впредь всячески уклоняться от сражений.
Несмотря на противоречия в сообщениях различных источников об этой битве, с годами все более обраставших полулегендарными подробностями, мы можем составить о ней относительно полное представление. Ясно, что имперская армия страдала в основном от двух главных бед. Во-первых, это отсутствие единоначалия. Главнокомандующему Вахану не удалось полностью подчинить себе византийских военачальников и прекратить распри и интриги. Координация действий имперских частей и их связь между собой почти полностью отсутствовала. В результате такой несогласованности создавалось впечатление, что на поле боя вместо центральной, северной и южной группировок фактически действовали две, если не три, отдельные армии. Важный мост через Вади аль-Рукад был доверен потенциально ненадежным войскам, которые частично перешли на сторону врага, частично рассеялись до начала боя, а те, что остались, не сумели дать должного отпора неприятелю. Хотя устройство лагерей вполне соответствовало стандартной византийской практике и положениям военных руководств того времени, вынос далеко от поля боя подвергал их опасности набега мобильных арабских сил, а всю армию — угрозе окружения. Дело в том, что византийцы на собственном горьком опыте были уже хорошо знакомы с этой тактикой кочевников. В нужный момент защита обоих лагерей оказалась удивительно беспомощной. Этот факт особенно важен, поскольку говорит о том, что византийцы существенно недооценили мобильность мусульманской конницы и скорость ее передвижения. В результате все попытки ромеев установить «фронт» закончились весьма печально, а арабы могли свободно перемещаться как вдоль этого фронта, так и поперек, легко прорывая его в ключевых пунктах в любые моменты сражения. Отсутствие связи между имперскими войсками превратило сражение при Джабии-Ярмук в несколько отдельных столкновений, связанных между собою только тем, что результат каждого предыдущего непосредственно влиял на ход и результат последующего, при полном отсутствии тактического взаимодействия частей.
