Карл Дениц родился в Грюнхауме возле Берлина в 1891 году, поэтому он был младше Хортона на 8 лет. Деницы были старинной прусской фамилией, и их предки были известными землевладельцами. Из этой семьи выходили протестантские пасторы, офицеры и чиновники. Карл Дениц рос послушным и спокойным мальчиком, в противоположность буйному пирату Хортону. Наверное, сказывались прививавшиеся веками прусские порядок и дисциплина.
В 1910 году он поступил на службу в Германский Императорский флот, и в начале Первой Мировой войны служил за границей. В своих мемуарах он вспоминает: «Это был период, который произвел глубокое впечатление на меня и усилил мое чувство патриотизма. Я видел Германию издалека, поэтому я мог сравнивать ее с другими странами и народами. Издалека ее слабости не были столь заметны».
После начала войны и до 1916 года Дениц служил на крейсере «Бреслау». В течение этих 2 лет «Бреслау» действовал против русского флота на Черном море. Превосходство русских в силах превращало все операции в игру «кошки-мышки», и этот опыт оказался исключительно полезным для Деница позднее.
В 1916 году его переводят на подводные лодки, и он сразу становится энтузиастом подводного флота. Хотя он не обладал порывистым характером, отличавшим Хортона, Дениц добился заметных успехов в качестве командира подводной лодки. Он предложил много оригинальных идей в области подводной войны. Еще до окончания военных действий он предложил тактику «волчьих стай».
В октябре 1918 года его лодка была потоплена на Средиземном море, Дениц попал в плен вместе со своим экипажем и оказался в лагере военнопленных в Англии, откуда был репатриирован в июле 1919 года. Когда он вернулся в Германию, начальник службы личного состава нового германского флота спросил у него, намерен ли он оставаться на военной службе. Версальский договор запрещал Германии иметь подводные лодки, однако германское командование не верило, что этот запрет будет слишком долгим. Поэтому Дениц решил продолжить свою военную карьеру при условии, что его вернут служить на подводные лодки, как только они снова появятся.
Однако этот запрет действовал до 1935 года. Поэтому с 1920 года и до подписания англо-германского морского договора Дениц служил на надводных кораблях. Сначала он командовал эсминцем, потом флотилией эсминцев, позднее стал флагманским штурманом вице-адмирала фон Лёвенфельда, командующего германскими морскими силами на Балтике, наконец Дениц был назначен командиром крейсера «Эмден». Этот период его службы, хотя и не походил в точности на карьеру Хортона, дал Деницу серьезные познания в тактике действий надводных кораблей. И это опять-таки принесло ему большую пользу в будущем.
В 1935 году, когда Германии снова было разрешено строить подводные лодки, главнокомандующий адмирал Редер поставил перед ним задачу возрождения подводного флота, так как Дениц считался выдающимся офицером с огромным опытом службы на подводных лодках. Однако, как говорит сам Дениц, новое назначение его не слишком устраивало. В новом германском флоте, который строился согласно договору, подводные лодки должны были играть вспомогательную роль, и Дениц опасался, что их могут просто отодвинуть на задний план и забыть.
Однако быстро выяснилось, что он ошибается. Немцы имели секретные планы широкого строительства подводных лодок, подготовленные еще в 1932 году. И буквально через 2 месяца Дениц уже командовал флотилией подводных лодок.
Как только Дениц вернулся на подводные лодки, весь его былой энтузиазм вспыхнул с новой силой. Он с головой окунулся в подготовку первых подводных лодок, которые Германия получила за последние четверть века. Дениц не получал приказов, инструкций и указаний, поэтому он смог начать подготовку на основе своих собственных идей.
Тренировки начались 1 октября 1935 года. По словам Деница, они были направлены на то, чтобы экипажи «смогли полностью привыкнуть к условиям жизни на борту корабля, поближе познакомились с морем в любую погоду. Требовалось добиться абсолютной точности штурманской работы, особенно навигации по звездам». Экипажи должны были полностью освоить довольно специфический класс военного корабля. Период подготовки длился 6 месяцев, этот период был разбит на несколько частей. Дениц пишет: «Например, каждая подводная лодка должна была провести 66 атак в надводном положении и такое же количество атак в подводном положении, прежде чем в декабре 1935 года начать первые учебные торпедные стрельбы».
Главной целью учений было подготовить подводные лодки к войне. С тевтонской педантичностью Дениц пытался предусмотреть все мыслимые варианты военных операций. «Приближенность обучения к боевым условиям находила свое отражение во всех элементах подготовки и в правилах, определявших поведение лодки в районах, которые контролировал противник: в требовании скрытности (если подводная лодка находилась в надводном положении, ее командир должен был уметь определять или даже чувствовать шестым чувством, обнаружен он противником или нет); в решении, когда подводной лодке при обнаружении самолета или надводного корабля нужно погружаться, а когда можно остаться в надводном положении; в скрытности атаки с максимально экономным и грамотным использованием перископа и требовании умело использовать во время ночных действий фон, освещение, ветер, волнение и «минимальный видимый силуэт». В процессе боеовй подготовки отрабатывались такие тактические приемы, которые вероятнее всего могли быть использованы при ведении настоящих боевых действий. Это находило отражение в следующих требованиях: соблюдать скрытность при поддержании контакта с противником и при выходе в голову конвоя, своевременно менять дневную тактику на ночную и наоборот; при встрече с противолодочными силами противника в зависимости от обстановки отходить в надводном или подводном положении, оставаться на перископной глубине и вести наблюдение или уходить на глубину и действовать вслепую, уходить самым полным ходом, применяя зигзаг, или бесшумно двигаться малым ходом; безукоризненно знать материальную часть и устройство подводной лодки, владеть техникой подводного плавания на всех глубинах; сочетать огневую подготовку артиллерийских и зенитных расчетов с отработкой срочного погружения».
Всего 2 офицера во всем подводном флоте имели военный опыт — сам Дениц и флагманский механик флотилии капитан 1 ранга Тедсен, который служил старшим механиком на одной из лодок в годы Первой Мировой войны, а позднее под командованием Деница на эсминце G-8. Дениц и Тедсен выходили в море по очереди на каждой лодке и сумели привить свой энтузиазм экипажам. Кроме того, зародились близкие взаимоотношения между Деницем и его командирами. Экипажи начали полностью доверять своему командующему. К концу первого года тренировок Дениц не только сам перестал считать лодки сугубо оборонительным оружием, он сумел избавить командиров и экипажи от чувства неполноценности, который они испытывали, слыша высказывания, будто подводная лодка потеряла свое значение и не сыграет никакой роли в будущей войне.
Осенью 1936 года Дениц был назначен командующим подводными силами. С этого дня и до конца войны он руководил подводными лодками. Даже после того, как 30 января 1943 года он сменил гросс-адмирала Редера на посту главнокомандующего флотом, Дениц сохранил за собой руководство подводным флотом.