Родился 7 ноября 1958 года в Кировоградской области Украинской ССР. Служил в Советской армии в десантных войсках.

В 1985 году окончил юридический факультет Ленинградского государственного университета имени А.А.Жданова по специальности "юрист-правовед". После его окончания с 1985 г. до 1989 г. работал сначала стажером, потом прокурором и старшим прокурором Ленинградской прокуратуры.

В 1989-1990 гг. - начальник юридического отдела концерна "Монолит-Кировстрой" (г. Санкт-Петербург), главный юрисконсульт Ассоциации морских торговых портов СССР.

С 1990 по 1991 г. работал заместителем начальника юридического управления Ленгорисполкома.

В 1991-1993 гг. - начальник юридического управления Ленинградского (Санкт-Петербургского) горсовета. В 1993 году стал одним из соучредителей юридической фирмы "Конвент".

Весной 1994 г. Д.Козак баллотировался кандидатом в депутаты Законодательного Собрания Санкт-Петербурга. Выборы в округе были признаны несостоявшимися.

С cентября 1994 г. по январь 1999 г. - председатель юридического комитета мэрии Санкт-Петербурга. Сохранил за собой этот пост и после победы на выборах губернатора Владимира Яковлева.

Июнь 1996 - январь 1999 гг. - вице-губернатор Санкт-Петербурга. В январе 1999 года уволился из администрации по собственному желанию.

С января по май 1999 года работал в юридической фирме "Нева-Юст". Входил в Совет директоров Санкт-Петербургского Банкирского дома.

В мае 1999 года был приглашен на работу в Администрацию Президента РФ на должность заместителя руководителя АП по правовым вопросам.

С августа 1999 по май 2000 года - министр — руководитель Аппарата Правительства РФ. Зимой 1999 — 2000 гг. накануне досрочных президентских выборов курировал разработку проекта стратегического развития России до 2010 года, которой занимался "Центр стратегических разработок" (центр Грефа). Ушел в оставку вместе с правительством после избрания Владимира Путина на пост президента.
 
В мае 2000 года кандидатура Козака была предложена комитетом Совета Федерации на должность Генерального прокурора РФ, но это назначение так и не состоялось: президент предложил сенаторам для утверждения Владимира Устинова.

В июне 2000 года был назначен заместителем Руководителя Администрации Президента РФ. Вошел в состав Совета при Президенте РФ по вопросам совершенствования правосудия.

В 2000 году был избран председателем Совета директоров ОАО "Совкомфлот".

В июле 2003 года вошел в состав Правительственной комиссии по проведению административной реформы (заместитель председателя).

В октябре 2003 года назначен первым заместителем Руководителя Администрации Президента РФ.

В январе 2004 года возглавил Комиссию по разрешению конфликта интересов Совета по борьбе с коррупцией при Президенте РФ.

В марте 2004 года указом Президента РФ назначен на должность Руководителя аппарата Правительства РФ в ранге министра в Правительстве Михаила Фрадкова. В мае 2004 года после вступления в должность избранного на следующий срок Президента РФ Владимира Путина вновь назначен на этот пост.

В апреле 2004 года возглавил Правительственную комиссия по проведению административной реформы.

13 сентября 2004 года, вскоре после бесланской трагедии, на волне усиления борьбы с терроризмом Дмитрий Козак освобожден от должности Руководителя Аппарата Правительства РФ и назначен Полномочным представителем Президента РФ в Южном федеральном округе. (Заместителем Д.Козака на посту полпреда президента в ЮФО является бывший министр труда и социального развития А.Починок, общая численность аппарата полпредства насчитывает ок. 100 чел.)

Одновременно, Козак возглавил Комиссию по координации действий федеральных органов исполнительной власти в Южном федеральном округе. В Комиссию вошли многие федеральные министры, поэтому это назначение можно расценивать как значительное расширение полномочий Д.Козака.

Одна из главных задач, заявленных Дмитрием Козаком на посту полпреда, — необходимость ликвидировать клановость власти в южных республиках. Одним из его первых шагов стала инвентаризация "хозяйства": эксперты федеральных министерств проанализировали состояние экономики регионов Южного федерального округа.

В начале июля 2005 года была обнародована "Справка об обстановке в Республике Дагестан и мерах по ее стабилизации", подготовленная аппаратом полпреда Президента РФ в ЮФО. В ней помимо прочего сообщалось о многочисленных случаях нецелевого использования бюджетных средств и коррупции в руководстве республики.

Опираясь на полученные данные, Козак инициировал разработку поправок в Бюджетный кодекс, а также в законы "Об общих принципах организации законодательных и исполнительных органов государственной власти субъектов РФ" и "Об общих принципах организации местного самоуправления в РФ". 23 сентября 2005 г. Дмитрий Козак объявил, что передал в Кремль пакет законопроектов, направленных на стабилизацию ситуации в регионе. Один из них, в частности, предлагает вводить внешнее кризисное управление в дотационных субъектах, к числу которых относятся, фактически, все республики Северного Кавказа.

8 февраля 2006 г. на закрытом заседании у полпреда президента России в Южном федеральном округе был принят план ликвидации последствий осетино-ингушского конфликта, разработанный под руководством Дмитрия Козака ("Коммерсант").

20 февраля 2006 г. план Козака, поддержанный осетинской стороной и предусматривающий возвращение ингушских беженцев не в места их прежнего продивания, а в специально строящийся для них на территории Пригородного района РСО-А поселок Новый, был отвергнут Народным собранием Ингушетии.

31 марта 2006 года во время визита в поселок Новый Дмитрий Козак сообщил, что на обустройство вынужденных переселенцев ингушской национальности из Пригородного района Северной Осетии выделено 1,7 миллиарда руб. Но уже в июле 2006 г. прошла длившаяся почти месяц голодовка вынужденных переселенцев-ингушей, желающих вернуться в те села и в те дома, где они проживали до конфликта 1992 года. За ней последовали резкие выступления президентов Северной Осетии и Ингушетии, ознаменовавшие собой очередную эскалацию напряженности в регионе и фактический провал "плана Козака".

24 сентября 2007 года, при формировании нового состава кабинета министров РФ, Д.Козак был назначен главой Министерства регионального развития России. Дмитрий Козак сменил на этом посту Владимира Яковлева, который возглавлял министерство с момента создания, т.е. с 13 сентября 2004 года.

В декабре 2007 года Д.Козак был назначен заместителем председателя оргкомитета по подготовке форума "Азиатско-тихоокеанское экономическое сотрудничество".

12 мая 2008 года новый премьер-министр РФ В.Путин произвел назначения в правительство РФ, сохранив за Д.Козаком пост руководителя Минрегионразвития.

С 14 октября 2008 года Дмитрий Козак - вице-премьер правительства России, курирующий подготовку к Олимпийским играм 2014 года в г.Сочи.

С 23 марта 2014 года курирует в правительстве России вопросы, связанные с новыми субъектами РФ — Республикой Крым и Севастополем.

18 мая 2018 г. вновь назначен Заместителем Председателя Правительства Российской Федерации. В сферу его ответственности вошли ТЭК и промышленность.

Действительный государственный советник РФ I класса.

Женат. Имеет двоих сыновей.