prusyalı bir general olan babası gibi o da genç yaşta orduya katıldı. 1908'de katıldığı kaiser'in ordusuyla 1.dünya savaşını gördü. statik siper savaşının vahşetinden sakınmak için gelecek savaşlarda kullanılabilecek taktikler üzerine kafa yordu. savaştan sonra motorize ikmal birimleri üzerinde çalışmaya başladı ve ilerleyen yıllarda panzer birliklerini yarattı. geliştirdiği blitzkrieg taktikleriye ve kurduğu panzer tümenleri ile büyük başarılara imza attı. 

herkes ona "hızlı heinz" , panzer birliklerine ise "guderian'ın tankları" diyordu. 1938'de ünlü kitabı "achtung panzer! - dikkat tank!"ı yazdı. aynı yıl zırhlı birlikler komutanlığı'na getirildi. 1941'de komuta ettiği 4.panzer ordusu ile moskova'ya en çok yaklaşan o oldu. hitler'in 1941 yazında ağırlık merkezinin kiev ve leningrad'a kaydırılması kararına karşı çıkarak bir an önce moskova'nın alınması gerektiğini savundu. bu hitler'le arasının açılmasına neden oldu. kararının doğruluğu onu koruyamadı ve 25 ekim 1941'de görevinden alındı. 

durumun kötüye gittiğini gören hitler şubat 1943'te guderian'ı zırhlı birlikler genel müfettişliği'ne getirdi ve ondan panzer ordularını organize etmesini istedi. 1944'teki suikast girişiminden sonra hitler onu zeitzler'in yerine genelkurmay başkanı yaptı. guderian'ın çabaları savaşın kötü gidişini değiştirmeye yetmedi, herşey için çok geçti. 21 mart 1945'e kadar görevinde kaldı. guderian büyük bir askeri dehaya sahipti, askerlerini iyi tanıyor, onlardan ne isteyebileceğini biliyordu. teknik konulardaki bilgisi engindi, cephede mükemmel bir komutandı. tarihçiler tarafından nazi almanyası'nın en büyük komutanı olarak kabul edilir.

3,5 senede açilamamis bati cephesinin (1. dünya savasinda) kilidini 3,5 saatte açmis (10 gün içinde) ardenler üzerinden meuse nehrine ulasmis oradan da abbeville üzerinden mans denizine ulasarak 1 milyon müttefik askerini torbaya sokmustur.

piyadeleri beklemiyor diye bir ara von rundsted tarafindan görevinden alinmis ancak hemen akabinde hitler tarafindan cüretkar ve korkusuz savasmasi nedeniyle görevine iade edilmistir.

meuse nehri üzerine bir fransiz hücumunda alman uçaksavarlari çok iyi bir gününde iken 100 kadar fransiz uçagi düsürülmüs ve cepheye gelen rundsted guderian'a:'söyleyin bakalim guderian,bu senlik hergün var mi?' demistir.

guderian ise:'jawohl her general jawohl' (evet sayin general) diye cevap vermistir.

ayrica 1941'de rusya cephesindeki ilk hücumlarindan birinde torbaya aldigi rus askeri sayisi 655.000'dir. bu dünya tarihinde alinan en yüksek esir sayisidir.