2004年3月4日,科勒辞去职务,因为他被提名为总统候选人。科勒在第一轮投票中以604票对580票击败了格辛-施万。有20票投给了小候选人,而一名选民因心脏病发作而缺席。科勒于2004年7月1日接替约翰内斯-劳担任总统,任期5年。德国的总统职位在很大程度上是一个礼仪性的职位。然而,它也被赋予了相当的道德权威。从2004年到2006年初,夏洛滕堡宫一直是德国总统的所在地。这是因为夏洛腾堡宫(Schloss Bellevue)已被翻新。
科勒在当选后说,"爱国主义和世界主义不是对立的"。科勒在介绍他对德国的设想时还说,"德国应该成为一个思想的国度"。
2005年7月,应总理格哈德-施罗德的要求,他暂停了联邦议院的职务。施罗德失去了对联邦议院的信任动议。这导致2005年9月联邦议院提前选举。
2006年10月,他作出了一项影响深远的决定,否决了一项法案。该法案将把德国航空安全管理局(Deutsche Flugsicherung)转为私人所有。联邦议院通过了这项立法,但作为总统,科勒有权不将其签署为法律,如果他认为该法案违反宪法。2006年12月,他没有签署《消费者信息法》,因为宪法不允许联邦政府指示市政当局。这只能由德国各州来做。此前,德国总统选择拒绝法案的情况只有6次。在大多数情况下,涉及的都是不太重要的立法。他的否决是德国近代史上第一个显著的例子。
在2007年向全国发表的圣诞讲话中,科勒敦促政府更快地推进改革。他还批评了在邮政部门实行最低工资的做法,指出"竞争性雇主无法支付的最低工资会破坏就业"。
2008年5月22日,科勒表示,他希望成为连任总统的候选人。2009年5月23日,他获得联邦议会的再次选举,并于2009年7月1日宣誓连任。
2009年11月,科勒拒绝在没有进一步资料的情况下签署"Zugangserschwerungsgesetz"(访问障碍法),使其成为法律。这项法律旨在增加访问万维网儿童色情网站的难度,许多法律专家认为该法是违宪的。
辞职
2010年5月31日,科勒宣布辞去德国总统职务。此前,德国政界人士批评了科勒关于海外军事部署的言论。
他说德国在国外的军事任务也是为了确保贸易安全,因此受到了批评。他后来说,他的评论是指索马里沿海的海盗活动。科勒说,有人指责他在采访中越俎代庖,支持违宪立场,这种指责是没有根据的。在争端中得不到支持后,科勒于2010年5月31日下台。他发表声明说:"我宣布辞去总统职务,立即生效"。这次辞职被认为是一个"意外"。随后几天,他被批评为不能处理批评,同时自己也是一个严格的批评者。他史无前例地立即辞职的行为也被认为是对自己的职位缺乏尊重。
按照德国宪法的规定,空缺职位的权力由现任联邦参议院议长延斯-伯恩森执行,直到2010年6月30日克里斯蒂安-武尔夫当选为总统。