Fue Contralor de la moneda de 1977 a 1981, después de haber sido nombrado por el presidente Jimmy Carter y confirmado por el Senado. Era un banquero de inversiones. Antes de este cargo, fue Superintendente de Banca del Estado de Nueva York y, posteriormente, Comisionado de Vivienda y Desarrollo Comunitario.
Durante su mandato como Contralor, Heimann también se desempeñó como presidente interino de la FDIC y como primer presidente del Consejo de Examen de Instituciones Financieras Federales. Fue un participante activo en el esfuerzo de reforma que levantó los límites y las diferencias entre las tasas de interés que los diferentes tipos de instituciones financieras podrían pagar para atraer depósitos. Regresó a la banca de inversión en 1981, uniéndose a Warburg Paribas Becker.
Su carrera en el sector privado incluye: un socio fundador de Warburg Pincus; Copresidente de Warburg Paribas Becker; y Presidente del Grupo de Instituciones Financieras Globales de Merrill Lynchy Presidente, Merrill Lynch Europa, Medio Oriente y África. Actualmente es Director y Tesorero de la Asamblea Urbana; Director de acción; Director del Banco InterAudi; Director de New Smith Capital; Comité Ejecutivo, Fundación Francesa Americana; Director. Consorcio de Capital Esencial, Deutsche Bank.