Johann Heinrich Grentz wurde am 05.02.1766 als zweiter Sohn des Breslauer Münzmeisters Johann Friedrich Grentze geboren, der im Jahre 1779 als Generalmünzdirektor nach Berlin berufen wurde. Schon früh lernte Grentz über seinen Vater bedeutende Größen des preußischen Geisteslebens, wie Lessing, Immanuel Kant, Moses Mendelssohn oder Christian Garve, kennen. Seine Mutter war eine Cousine des preußischen Prinzenerziehers Jean Pierre Frédéric Ancillon. Er war der Bruder des Publizisten und Historikers Friedrich Grentz, der zu den engsten Mitarbeitern Metternichts gehörte. Sein Bruder Ludwig war Kriegsrat im preußischen Finanzministerium. Über diesen war er auch mit den Baumeister Friedrich Gilly verschwägert.

Carl von Gontard unterrichtete und bildete ihn zwischen 1783 und 1790 an der Berliner Kunstakademie zum Architekten aus. Zwischen 1790 und 1795 folgte ein mehrjähriger Studienaufenthalt in Italien. Er hielt sich hier auch für 3 ½ Jahre in Rom auf. Auch ein längerer Aufenthalt auf Sizilien, wo er griechische Baureste studierte, gehörten zu seinem Studienaufenthalt. Über seinen Aufenthalt in Sizilien verfasste er einen ausführlichen Reisebericht in  »Neue Deutsche Monatsschrift« im Jahre 1795 erschien.

Nach seiner Rückkehr nach Berlin fand Grentz eine Anstellung am Oberhofbauamt und unterrichtete seit 1796 auch an der Akademie der Künste.

Im Jahre 1798 schuf er die Königliche Münze am Friedrichswerderschen Markt, die bereits 1886 wieder abgerissen wurde. Im Jahre 1800 schuf er das Grabmal für seinen Freund und Schwager Friedrich Gilly in Berlin.

Im Jahre 1801 erhielt er auf Betreiben Johann Wolfgang von Goethes eine Freistellung und begab sich nach Weimar. Dort wurde er im Auftrage des Herzogs Carl August tätig und arbeitete am Residenzschloss und weiteren Bauten in Weimar und Bad Lauchstädt, wo er 1802 das Goethe-Theater errichtete. Das Kegeltor sowie das Reithaus und die Schießhaus wurden ebenfalls nach seinen Entwürfen errichtet. Insbesondere in den Innenräumen des Residenzschlosses konnte er die Eleganz seines dekorativen Stils, der durch das umfassende Studium klassischer Vorbilder geprägt war, entfalten.

In Weimar trat der Architekt auch in engeren Kontakt zu Johann Wolfgang von Goethe, Friedrich von Schiller und Christoph Martin Wieland.

Nach seiner Rückkehr nach Berlin im Jahre 1803 wurde Grentz auch Mitglied im Senat der Kunstakademie und zwei Jahre später ordentliches Mitglied und ab 1809 Sekretär der Kunstakademie. Im Jahre 1810 wurde er als Oberhofbaurat zum ersten Direktor der Schlossbaukommission berufen. In dieser Zeit war er mit Wilhelm von Humboldt und Aloys Hirt, den er bereits aus Italien kannte, für den Umbau des Prinz-Heinrich-Palais unter den Linden zur Universität verantwortlich.

Im Jahre 1805 legte er Pläne für die Neugestaltung des Raumes zwischen den Linden und dem Berliner Stadtschloss vor, wo auch ein erster Entwurf der Neuen Wachen von ihm stammte. Dieser Plan wurde ebenso wenig, wie seine Pläne für ein Denkmal Friedrich II. im Jahre 1791, nicht verwirklicht.

Im Jahre 1810 trat Grentz auch der Gesetzlosen Gesellschaft bei.

In den Jahren 1810/11 war er am Umbau des Prinzessinnenpalais gegenüber der neu geschaffenen Berliner Universität beauftragt worden. Durch seine Pläne wurde das 1788 von den Hohenzollern erworbene Gebäude mit Hilfe eines Kopfbaues in die Straßenflucht zwischen Oper und Kronprinzenpalais eingepasst. Schinkel fertigte die Pläne für die Überbrückung mit dem Kronprinzenpalais. Seit 1931 wurde der Anbau als Schinkelmuseum genutzt.

Nach dem Tode der preußischen Königin Luise erhielt er den Auftrag für den Bau eines entsprechenden Mausoleums im Schlosspark Charlottenburg, dass später durch Karl Friedrich Schinkel erweitert wurde.

Am 03.10.1811 starb der Architekt Johann Heinrich Grentz im Alter von nur 45 Jahren in Berlin.