Johann Georg Albrechtsberger wurde am 03.02.1736 in Klosterneuburg als Sohn des Landwirts und Fuhrwerkers Jakob Albrechtsbergers geboren.

Im Alter von gerade einmal sieben Jahren kam er, wie sein älterer Bruder Anton Johann, als Chorknabe an das Stift Klosterneuburg. Er lernte Orgel sowie erste Grundlagen der Musiktheorie kennen.

Im Alter von 13 Jahren ging er als Chorknabe aufs Stiftsgymnasium nach Melk und studierte ab 1753 am Jesuitenkolleg in Wien Philosophie. In diesen Jahren schloss Albrechtsberger mit dem Komponisten Michael Haydn eine enge Freundschaft. Er lernte auch den bedeutenderen der Brüder, Joseph Haydn kennen.

In den Jahren 1755 bis 1757 fand der junge Musiker eine Anstellung als Organist im ungarischen Raab und bis 1759 ging er dann an die Wallfahrtskirche Maria Taferl nach Niederösterreich, wo er ebenfalls als Organist eine Anstellung fand.

Im Jahre 1759 trat Albrechtsberger die angesehene Stelle eines Stiftsorganisten in Melk an. Er nutzte die umfangreichen Archive seiner neuen Wirkungsstätte für Forschungen und Studien in der kirchlichen als auch weltlichen Musik. In jener Zeit fiel er auch dem späteren Kaiser Joseph II. auf. Im Jahre 1766 endete seine Zeit auf Grund eines Zwischenfalls und er ging bis 1768 wieder zurück nach Raab.

Es folgte seine Berufung als Organist und Orgelbauer nach Wien. Im Jahre 1770 wurde Albrechtsberger Organist bei St. Stephan und im folgenden Jahr die Aufgaben eines zweiten Hoforganisten und Chorregenten der Karmeliterkirche.

Am 09.05.1791 wurde Wolfgang Amadeus Mozart als Adjunkt des Domkapellmeisters Leopold Hofmann angestellt. Kurz vor seinem Tode wünschte sich Mozart († 05.12.1791) Albrechtsberger als Nachfolger. Er stieg zum ersten Organisten auf. Zwei Jahre später avancierte er dann zum Domkapellmeister, als Nachfolger Hofmanns, des Wiener Stephandoms. In dieser Position verblieb er bis zu seinem Tode im Jahre 1809.

Im Jahre 1798 wurde der Domkapellmeister Albrechtsberger in die schwedische Musikakademie aufgenommen. Die meisten der seinerzeit in Wien lebenden Musiker gehörten zu seinem Freundeskreis.

In seiner musiktheoretischen Arbeit stützte sich der Musiker Johann Georg Albrechtsberger auf »Gradus ad Parnassum«, das im Jahre 1725 durch J.J. Fux veröffentlicht wurde, sowie auf die Werke Carl Philipp Emanuel Bachs (1714-1788) und Johann Philipp Kirnbergers (1721-1783) und Marpurgs. Es gelang ihm die Vokal- und Instrumentalpolyphonie auf Basis dieser Musiktheoretiker zu vereinigen, was er in seinem Werk »Polyphone Klavier- und Orgel-Werke«.

Das Werk Albrechtsberger konzentrierte sich insbesondere auf dem Gebiet der geistlichen Chormusik, sein kirchenmusikalisches Werk umfasst unter anderem 35 Messen sowie zahlreiche Kompositionen für Orchester, Kammerensembles und Soloinstrumente. Albrechtsberger unterrichtete auch und zu seinen Schülern gehörten Musikpersönlichkeiten wie Carl Czerny, Ferdinand Ries, Joseph von Eybler und Johann Nepomuk Hummel oder auch Ludwig van Beethoven. Über letzteren sagte Albrechtsberger:

»[Er wird] … nie was Ordentliches machen.«

Albrechtsberger war mit Rosalia Weiß, Tochter eines Bildhauers aus Eggenburg. Das Paar hatte insgesamt 15 Kinder.

Johann Georg Albrechtsberger starb am 07.03.1809 und wurde auf dem Sankt Marxer Friedhof in Wien in einem Schachtgrab beigesetzt.