Abraham Mendelssohn-Bartholdy war eines der zehn Kinder des jüdischen Philosophen und Aufklärers Moses Mendelssohn (1729-1786) und seiner Gattin Fromet Gugenheim (1737-1812). Er war der Bruder des Bankiers Joseph Mendelssohn und der Onkel der Maler Jonas und Philipp Veit.

Nach dem Tode Moses Mendelssohns im Jahre 1786 zog die Familie nach Neustrelitz. Erst als Heranwachsender kehrt er nach Berlin zurück, wo sein Bruder zurückgeblieben war, und durch diesen in die Berliner Gesellschaft eingeführt wurde.

Am 29.01.1792 gehörte Abraham Mendelssohn Bartholdy zu den Gründungsmitgliedern der »Gesellschaft der Freunde« in Berlin. Neben ihm ging die Initiative zur Gründung dieses Hilfswerks von Issac Euchel, Aaron Wolfssohn, seinem Bruder Joseph, Natham Oppenheimer, Aron Neo und David Friedländer aus. In dieser Gesellschaft schlossen sich zunächst aufgeklärte jüdische Junggesellen zusammen, die sich aktiv an den tagespolitischen Auseinandersetzungen in Preußen beteiligen wollten. So mischte man sich in die Diskussion um »die frühe Beerdigung« ein. In den 1820er Jahren sollte sie sich unter dem Einfluss von Zunz, Moser und Gans zu einem kulturellen Zentrum der jüdischen Gemeinde Berlins entwickeln. Dank der Freundschaft zu Karl Friedrich Zelter, einem väterlichen Freund, wurde er Mitglied in der Singakademie.

Im Jahre 1797 ging er nach Paris, wo er im Bankhaus Fould & Co seine Ausbildung erhielt. Nach seiner Rückkehr nach Berlin trat er im Jahre 1804 in die von seinem Bruder Joseph Mendelssohn im Jahre 1795 gegründete Privatbank Mendelssohn ein. Zunächst geht er mit seiner Frau nach Hamburg um dort ein weiteres Bankhaus zu gründen. Dort lebte die junge wachsende Familie bis zur Flucht vor den napoléonischen Zollbehörden im Jahre 1811. Von nun an war Berlin sein fester Wohnsitz, dass er jedoch immer wieder für längere Geschäftsreisen verließ. So war er durch die Abwicklung französischer Reparationszahlungen über das Bankhaus Mendelssohn gezwungen sich monatelang in der französischen Hauptstadt aufzuhalten.

Im Jahre 1815 siedelte sich das Bankhaus, dass seit seiner Gründung im in der Spandauer Straße ansässig war, in die Jägerstraße um. In diesem Umfeld etablierte sich in den nachfolgenden Jahrzehnten das Berliner Bankenviertel. Im Januar 1822 verließ Mendelssohn-Bartholdy das Bankhaus. Er war nun, mit wechselndem Glück, als Finanzmakler tätig. Seit dem Jahre 1825 war er auch unbezahlter Stadtrat in Berlin.

Durch regelmäßige Sonntagskonzerte entwickelte sich sein Haus zu einem gesellschaftlichen Mittelpunkt des Berliner Lebens.

Mehr als 10 Jahre überlegte Abraham Mendelssohn Bartholdy zusammen mit seiner Frau Lea ob er nicht zum Schutze seiner Kinder Preußen verlassen sollte oder zum Christentum konvertieren sollte. Als letzter der vier konvertierten Geschwister Mendelssohn trat er im Herbst 1822 zum Christentum über, während er die Kinder bereits 1816 taufen ließ.

Bereits bei der Taufe der vier Kinder hatte er beschlossen, dass diese später als Markierung der Konversion den Zusatznamen Batholdy annehmen sollten. So hatte sich bereits sein Schwager Jacob Salomon Batholdy, ein preußischer Diplomat und Kunstsammler in Italien, nach seiner Taufe genannt. Diesen Namen übernahm er von der Batholdischen Meierei, einen Familienbesitz am Schlesischen Tor. Sein Schwager empfahl ihm, auch diesen Namen zu benutzen um sich von den nicht konvertierten Familienmitgliedern zu unterscheiden. Auch er übernahm den Doppelnamen nach seiner Taufe für sich selbst.

Im Jahre 1804 heiratete er Lea Salomon, die Tochter des fridizianischen Hofbankiers Itzig. Über diese Heirat gelangte er auch an das Berliner Bürgerrecht.

Aus der Ehe gingen insgesamt 4 Kinder hervor. Seine erstgeborene Tochter Fanny (1805-1847) heiratete den Kunstmaler Wilhelm Hensel, Zugleich war sie auch eine bekannte Komponistin. Ihr Bruder Felix Mendelssohn-Bartholdy (1809-1847). Sein Sohn Paul, obwohl auch musisch begabt, hingegen trat in das Bankhaus ein und leitete dieses ab 1871 als Seniorchef. Hier förderte der Vater die musikalische Neigung seiner Kinder, die er selbst auch schon als junger Mann hatte.

Abraham Mendelssohn-Bartholdy starb am 15.11.1835 im Alter von 58 Jahren. Seine letzte Ruhestätte fand er auf dem Dreifaltigkeitskirchhof in Berlin-Kreuzberg. Seine Frau Lea ist neben ihm begraben. Heute gehört die Grabstätte zu den Ehrengräbern des Landes Berlin.