1569 erbte Peter Rantzau die ehemals 3 km südlich des Schlosses gelegene Burg Ahrensfelde und das umliegende Land von seinem Bruder Daniel Rantzau. An einer idyllischen Stelle im Hunnautal ließ Peter Rantzau ein Adeliges Gut mit dem 1585 fertiggestellten Schloss Ahrensburg errichten. Etwas später entstanden gegenüber dem Schloss die Gutskirche und die sogenannten Gottesbuden, die auch heute noch als Wohnraum für sozial schwache Menschen dienen.
1759 erwarb Heinrich Carl Schimmelmann die Gutsanlage mitsamt Herrenhaus. Schimmelmann verdiente sein Vermögen u.a. im sogenannten "Dreieckshandel" mit Sklaven, war als Gutsherr auf Ahrensburg jedoch sehr um die dauerhafte Verbesserung der Lebensumstände seiner Untertanen bedacht. Ahrensburg blieb sechs Generationen im Besitz der Familie Schimmelmann, bis die Grafen im Jahr 1938 das Schloss verkaufen mussten.
Dank der Initiative des Ahrensburger Hoteliers Hans Schadendorff (1898 - 1967) konnte das Schloss als Kulturdenkmal erhalten bleiben. Das Land Schleswig-Holstein, der Kreis Stormarn, die Kreissparkasse (heute: Sparkasse Holstein) und die Stadt Ahrensburg übernahmen dann die Trägerschaft für den "Verein Schloss Ahrenburg e.V.", der 1938 das Schlossmuseum eröffnete. Nach kriegsbedingter Schließung und Renovierung dient das Schloss seit 1955 ununterbrochen als Museum.
Mehrere umfangreiche Sanierungs- und Restaurierungsarbeiten (1983-1985 und 2009-2015) sorgten dafür, dass das Schloss in neuem Glanz erstrahlt.
Ende 2002 wurde das Schloss in eine Stiftung bürgerlichen Rechts umgewandelt.