Das Ende des Zweiten Weltkriegs und der Zusammenbruch der nationalsozialistischen Herrschaft bewahren den Alten Jüdischen Friedhof an der Battonnstraße vor der vollständigen Zerstörung.

Schon Anfang April 1933 wandte sich die Gauleitung an den Oberbürgermeister und empfahl die Entfernung der Grabsteine, deren älteste aus dem 13. Jahrhundert stammten, sowie den Abriss der Umfassungsmauer und die Umwandlung des Friedhofs in einen „Volkspark“ oder einen „Kinderspielplatz“. Im so genannten Judenvertrag vom 3. April 1939 erwarb die Stadt den Alten Jüdischen Friedhof. Maßnahmen zur Beseitigung unterband der Beginn des Zweiten Weltkriegs.

1942 suchte das städtische Bauamt ein zentral gelegenes Gelände als Schuttabladeplatz im Falle größerer Gebäudeschäden bei Luftangriffen auf die Altstadt. Im November 1942 ordnete der Oberbürgermeister an, hierfür den von 1270 bis 1828 benutzten Alten Jüdischen Friedhof an der Battonnstraße abzuräumen. Die etwa 7.000 Grabsteine sollten in zur Wiederverwendung in Bruchsteinmauern geeignete Stücke zerschlagen und etwa 50 Bäume gefällt und gerodet werden. Das Historische Museum hatte wertvolle Grabsteine zu bezeichnen. 175 Tafeln wurden auf den Jüdischen Friedhof an der Rat-Beil-Straße verbracht und so vor dem Werk der Vernichtung bewahrt. Nach dem Zweiten Weltkrieg kehrten sie zurück und wurden neu aufgestellt. Da keine Unterlagen existierten, war dies nicht mehr an den alten Standorten möglich.

Zum Ende des Zweiten Weltkriegs waren etwa zwei Drittel der Grabsteine zerstört. Nur noch ein kleiner Teil des Friedhofs im östlichen Viertel ist in seinem ursprünglichen Zustand erhalten. Zerschlagene, zu Haufen geschichtete Grabsteine, die nicht mehr abgefahren wurden, erinnern stumm an das Zerstörungswerk.

Der Alte Jüdische Friedhof stellt heute den Mittelpunkt der Gedenkstätte Neuer Börneplatz dar. An seiner Außenmauer sind 11.957 Namensteine angebracht, die an die in der NS-Zeit ermordeten jüdischen Menschen aus Frankfurt am Main erinnern.