Die ersten Beisetzungen fanden vermutlich um 1690 statt. Der Friedhof an der Münsterstraße lag weit vor der Stadt – nicht ungewöhnlich für jüdische Begräbnisstätten.
Die Gräber lagen auf einem kleinen Hügel, was dem Friedhof die Bezeichnung „Judenberg“ einbrachte. Den Wunsch, den Friedhof durch eine bauliche Einfassung abzusichern, lehnte die Stadt 1826 ab. Erst Ende des 19. Jahrhunderts erhielt das Gelände eine Umfassungsmauer mit einem Eisentor.
Um 1909 bestand der Plan einer Verlegung der Begräbnisstätte. Er sollte nun an den evangelischen Friedhof angrenzen. Diese Pläne wurden jedoch nicht umgesetzt.
