Najstarszy cmentarz żydowski w Ostrowcu powstał w drugiej połowie XVII w. Pierwsze informacje o nim pochodzą z 1657 roku. Według niepotwierdzonych relacji dwudziestowiecznych miał on być zlokalizowany przy drodze do Bałtowa.

Częściowo zachowany do dziś cmentarz żydowski w Ostrowcu Świętokrzyskim powstał prawdopodobnie w pierwszej połowie XVIII w. Datowanie takie potwierdza fakt, że w 1926 r. kosztem gminy żydowskiej dokonano restauracji nagrobka rabina ostrowieckiego Naftalego syna rabiego Hercle, który zmarł w 1734 r. – pomnik ten nie zachował się do czasów obecnych. Nekropolia była ogrodzona. Przy wyjściu do niej znajdowało się miejsce do rytualnego obmycia rąk oraz mały budynek zamieszkały przez dozorcę-grabarza.

W okresie drugiej wojny światowej cmentarz żydowski znalazł się w obrębie utworzonego w Ostrowcu getta. W zbiorowych i indywidualnych grobach chowano ciała osób zabitych i zmarłych w  getcie. Złożono tu między innymi zwłoki 10 osób rozstrzelanych przez nazistów w dniu 10 września 1939 r. na Rynku w Ostrowcu Świętokrzyskim oraz kilkuset osób zamordowanych w dniu 16 października 1942 r. podczas akcji deportacyjnej.

Żołnierze niemieccy zdewastowali  cmentarz. Przy użyciu części nagrobków utwardzono ul. Czerwińskiego, która zamieszkana była przez Niemców.

W 1945 r. na cmentarzu pochowano cztery osoby z rodziny Sztein. Szteinowie przez dłuższy czas ukrywali się na terenie Ostrowca, sowicie opłacając się polskiemu opiekunowi i zostali przez niego zabici kilka dni przed wkroczeniem do Ostrowca Św. oddziałów Armii Radzieckiej. Ich ciała znaleziono zasypane w studni i przeniesiono na cmentarz żydowski.

Przynajmniej od 1952 r. miejscowe władze zamierzały zagospodarować cmentarz. W dn. 31 stycznia 1953 r. Prezydium Miejskiej Rady Narodowej w Ostrowcu nosiło się z zamiarem urządzenia na cmentarzu parku miejskiego, ze znajdującym się w jego centralnej części mauzoleum z macew. Projekt ten uzasadniano zaprzestaniem pochówków oraz położeniem działki w środku miasta na wzgórzu, w pobliżu wzniesionych po wyzwoleniu placówek oświatowych: szkoły nr. 2, szkoły zawodowej i przedszkola. W dn. 26 marca 1953 r. Zarząd Główny Towarzystwa Społeczno-Kulturalnego Żydów w Polsce przychylnie zaopiniował ten plan. 15 września 1954 r. zgodę wydało także Ministerstwo Gospodarki Komunalnej, argumentując, że zamknięcie cmentarza i przekształcenie go w park "polepszy warunki zdrowotne i estetyczne tej części miasta".

W 1960 roku pozostałe na terenie cmentarza 157 nagrobki przeniesiono do północno-wschodniej części nekropolii i ustawiono w regularnych rzędach. W 1979 roku rozebrano bruk na ul. Czerwieńskiego i odzyskane w ten sposób fragmenty macew złożono na cmentarzu. W 1997 r. część tych macew przytwierdzono do muru, a z części wykonano podstawę pod tablicę informacyjną - tablica ta jednak bardzo szybko uległa zniszczeniu, pozostały po niej jedynie metalowe ramy.

Obecnie teren ten ma formę lapidarium, jest ogrodzony i zamknięty, a wejście do niego znajduje się od ul. Sienkiewicza. Klucz do bramy cmentarnej znajduje się w Urzędzie Miasta w Ostrowcu Świętokrzyskim. Z zachowanych nagrobków jedynie na 123 można odczytać datę śmierci. Najstarszy z nagrobków informuje o zgonie w 1850 r., a najmłodszy odnosi się do 1942 r. Zachował się miedzy innymi nagrobek zmarłego w 1928 roku cadyka ostrowieckiego Meira Halewi Halsztoka.

Tłumaczenia wybranych inskrypcji umieszczonych na nagrobkach na cmentarzu żydowskim w Ostrowcu Świętokrzyskim:

„Tu spoczywa pani Ajdył Bebisz, córka rabiego Jozefa Bebisz, zmarła w dniu 5 miesiąca tewet w roku 5698 [05.12.1938 r.]. Zmarła młodo, w wieku trzydziestu lat. Opłakujemy ją z goryczą w sercu. Pozostał po niej syn jedyny. Orędowniczką sprawiedliwą niech będzie. Niech dusza jej związana będzie w węzełku życia”.

„Sara Pesil, córka Abrahama, zmarła 6 tamuz 5680 roku [06.07.1920 r.]. Zasłużysz na przyjrzenie się światłości oblicza Boga. Dzięki spełnieniu przykazania o czynieniu dobra ustrzegła się nieszczęść. W wielu księgach jej chwała. Chodziła pieszo zbierać datki dla biednych. Jej czyny godne były dobrych matek. W zasługę za jej dobroć i łaskawość wiecznie chroniona będzie jej pamięć. Niech dusza jej związana będzie w węzełku życia”.

„Dziewica Sara Debora Rajzla, córka Nachuma Klajnmana, zmarła 11 tamuz 5694 roku [11.07.1934 r.] tu spoczywa. Ból i rozpacz dla rodziny na śmierć dziewczynki zmarłej w wieku lat siedemnastu i trzech miesięcy, mądrej i szlachetnej w poczynaniach. Dusza jej wzniesie się na wyżyny. Roztropność i wiedzę stale nabywała. Niech dusza jej związana będzie w węzełku życia”.

„Tu spoczywa Mosze Dawid Sztajn, syn znakomitego rabiego Efraima Kohena, błogosławionej pamięci. Zmarł 6 marcheszwan 5688 roku [06.11.1938 r.]. Pamięci chwały jego, która znikła, prostych dróg znanych wszystkim. Do tego dusze nasze wzdychają. Zbladłe nasze serca, że zmarł tak młodo. Wielka nasza rozpacz po same niebiosa. Wszyscy jego przyjaciele i znajomi opłakują go. Ręce miał otwarte dla ubogich i dla udzielania wsparcia. Niech dusza jego związana będzie w węzełku życia”.

„Azwiel Zisel, syn Borucha, zmarł w wigilię święta Szawuot 5678 roku [1918 r.]. Starzec, nasz nauczyciel, Azwiel Zisel, syn Borucha, był człowiekiem czcigodnym wśród ludzi. Żył ponad 70 lat. Droga prostą szedł przez życie. Był lubianym i bogobojnym. Przykazania boskie spełniał skrupulatnie. Dusza jego wzniosła się. Umarł i niechaj orędownikiem będzie w niebiosach. Niech dusza jego związana będzie w węzełku życia”.

„Pan Naftali Halewi, syn Abrahama Jakuba, z Lewitów, zmarł dnia 5 miesiąca tabet w 5696 roku [05.12.1936 r.]. Opanował nas gorzki żali z powodu wielkiej straty. Strzegł i wykonywał nakazy Boga, a jego nauki chronił i realizował. Przez całe życie kochał prawdę i sprawiedliwość. Niech się Bóg zlituje nad jego duszą. Niech znajdzie wypoczynek w raju. Oby w niebiosach był naszym orędownikiem. Niech dusza jego związana będzie w węzełku życia”.

Za https://sztetl.org.pl/pl/miejscowosci/o/696-ostrowiec-swietokrzyski/114-cmentarze/26496-cmentarz-przy-ul-sienkiewicza