Židovský hřbitov, založený roku 1869, je jedinou dochovanou památkou připomínající existenci někdejší jihlavské židovské obce. Na ploše téměř 9 000 m² se nachází kolem tisícovky náhrobků členů místní komunity, včetně rodičů skladatele Gustava Mahlera, rabína Ungara či spisovatele Louise Fürnbergera.
Po rekonstrukci v 90. letech získal hřbitov kovanou bránu se židovskou symbolikou a památníky obětem holocaustu, odhalené 8. května 1995.
Ostatní židovské památky ve městě zanikly – synagoga byla vypálena v roce 1939 a na jejím místě dnes stojí Park Gustava Mahlera.