1842 eröffnete der Rote Ochse als Strafanstalt. Das Gefängnis wurde 1939 durch die Nazis zu einer Hintrichtungsstätte umgebaut. 549 politische Gegner wurden bis 1945 ermordet, darunter 170 Ausländer. Von 1942 bis zu Kriegsende war es offizielle Hinrichtungsstätte. Statt 600 wurden bis 1945 1250 Häftlinge zusammengelegt. Von 1950 bis 1989 nutzte das Ministerium für Staatssicherheit der DDR einen Teil der Gebäude als Untersuchungshaftanstalt, andere Haftbereiche dienten dem Strafvollzug, seit 1954 insbesondere als Einrichtung für Frauen.
Ab 1996 war der Rote Ochse dann Gedenkstätte für Nazi- und Stasi Opfer.