Die Schimmelstraße existierte bereits im Mittelalter. Ein einfaches Tor (Schimmeltor) sperrte den Zugang zur Steintorvorstadt ab. Bis 1744 heißt sie auch Schummel- oder Schümmelgasse. Schultze-Galléra glaubt, dass die Straße als Diebes- oder Schmugglergasse galt. Ab 1750 finden man hier große Gärten angelegt.
Wolfshagen Garten
Hupes Garten
Fehlings Garten
Lehmannsche Oekonomie
Die Gasse zählte nur 8 Häuser, darunter das Hirtenhaus und die Thorkontrolleurwohnung. Am Beginn der Schimmelstraße befindet sich das Stadtbad. Die Gasse führte bis zum Soaldatenfriedhaof am Stadtgottesacker. Am Ausgang der Gasse stand das meist verschlossene Schimmeltor. Dahinter fanden die Soldaten- oder Militärhinrichtungen statt. 1843 wurde das Schimmeltor auch für die Öffentlichkeit freigemacht. 1844 wurde ein neues Tor und Toreinnehmerhaus gebaut an der Stelle eines alten Schäferhauses. 1888 wurde beides abgebrochen.
Unter dem aufgeschütteten Jägerberg an der Moritzburg existierte ebenfalls eine Schimmelgasse.