Die Kleine Ulrichstraße führt ihren Namen von der alten Ulrichskirche am Ulrichstor. Um 1379 ist sie noch nicht von der Großen Ulrichstraße unterschieden. 1415 heißt sie „Kleine Olrikestrate“. Hier wohnte auch Andreas Schlegel, der ein gewalttätiger Mann war. 7-mal saß er im Rat von 1475 bis 1494 und beteiligte sich 1478 auf der Seite Weißacks am Verrat an der Stadt. In den Ziehbrunnen der Straße kamen viele Selbstmörder um, oder Dirnen „entsorgten“ ihre ungewollten Babys.
Am 13.3.1645 legte ein großer Brand viele Häuser in Schutt und Asche. Um 1700 war die Kleine Ulrichstraße eine der verkehrsreichsten Straßen, besonders durch das Militär. Auf dem Platz des Geländes (Haus) Nr. 18 war bis 1531 das Pfarrhaus von St. Ulrich.