Za zezwoleniem biskupa krakowskiego Piotra Tylickiego karmelici zbudowali w latach 1611-1637 drugi swój klasztor w obrębie murów miejskich z ofiar dobrodziejów, na miejscu „Malowanego Dworu” Tęczyńskich, hospicium benedyktynów z Tyńca i łaźni miejskiej. W dniu 1 września 1637 roku biskup krakowski Jakub Zadzik konsekrował kościół pw. świętych Michała Archanioła i Józefa Oblubieńca NMP. Prawie do końca XVIII wieku pełnił rolę domu studiów dla kleryków. Mieściła się również tutaj kuria prowincjalna. Kościół uznany był jako główne sanktuarium św. Józefa Patrona Miasta Krakowa. Do arcybractwa św. Józefa należało ponad 20 tysięcy członków pod koniec XVIII wieku.
1 września 1797 roku zaborcze władze Austrii zabrały klasztor na więzienie. Marmurowe ołtarze, posadzki, balustrady i portale przeniesiono po pożarze Krakowa do kościoła Franciszkanów, Bernardynów (epitafia), do kościoła św. Katarzyny (marmurowy ołtarz św. Teresy) i do kościoła w Jaworznie (ołtarz św. Józefa). Ostatecznie kościół rozebrano w 1872 roku. Miejsce to pełniło funkcje sądu jeszcze w XX wieku. W roku 1954 urządzono Muzeum Archeologiczne. Później znalazło tutaj też siedzibę Muzeum Geologiczne, oba funkcjonujące do dzisiaj.