Kostol bol postavený na mieste starého kostola sv. Rozálie, ktorý bol zbúraný v 30. rokoch 19. storočia, keď musel ustúpiť stavbe Palatínovej línie, súčasti pevnostného systému Komárna. Za obdržané peniaze mesto postavilo nový kostol.
Nový kostol bol postavený v rokoch 1839-1844 spolu s malou kalváriou. Postavený je v empirickom slohu ( posledné obdobie klasicizmu ), okrem jedného oltára zachovaného zo starého kostola v barokovom slohu. Kostol významne poslúžil v rokoch 1848-1849, po zničení kostola sv. Ondreja požiarom a reformovaného kostola bombardovaním v roku 1849. V tom období slúžil reformovaným aj katolíckym veriacim až do obnovenia kostola sv. Ondreja. V rokoch 1860-1880 ho navštevovali hlavne študenti a žiaci. Potom v rokoch 1880-1906 bol využívaný hlavne vojenskou posádkou, až kým neprestavali františkánsky kostol na vojenský. V tom čase sa zistilo, že drevená konštrukcia kostola je zhnitá. Preto ho zatvorili a neskôr v roku 1908 obnovili. Od roku 1902 sa v kostole svietilo plynom a od roku 1935 elektrinou. Kostol bol znovu obnovený v roku 2011. Zaujímavou pamiatkou postavenou v klasicistickom slohu je kostol sv. Rozálie. Pozornosť upúta netypickou formou riešenia jej tvaru. Budova bola projektovaná podľa vzoru rímskych rotúnd. V exteriéri k oválu lode, ktorá je zaklenutá laternovou kupolou, sa pripája obdĺžnikové presbytérium. Budova kostola je v dobrom technickom stave po rekonštrukcii. Kostol je národná kultúrna pamiatka.