Kostel byl postaven zřejmě jako románská stavba a později goticky znovu postaven. Roku 1604 město pořídilo nový velký zvon Michal, který však nebylo možno zavěsit na věž. Proto zakoupilo roku 1609 Šmicův dům a na jeho místě byla postavena mohutná samostatná zvonice. Ve zvonici byly zavěšeny i zvony z kostelní věže, datované 1464 a 1578. Roku 1613 kostel se zvonicí vyhořel, téhož roku však byl opraven včetně nové střechy věže. V 60. letech 18. století byl kostel rozsáhle přestavěn a zbarokizován za projekční účasti Františka Antonína Grimma. Byly odstraněny pilíře trojlodí a prolomena nová okna, postaven hudební kůr, presbytář rozšířen a doplněn dvěma sakristiemi s oratořemi, také přistavěny kaple Bolestné Panny Marie a sv. Kříže. Když roku 1788 kostel opět vyhořel, byla roku 1789 věž završena jehlancovitou střechou a byly sneseny kopule bočních kaplí. Ochoz na věži obklopuje ze všech stran světničku věžníka.
Zařízení kostela je převážně z 60. let 18. století, kdy byl kostel zbarokizován. Podíleli se na něm sochaři Gottfried Fritsch a Václav Böhm.Obraz sv. Jakuba většího pochází z roku 1810 a namaloval ho Jan Jiří Frömmel. Dva boční oltáře zdobí reliéfy. Kostel má dvě kaple - kaple sv. Barbory a kaple Bolestné panny Marie s Pietou, kde bývá o Vánocích postaven Betlém a o Velikonocích Boží hrob.