Ab der Mitte des 11. Jahrhunderts drangen bayrische Siedler unter der Führung des Ministerialengeschlechts der Kuenringer in das Zentrum des Waldviertels vor. Sie errichteten hoch über dem Zusammenfluss von Kamp und Zwettl auf dem heutigen Propsteiberg eine Burg und auch eine Kirche. Mit großer Wahrscheinlichkeit bestand
bereits im ersten Drittel des 12. Jahrhunderts in Zwettl eine Pfarre. Die erste Pfarrkirche von Zwettl, im Bereich der Kuenringerburg gelegen, war die heutige Propsteikirche.
Neben der Pfarrkirche auf dem Berg, die auch damals schon dem Evangelisten Johannes geweiht war, befand sich in der Stadt selbst die Liebfrauenkirche. Sie wurde 1280 erstmals als „ecclesia inferiora“ untere Kirche genannt. Ihre genaue Bauzeit ist nicht bekannt. Da der Weg zur außerhalb der Stadtmauern gelegenen Pfarrkirche sehr beschwerlich war, bemühten sich die Zwettler Bürger nach Kräften, durch Stiftungen und Zuwendungen regelmäßige Gottesdienste in der nahen Marienkirche zu ermöglichen. Ab 1352 war hier ein eigener Kaplan beschäftigt, der täglich die Frühmesse zu lesen hatte.
Auch wenn sich im Laufe der Zeit das kirchliche Leben immer mehr in die Stadt verlagerte, der eigentliche Sitz des Pfarrers von Zwettl und damit das Zentrum der Pfarre war die Sankt-Johannes-Evangelist-Kirche auf dem Berg.
1483 kam es durch den päpstlichen Nuntius Bartholomäus de Marachis zur Gründung der Propstei Zwettl. Der Propst blieb weiterhin Stadtpfarrer von Zwettl.
Zwischen 1483 und 1490 wurde die Kirche zu einer spätgotischen Basilika umgebaut, mit Netz- und Sternrippengewölben versehen und der Westchor vergrößert. Der achteckige Vierungsturm sowie der ursprünglich mit einem Walmdach abgeschlossene Westturm stammen ebenfalls aus dieser Zeit. Ein Großteil dieser Um- und Neubauten ist mit dem Übergang vieler Funktionen von der 1483 zur Propstei erhobenen Johanneskirche auf die Stadtkirche in Verbindung zu bringen.
Etwas später, etwa um 1510, wurden nochmals Veränderungen vorgenommen. Nördlich und südlich wurde je eine Seitenkapelle angefügt.
1681/82 errichtete man über den beiden Seitenschiffen Emporen und fasste die bisher bestandenen Dacheindeckungen aller drei Kirchenschiffe in ein gemeinsames Satteldach zusammen.
Der einjochige Chor ist leicht erhöht und durch Kreuzrippen eingewölbt.
1760 stattete Johann Michael Flor den Chorraum und das erste Joch des südlichen Seitenschiffes mit reichem Rokokostuck aus.
Um die Mitte des 18. Jahrhunderts wurde der stuckierte Hochaltar errichtet. Das vermutlich von Leopold Daysinger aus Zlabings (Slavonice) geschaffene, die Himmelfahrt Mariens darstellende Altarbild wird von zwei Pilastern flankiert.
1751 zog Kaiserin Maria Theresia mit päpstlicher Zustimmung die Güter der Propstei Zwettl ein und übergab sie der neu gegründeten Ritterakademie, dem Theresianum in Wien, zur wirtschaftlichen Nutzung.
1752 wurde der bisherige Pfarrvikar Johann Stocker der erste Stadtpfarrer.
1854 schlug der Kooperator Benedikt Höllriegel vor, den alten gotischen Turm der Stadtpfarrkirche dem neuen Zeitgeist entsprechend umzugestalten. Diese Idee fand nicht nur die Zustimmung des Stadtpfarrers, auch Bürgermeister und Gemeindevertretung konnten sich dafür begeistern. Die Pläne für den Umbau stammen vom Wiener Bauingenieur Johann Hiedler und dem Zwettler Baumeister Anton Gareis. So erhielt die Pfarrkirche 1854 einen romantisch-historistisch gestalteten Kirchturm, der mit seinen 55 Metern (inklusive Kreuz) um rund 22 Meter höher ist als sein Vorgänger. Dieser Umbau war zugleich der Beginn einer weitreichenden Umgestaltungsphase in der Stadt, die bis ins 20. Jahrhundert reichte. Die „Zwettler Gründerzeit“ hatte begonnen.
Im Turm hängen fünf Glocken, die 1954 und 1974 angeschafft wurden. Zwei 1974 veräußerte alte Glocken (von 1506 bis 1650) befinden sich heute im Diözesanmuseum St.Pölten und in der Propsteikirche.
Man betritt die Kirche bei einem der beiden Seiteneingänge oder beim Kirchenportal im Fußgängerdurchgang direkt unter dem Kirchturm. Der breite Mittelgang im Mittelschiff führt bis zum Altar. Ein Quergang im hinteren Teil der Kirche verbindet die beiden Seiteneingänge. Je ein weiterer Gang führt zu den Seitenaltären.
Zwischen den Gängen befinden sich Holzbänke und bilden so regelmäßige Sitzgruppen, unterbrochen von vier mächtigen Pfeilern.
Kern der barocken Einrichtung ist der mächtige, aus Stuckmarmor gefertigte Hochaltar (um 1760), der sich in den Chorschluss einfügt. Die freistehende Altarmensa und der Tabernakel wurden 1962 unter Verwendung barocker Engelsfiguren neu errichtet. Je zwei Säulen auf hohen Sockeln flankieren das Mittelfeld des Altaraufbaus mit dem Altarbild und tragen ein kräftiges Gebälk auf dem Engelsfiguren sitzen. Das Altarblatt stellt die Aufnahme Mariens in den Himmel mit den am offenen Grab stehenden und über das Wunder staunenden Aposteln dar und stammt möglicherweise von Johann Ignaz Zimbal aus Wien oder von Leopold Daysinger aus Zlabings. Den oberen Abschluss des Altares bildet das Auge Gottes im Strahlenkranz als Hinweis auf die göttliche Herrlichkeit, in die Maria als Urbild der erlösten Gläubigen aufgenommen wird.
Die beiden Sakristeiportale tragen in den bewegten Rokoko-Bekrönungen Ovalbilder der Gottesmutter und des dornengekrönten Heilands (19. Jh.).
1972 errichtete man den Volksaltar.
Das Innere der Stadtpfarrkirche wurde zuletzt 1962 renoviert.
Das rechte Seitenschiff trägt an der Stirnwand das Gemälde „Befreiung Petri aus dem Gefängnis“ von Johann Ignaz Zimbal (1764). Die Stuckaturen im vorderen Joch des Seitenschiffes zeigen Symbole, die sich möglicherweise auch auf die Apostelfürsten Petrus und Paulus, deren Märtyrertod und deren Bedeutung für die Kirche beziehen.
In diesem Bereich steht auch der granitene Taufstein. Durch Aufbau und Ornamente ist er deutlich als Werk des frühen 17. Jahrhunderts ausgewiesen, die recht archaische Form der Symbole am Becken lassen ihn aber vielleicht um die jahrhundertealte Verwurzelung des christlichen (katholischen) Glaubens an diesem Ort zum Ausdruck zu bringen – als romanisch erscheinen. Taube (?), Baum, Stern, Sonne und Menschenantlitz könnten auf das neue Leben der Gläubigen aus Wasser und Heiligen Geist hindeuten. Die Bekrönung des Taufbeckens bildet eine barocke Figurengruppe der Taufe Jesu durch Johannes.
An der Abschlusswand des linken Seitenschiffes hängt das Altarbild „Wunder des Heiligen Paulus auf Malta“, 1764 von Johann Ignaz Zimbal gemalt und 1891 von Franz Mayerhofer renoviert.
Gleich daneben ist seit dem 1. November 2025 eine Haar-Reliquie des Heiligen Carlo Acutis beheimatet und zur öffentlichen, dauerhaften Verehrung ausgestellt.
Die Kirche verfügt über mehrere Figuren, Kreuze und Bildnisse aus verschiedenen Epochen der Kunstgeschichte.
Die lebensgroße neugotische Madonna mit Kind stammt wie auch die Herz-Jesu-Statue in der rechten Seitenkapelle und die Josefs-Figur beim linken Seitenaltar von Thomas Demez (1900).
Ebenfalls aus der neugotischen Ausstattungsphase stammen die Reliefs des Kreuzweges und das lebensgroße Kruzifix seitlich des Triumphbogens.
Unter der Empore beim Nordeingang ist das Weihwasserbecken zu erwähnen, das mit 1644 datiert und mit typischem Spätrenaissancedekor wie Tuchgirlanden und Früchtebündel versehen ist.
Kostbarkeiten bergen die Vorhallen bei den Seiteneingängen. In der nördlichen befindet sich in einer Nische der Torso einer Halbfigur des Schmerzenmannes, ein Werk des späten 14. Jahrhunderts.
In der Südvorhalle steht eine barocke Figur Christi an der Geißelsäule aus dem 18. Jahrhundert. Es ist eine Kopie der Gnadenstatue der bayerischen „Wallfahrtskirche in der Wies“.
1958 ließ man durch die Firma Hradetzky die Capek-Orgel aus dem Jahre 1903 umbauen und erweitern.
Im Juni 2017 hatte der damalige Stadtpfarrer mit dem Pfarrkirchenrat die Anschaffung einer neuen elektronischen Kirchenorgel beschlossen, da eine Restaurierung der alten Orgel nach einhelliger Expertenmeinung nicht mehr sinnvoll erschien. Im November wurde das 100.000 Euro teure Instrument, eine Rodgers Infinity II mit 61 Registern, installiert. In zweiwöchiger Arbeit wurde sie vom Mühlviertler Orgelbauer Reinhold Breslmayr intoniert, der in diesem Werk die Krönung seiner beruflichen Laufbahn sah.
