Mint minden település, Tokaj is a római katolikus vallást követte a reformáció megindulásáig. Ahogy a reformáció hullámai elérték Magyarországot, Tokaj lakosságának többsége is a protestantizmust választotta. A 17. század végétől a katolicizmus újra megerősödött. A 18. században már meglévő templom, amelyet Keresztelő Szent Jánosnak szenteltek, egészen 1909-ig adott otthont a katolikus hívek miséinek. 1909-1912 között épült fel az új, Jézus Szíve templom Zobel Lajos tervei alapján neoromán stílusban. 1945-ben a szovjet csapatok bevonulása után Stumpf Mátyás akkori plébános önként ment a „málenkij robotra” elhurcolt híveivel, s szovjet kényszermunkatáborban halt meg. Emléktáblája ma a templom előterében látható. Három szerzetesrend is megtelepült a városban a 15-18. században: a pálosok, a kapucinusok és piaristák.
Tokajban a reformáció lutheri, evangélikus irányzata a 18. század közepéig nem volt jelentős. 1785-ben vette meg az evangélikus gyülekezet az úgynevezett „Generális Házat” istentiszteleti célokra. A város vonzáskörzetében más településeken élő hívek (filiák, szórvány) lelki gondozását mindig jelentős feladatnak tartotta az egyház. Evangélikus templom napjainkban nincs a városban.
Tokajban a reformáció ágai közül a helvét (kálvinista) irányzat jelent meg elsöprő erővel. Az 1550-es évek végétől Németi Ferenc volt a tokaji vár kapitánya, aki nemcsak a helvét irányzat támogatója volt, hanem maga is írt zsoltárokat, amelyeket a gyülekezetben ma is énekelnek. Ő is tollal és fegyverrel küzdött hitéért és hazájáért.
A 17. század végén telepedtek le a városban az úgynevezett „görög” kereskedők, akik valójában szerb és macedón származásúak voltak és az ortodox vallást követték. Az 1733-1798 között működő orosz borvásárló bizottság tagjai is ortodox vallásúak voltak. 1790-ben építették meg a Szent Miklós ortodox templomot késő barokk és klasszicista stílusban. Napjainkban a magyar állam és a moszkvai patriarchátus tárgyalásai eredményeképpen a templom visszakerült az orosz ortodox egyház tulajdonába.
1697-ben már volt görög-katolikus felekezet és templom Tokajban. Az új templom az 1740-es években épült fel Szent Miklós tiszteletére. 1917-ben került az egyházközség élére Mosolygó József, a tudós pap, aki egészen 1958-as nyugdíjba vonulásáig szervezte és vezette az egyház életét. Az évszázadok folyamán a tokaji lelkipásztoroknak mindig jelentős feladatuk volt a környékbeli településeken élő hivek (filiák, szórvány) lelki gondozása.
A Hegyaljára és Tokajba a zsidóság nagy számban a 18. században érkezett. A 19. század elején épült fel első zsinagógájuk, amely1890-ben leégett, Az új zsinagóga 1896-97-ben hazai és külföldi adományokból épült fel mór stílusban. A tokaji zsidóság az askenázi rítust követte. A 19. században már a haszidizmus befolyása is megjelent a tokaji zsidóság körében, a hitközség azonban ortodox volt. A 20. század elején nagy befolyással rendelkezett a tokaji zsidóság körében a bodrogkeresztúri „csodarabbi”, Steiner Jesaja (1851-1925). A zsinagóga falán a Holokauszt áldozatainak emléktáblája található, a kertben pedig az áldozatok nevét felsoroló kőtáblák. A helyreállított zsinagóga napjainkban a kulturális központ része, vallási funkciót nem tölt be. Tóratartó szekrénye restaurált állapotban ma az izraeli Cfat városában látható. Az ország egyik legnagyobb zsinagógája mellett található az ortodox imaház, amely fogadja a zarándokokat és az imádkozásra érkező férfiakat.
Ma is a különböző keresztény felekezetek egymás mellett élése, és a zsidó hagyományok ápolása teszi a várost Hegyalja egyik vallási központjává.
