Na zachodnim zboczu Jasnej Góry, u stóp tronu Królowej Polski w Częstochowie, w 1949 r. Księża Pallotyni wybudowali kościół. Poświęcenia świątyni i domu zakonnego dokonał ordynariusz częstochowski bp Teodor Kubina. W czasie uroczystości wypowiedział słowa: „To miejsce niech służy Miłosierdziu Bożemu w cieniu Jasnogórskiej Pani. Każdy kto nawiedzi ten kościół, niech dozna w sposób szczególny Miłosierdzia Bożego”. Od tego czasu uwidacznia się specjalne działanie Bożego Miłosierdzia w tym miejscu, zwanym odtąd Doliną Miłosierdzia.
W 1952 r. umieszczono w głównym ołtarzu obraz Jezusa Miłosiernego, namalowany przez artystę malarza Adolfa Hyłę z Krakowa (tego samego, który malował obraz znajdujący się w kaplicy klasztornej Zgromadzenia Sióstr Matki Bożej Miłosierdzia w krakowskich Łagiewnikach) Oficjalnie parafia pod wezwaniem Miłosierdzia Bożego została ustanowiona w 1960 r. jako jedna z pierwszych w skali świata pod takim wezwaniem.
Ks. Kardynał Stefan Wyszyński, Prymas Polski, w 1965 r. nawiedzając świątynię powiedział: „Miejsce to, zwane Doliną Miłosierdzia Bożego, mieszczące w sobie coś z Tatr i Bałtyku, niech z Maryją woła Magnificat, a miłosierdzie Jego z pokolenia na pokolenie”. Metropolita częstochowski abp Stanisław Nowak w 1992 r. podniósł kościół – ze względu na rolę jaką pełni w pielęgnowaniu i rozszerzaniu kultu – do godności Archidiecezjalnego Sanktuarium Miłosierdzia Bożego.
W 1994 r. Prymas Polski, Kard. Józef Glemp i bp José de Jesús González Hernandez z Meksyku poświęcili kaplicę polową oraz figurą Jezusa Miłosiernego. Figura jest darem Kościoła z Meksyku dla Kościoła w Polsce. We wrześniu 1996 r. bp. Antoni Długosz wprowadził do Sanktuarium Miłosierdzia Bożego relikwie Krzyża Świętego, przywiezione z Ziemi Świętej. Od roku 2012 kościół posiada także relikwie św. Jana Pawła II. Obecnie do Sanktuarium przybywają pielgrzymi z Polski i świata. Potwierdzają to liczne wota umieszczone przy obrazie Jezusa Miłosiernego, które pątnicy składają w dowód wdzięczności za otrzymane łaski.