Święta Lipka zawdzięcza swoją nazwę stojącej kiedyś w tym miejscu lipie. Umieszczoną na niej drewnianą figurę Matki Bożej z dzieciątkiem czciła okoliczna ludność. Według legendy przeniesiono ją do kościoła w pobliskim Rastenburgu (obecnie Kętrzyn), ale nazajutrz w cudowny sposób wróciła na swoje dawne miejsce. Powtórzyło się to kilkakrotnie. Od tego czasu zaczęły się dziać cuda i ozdrowienia. Inne podanie głosi, iż figura została wyrzeźbiona przez więźnia z Kętrzyna. W ostatnią noc przed egzekucją ukazała mu się Matka Boska, dając nóż i klocek drewna, aby ten wyrzeźbił jej podobiznę i postawił na lipie przy drodze do Reszla. Poruszeni tym faktem i urodą wyrzeźbionej figury sędziowie uwolnili skazańca, a ten po kilku dniach odnalazł lipę i umieścił na niej rzeźbę.
Pod koniec XV w. wybudowano kaplicę, w której nadal stała lipa z rzeźbą. Z czasem kult cudownej figury rozszerzył się na całe Prusy, a do Świętej Lipki przybywali pielgrzymi również z pobliskiego Mazowsza. Na początku XVII w. dzięki staraniom biskupa warmińskiego Szymona Rudnickiego i sekretarza polskiego króla Zygmunta III, Stefana Sadowskiego wybudowano nową kaplicę. W 1624 r. w swoim testamencie Sadowski, ówczesny właściciel Świętą Lipkę przekazał jezuitom. Utworzyli oni tu dom zakonny, a w sąsiednim Reszlu, leżącym na terenie katolickiej Warmii, powstało kolegium jezuickie. Ruch pątniczy wzrastał i z czasem zaczęto planować budowę nowej świątyni. Świątynia miała stanąć w bardzo niedogodnym miejscu. Dla wzmocnienia podmokłego gruntu wbito w ziemię 10 tysięcy okutych pali olchowych, które przykryto warstwą kamieni i na nich zaczęto budowę fundamentów.
Konsekracja kościoła odbyła się w 1693 roku, ale prace wykończeniowe prowadzono do połowy XVIII wieku. Wśród ofiarodawców świątyni były między innymi rody Radziwiłłów, Sapiechów, Czartoryskich, Potockich, Ossolińskich, a także król Stanisław Leszczyński. Jezuici zarządzali Świętą Lipką do rozwiązania zakonu w 1773 roku. Kościół nie przeszedł jednak w zarząd państwowy, gdyż właścicielem jego była kapituła warmińska. Jezuici powrócili tu w roku 1932, a od 1945 sanktuarium opiekują się jezuici polscy.