Parafia w Krempachach istniała już w 1278 r. Obecny, murowany kościół pod wezwaniem św. Marcina pochodzi z drugiej polowy XVI w.
Wieża kościoła zwieńczona jest typową dla Spisza attyką o ornamentyce zbliżonej do motywu jaskółczego ogona. Poniżej attyki wieżę kościoła otacza drewniany, zadaszony ganek, wykorzystywany w dawnych czasach jako istotny punkt obserwacyjny do celów obronnych i przeciwpożarowych. Dach kościoła o konstrukcji jednokalenicowej pokryty jest gontem.
Wnętrze kościoła nakryte jest sklepieniem kolebkowym z lunetami, w prezbiterium – z dekoracyjnymi żebrami. Wystrój wnętrza głównie późnobarokowy i rokokowy. W ołtarzach liczne posągi świętych.