Ο ναός Σαολίν βρίσκεται στην επαρχία Χουά Ναν (河南 - Hé Nán), δεκατρία χιλιόμετρα έξω από τη Ντενγκ Φενγκ (登封 - Dēng Fēng). Είναι χτισμένος στους πρόποδες του βουνού Σουνγκ (嵩 - Sōng). Το όρος Σουνγκ έχει πολλές κορυφές και λόφους. Ο ναός βρίσκεται στους πρόποδες του Γου Ρου Φανγκ (五乳峰 - Wǔ Rǔ Fēng), δηλαδή της «Κορυφής των Πέντε Στηθών», βόρεια της κορυφής Σάο Σι (少室 - Shǎo Shì). Ο ναός βλέπει στον Νότο.
Ανατολικά βρίσκεται η κορυφή Τάι Σι (太室 - Τài Shì) και στα βόρεια μπορεί κανείς να βρει το μονοπάτι Χουάνγκ Γιουέν Γκουάνγκ (還源觀 - Huán Yuán Guān), που ήταν ένα σημαντικό πέρασμα πριν ανοίξει ο σύγχρονος δρόμος. Μπροστά από την είσοδο του ναού ρέει ο ποταμός Σάο Σι (少溪 - Shǎo Xī), προστάτης του ναού σύμφωνα με τους κανόνες του Φανγκ Σουέι (風水 - Fēng Shuǐ). Ο ναός είναι χτισμένος εκεί που κάποτε ήταν ένανεαρόδάσος(少林 - Shào Lín). Λέγεται ότι αυτός είναι ο λόγος για τον οποίο ο ναός ονομάζεται «Ναός του Νεαρού Δάσους» (少林寺 - Shào Lín Sì - Σάο Λιν Σι). Μια διαφορετική εξήγηση λέει ότι το εν λόγω νεαρό δάσος είναι οι μοναχοί που ζουν στο ναό, σαν νεαρά δέντρα που λυγίζουν όταν αναγκάζονται, αλλά δεν σπάνε.
Το αρχαίο αρχιτεκτονικό συγκρότημα του Ναού Σαολίν αποτελείται στον κύριο άξονά του από 7 δωμάτια τα οποία πλαισιώνονται από πολλά κτίρια σε κάθε πλευρά. Καλύπτει 160 μέτρα πλάτος και πάνω από 360 μέτρα μήκος, μία έκταση 57600 τ.μ. Πρόκειται για ένα τεράστιο συγκρότημα με σημαντική ιστορική, αρχαιολογική και καλλιτεχνική αξία.
Η κεντρική αυλή περιβάλλεται από παλιά κόκκινα τείχη και καλύπτει έκταση 30 χιλιάδων τετραγωνικών μέτρων. Η εσωτερική διάταξη του κατοικήσιμου μέρους της αυλής, αποτελείται από κτίρια που εκτείνονται συμμετρικά στις δύο πλευρές ενός κεντρικού άξονα πράγμα χαρακτηριστικό των κινέζικων ναών.