ภายในพระปรางค์องค์ประธานเป็นที่ตั้งของห้องเล็กๆ รูปสี่เหลี่ยมจัตุรัสที่เรียกว่า "ครรภคฤหะ" ซึ่งมีเพดานสอบขึ้นไปตามรูปทรงของพระปรางค์ ในอดีต สถานที่แห่งนี้ใช้ประดิษฐานพระพุทธรูปสำคัญและเก็บรักษาสิ่งศักดิ์สิทธิ์ไว้ในสถูปขนาดเล็ก หรือในคริปต์ใต้พื้น ผนังด้านในสร้างจากศิลาแลงและอิฐหนา เพื่อรองรับน้ำหนักมหาศาลของโครงสร้างชั้นบน แม้ว่าสมบัติโบราณจะสูญหายไปจากการโจรกรรมในอดีต แต่ห้องนี้ยังคงมอบความรู้สึกศักดิ์สิทธิ์และความสง่างาม และแสดงให้เห็นถึงวิศวกรรมโบราณ แสงที่ส่องเข้ามาทางประตูเดียวสร้างบรรยากาศที่เงียบสงบ เน้นย้ำถึงความสำคัญของวัตถุศักดิ์สิทธิ์ที่เคยประดิษฐานอยู่ภายใน