ซากปรักหักพังของวัดบันไดหินโดดเด่นด้วยเจดีย์ทรงระฆังและวิหารขนาดใหญ่ที่สร้างจากอิฐและศิลาแลง ปัจจุบัน รากต้นไม้ขนาดมหึมากระหวัดรัดกำแพงที่ผุพัง สร้างบรรยากาศที่น่าพิศวงและเงียบสงบอย่างน่าทึ่ง จุดเด่นทางสถาปัตยกรรมที่โดดเด่นคือซุ้มประตูโค้งแหลม ซึ่งสะท้อนถึงสไตล์ศิลปะในรัชสมัยของสมเด็จพระนารายณ์มหาราช ในอดีต สถานที่แห่งนี้มีความสำคัญอย่างยิ่งในฐานะที่ประทับของกษัตริย์ที่ทรงพักผ่อนก่อนเสด็จเข้าสู่เมืองลพบุรี ร่องรอยที่หลงเหลืออยู่ของงานปูนปั้นที่ละเอียดอ่อนแสดงให้เห็นถึงงานฝีมืออันประณีตบรรจงของวัดที่มีความสำคัญทางการเมืองแห่งนี้