วัดป่าบ้านกอกเป็นวัดเล็กๆ ที่เป็นระเบียบสะอาดเรียบร้อย สร้างขึ้นประมาณ 10 กว่าปีที่แล้ว โดยพระอาจารย์ชัย กิตติญาโณ(เจ้าอาวาส) ร่วมกับญาติโยม พัฒนาพื้นที่จากป่าช้าเดิม ค่อยๆพัฒนาเป็นวัด โดยปัจจัยต่างๆก็มาจากลูกศิษย์ลูกหา และญาติโยม และงานบุญประจำปี (บุญกฐิน) ตอนช่วงออกพรรษาเท่านั้น
ส่วนการสร้างรูปหล่อหลวงปู่ทวด พระอาจารย์ชัยสร้างขึ้นเพราะมีอะไรมาดลใจให้สร้างรูปหล่อ โดยตอนสร้างก็มิได้มีปัจจัยเพียงพอ แต่พอเริ่มปั้นก็มีปัจจัยทยอยมาจนสามารถหล่อโลหะ หลวงปู่ได้ โดยหล่อได้สำเร็จในครั้งเดียวโดยไม่ต้องแต่งผิวเลยเป็นที่อัศจรรย์แก่ช่างที่หล่อเป็นอย่างมาก
หลายปีต่อมา พระอาจารย์ชัย ได้เกิดนิมิตรเห็นภูมิเจ้าที่มาบอกให้สร้างพระพุทธรูปใหญ่ ประดิษฐานไว้ในวิหาร พระอาจารย์จึงได้ให้เริ่มออกแบบและลงมือสร้าง หลวงพ่อชัยยะสิทธิ์และวิหาร โดยในวันที่วางศิลาฤกษ์ ได้นิมนต์เจ้าคณะจังหวัดขอนแก่นเป็นประธานฝ่ายสงฆ์และเช่นเคยงานก่อสร้างวิหารปั้นพระพุทธชัยยะสิทธิ์ก็สำเร็จได้ด้วยดี ใช้ระยะเวลาการก่อสร้างภายในปีเดียว
โดยหลวงพ่อท่านสอนลูกศิษย์ลูกหาเสมอว่า สิ่งก่อสร้างทั้งหลายเหล่านี้ สร้างขึ้นเป็นพุทธบูชา และ สาธารณะสมบัติ มิใช่ของผู้ใดผู้หนึ่ง