เหตุที่เมืองนี้มีนามว่า เมืองขอนแก่นนั้นได้มีตำนานแต่โบราณเล่าขานสืบต่อกันมาว่า ก่อนที่เพียเมืองแพนจะอพยพไพร่พลมาตั้งบ้านตั้งเมืองขึ้นนั้น ปรากฏว่าบ้านขาม หรือตำบลบ้านขาม อำเภอน้ำพองปัจจุบัน ซึ่งเป็นเขตแขวงร่วมการปกครองกับบ้านชีโล้น มีตอมะขามขนาดใหญ่ที่ตายไปหลายปีแล้ว กลับมีใบงอกงามเกิดขึ้นใหม่อีก และหากผู้ใดไปกระทำมิดีมิร้ายหรือดูถูกดูหมิ่น ไม่ให้ความเคารพยำเกรง ก็จะมีอันเป็นไปในทันทีทันใด เป็นที่น่าประหลาดและมหัศจรรย์ยิ่งนัก

         ดังนั้น บรรดาชาวบ้านชาวเมืองในแถบถิ่นนั้นจึงได้พร้อมใจกันก่อเจดีย์ครอบตอมะขามนั้นเอาไว้เสีย เพื่อให้เป็นที่สักการะของคนทั่วไป พร้อมกับได้บรรจุพระธรรมคำสอนของพระพุทธเจ้า 9 บทเข้าไว้ในเจดีย์ครอบตอมะขามนั้นด้วย ซึ่งเรียกว่า พระเจ้า 9 พระองค์ แต่เจดีย์ที่สร้างในครั้งแรกเป็นรูปปรางค์ หลังจากได้ทำการบูรณะใหม่เมื่อราว 50 ปีที่ผ่านมานี้ จึงได้เปลี่ยนเป็นรูปทรงเจดีย์ และมีนามว่า พระธาตุขามแก่น ปัจจุบันตั้งอยู่ในเขตวัดเจติยภูมิ บ้านขาม ตำบลบ้านขาม อำเภอน้ำพอง จังหวัดขอนแก่น พระเจดีย์ขามแก่นถือว่าเป็นปูชนียสถานอันศักดิ์สิทธิ์ของชาวจังหวัดขอนแก่น ซึ่งจะมีงานพิธีบวงสรวง เคารพสักการะกันในวันเพ็ญเดือน 6 ทุกปี

ส่วนทางด้านทิศตะวันตกของเจดีย์พระธาตุขามแก่นนั้น มีซากโบราณที่ปรักหักพังปรากฏอยู่ โดยอยู่ห่างจากเจดีย์ราว 15 เส้น หรืออยู่คนละฟากทุ่งของบ้านขาม ซึ่งแสดงให้เห็นว่าบริเวณแถบนี้น่าจะเป็นที่ตั้งของเมืองมาก่อน แต่ได้ร้างไปนาน ดังนั้น จึงได้ถือเอานิมิตนี้มาตั้งนามเมืองว่าขามแก่น แต่ต่อมาจึงเรียกเพี้ยนมาเป็นเมืองขอนแก่น จนกระทั่งทุกวันนี้

          แต่จากการศึกษาเอกสารต่างๆ ของประมวล พิมพ์เสน ไม่เคยมีคำว่าเมืองขามแก่น มีเพียงชื่อเมืองขอรแก่น, ขรแก่น, ขรแกน, และขอนแก่น และพระธาตุขามแก่นเดิมชื่อพระธาตุบ้านขาม พ.ศ. 2498 - 2499 พระราชสารธรรมมุนี (กัณหา ปภสฺสโร) ได้ทำการบูรณะพระธาตุบ้านขาม เปลี่ยนยอดเดิมที่เป็นไม้เป็นฉัตรโลหะ และเปลี่ยนชื่อจากพระธาตุบ้านขามเป็นพระธาตุขามแก่น และวัดบ้านขามเป็นวัดเจติยภูมิ และมีการรณรงค์ให้ชื่อเมืองขอนแก่นเพี้ยนมาจากเมืองขามแก่น ดังนั้นชื่อเมืองขอนแก่นน่าจะเชื่อได้ว่าแต่แรกเริ่มชื่อเมืองขอนแก่นอยู่แล้ว ไม่ได้เพี้ยนมาจากขามแก่นแต่อย่างใด