इस मंदिर की स्थापना मालवा के राजा इंद्रदयुम्न ने कराया था. इनके पिता का नाम भारत और माता का नाम सुमति था. पौराणिक कथाओं के अनुसार राजा को एक बार सपने में भगवान जगन्नाथ के दर्शन हुए थे. सपने में भगवान ने राजा से अपनी एक मूर्ति को नीलींचल पर्वत की गुफा में ढूंढने और मूर्ति को एक मंदिर बनवाकर स्थापित करने को कहा. इस मूर्ति को भगवान ने नीलमाधव बताया. इसके बाद राजा अपने सेवक के साथ नीलांचल पर्वत की गुफा में भगवान की मूर्ति ढूंढने निकल पड़ते हैं. राजा के साथ जो लोग निकले थे उनमें से एक ब्राह्मण का नाम विद्यापति था. विद्यापति को सबर कबीले के लोगों के बारे पता था जो नीलमाधव की पूजा करते हैं.
विद्यापति को यह भी मालूम था कि भगवान नीलमाधव की प्रतिमा को गुफा के अंदर सबर कबीले के लोग छिपा कर रखते हैं. इस कबीले का मुखिया विश्ववसु भगवान का उपासक था. हालांकि भगवान की मूर्ति पाने के लिए मुखिया का आदेश सर्वोपरि था और मुखिया भगवान का उपासक था. वह किसी भी हाल में भगवान की मूर्ति देने को तैयार न होता. इस कारण विद्यापति ने चालाकी से मुखिया की बेटी से विवाह कर लिया. अपनी पत्नी के सहारे विद्यापति उस गुफा तक पहुंचने में कामयाब हो गए जहां भगवान नीलमाधव की मूर्ति रखी गई थी. विद्यापति ने नीलमाधव की मूर्ति को चुरा लिया और राजा को सौंप दिया.
कहते हैं कि विश्ववसु अपने भगवान की मूर्ति के चोरी होने से काफी दुख हुआ. भगवान को भी काफी दुख हुआ कि उनका उपासक दुखी है. इस कारण नीलमाधव वापस गुफा में लौट गए और राजा इंद्रदयुम्न से वादा किया कि वह एक दिन उनके पास जरूर लौंटेंगे लेकिन राजा उनके लिए एक मंदिर बनवा दे. इसके बाद राजा ने मंदिर बनवाकर भगवान से विराजमान होने के लिए कहा लेकिन तभी भगवान ने कहा कि द्वारका से तैरकर पुरी की तरफ आ रहे बड़े से पेड़ के टुकडे़ को लेकर आओ. इससे तुम मेरी मूर्ति बनाओ. राजा व उनके लोग फौरन पेड़ के टुकड़े के तलाश में निकल पड़े. लकडी का टुकड़ा उन्हें मिल गया लेकिन वो उठाकर लाने में असक्षम थे. तभी राजा को कबीले का मुखिया विश्ववसु याद आया. राजा ने विश्ववसु की सहायता ली. विश्ववसु लकड़ी को उठाकर मंदिर तक ले आए.
श्रीकृष्ण के आदेशानुसार राजा ने इस काम के लिए काबिल बढ़ई की तलाश शुरू की. कुछ दिनों में एक बूढ़ा ब्राह्मण उन्हें मिला और इस विग्रह को बनाने की इच्छा जाहिर की. लेकिन इस ब्राह्मण ने राजा के सामने एक शर्त रखी कि वह इस विग्रह को बंद कमरे में ही बनाएगा और उसके काम करते समय कोई भी कमरे का दरवाज़ा नहीं खोलेगा नहीं तो वह काम अधूरा छोड़ कर चला जाएगा.
शुरुआत में काम की आवाज़ आई लेकिन कुछ दिनों बाद उस कमरे से आवाज़ आना बंद हो गई. राजा सोच में पड़ गया कि वह दरवाजा खोलकर एक बार देखे या नहीं. कहीं उस बूढ़े ब्राह्मण को कुछ हो न गया हो. इस चिंता में राजा ने एक दिन उस कमरे का दरवाज़ा खोल दिया. दरवाज़ा खुलते ही उसे सामने अधूरा विग्रह मिला और ब्राह्मण गायब था. तब उसे अहसास हुआ कि ब्राह्मण और कोई नहीं बल्कि खुद विश्वकर्मा थे. शर्त के खिलाफ जाकर दरवाज़ा खोलने से वह चले गए.
उस वक्त नारद मुनि पधारे और उन्होंने राजा से कहा कि जिस प्रकार भगवान ने सपने में आकर इस विग्रह को बनाने की बात कही ठीक उसी प्रकार इसे अधूरा रखने के लिए भी द्वार खुलवा लिया. राजा ने उन अधूरी मूरतों को ही मंदिर में स्थापित करवा दिया. यही कारण है कि जगन्नाथ पुरी के मंदिर में कोई पत्थर या फिर अन्य धातु की मूर्ति नहीं बल्कि पेड़ के तने को इस्तेमाल करके बनाई गई मूरत की पूजा की जाती है.
इस मंदिर के गर्भ गृह में श्रीकृष्ण, सुभद्रा और बलभद्र (बलराम) की मूर्ति विराजमान है. कहा जाता है कि माता सुभद्रा को अपने मायके द्वारिका से बहुत प्रेम था इसलिए उनकी इस इच्छा को पूर्ण करने के लिए श्रीकृष्ण, बलराम और सुभद्रा जी ने अलग रथों में बैठकर द्वारिका का भ्रमण किया था. तब से आज तक पुरी में हर वर्ष रथयात्रा निकाली जाती है