गुरु नानक देव जी अपनी दूसरी उदासी के दौरान लगभग 1568 (या 1517) में इंदौर पधारे और इसी स्थान पर एक इमली के वृक्ष के नीचे विश्राम किया। उन्होंने नाम और भक्ति की शिक्षाओं का प्रसार किया, और ऐसे समय में स्थानीय अनुयायी जुटाए जब मूर्ति-पूजा का प्रचलन था
यह आतिथ्यपूर्ण स्थान बाद में गुरुद्वारा इमली साहिब का स्थल बना। मूलतः वृक्ष के निकट बना, जिसे विस्तार के लिए अंततः हटा दिया गया; उसकी स्मृति आज की संरचना के भीतर भूतल से लगभग 15 फुट नीचे एक चबूतरे/स्थल के रूप में सुरक्षित है
होल्कर राज्य और सिख समुदाय के अधीन संरचना का विकास होता रहा, जो लगभग 1940–1942 में श्री गुरु सिंह सभा, इंदौर के प्रबंधन में परिणत हुआ