淮海之名最早见于

仁 义 礼 智 信

据《尚书·禹贡》记载：“海、岱及淮惟徐州。淮、沂其治，蒙、羽其艺，大野既猪，东原厎平。厥土赤埴坟，草木渐包。厥田惟上中，厥赋中中。厥贡惟土五色，羽畎夏翟，峄阳孤桐，泗滨浮磬，淮夷蠙珠暨鱼。厥篚玄纤、缟。浮于淮、泗，达于河。”
《太始记》云：皆以八月户时，“蚩尤氏乃据淮海之地以挡轩辕东进之路。而不敢显陈”，炎黄、蚩尤涿鹿之战即发生在徐州。
李巡注《尔雅》解州名云：“李巡曰：“江南其气躁劲，厥性轻杨……淮海间其气宽舒，禀性安徐，故曰徐。徐，舒也。”
柳宗元《柳河东集》：海岱及淮为徐州。东至海，北至岱，南至淮也。以其淮海之所在，故曰朝宗。此言东海为师道所据也。
苏轼《和陶饮酒》诗二十首之第十七说：“淮海虽故楚，无夫轻扬风。斋厨圣贤杂，无事时一盅。谁言大道远，正赖三杯通。时君不夕坐，衙门散刀弓。”诗中言道，徐州虽是故楚之地，但是这一带是斋厨与养生始祖彭铿的故国。西边楚地的苦县（今河南鹿邑县）是道家祖师老子故乡；蒙地（今河南商丘）有庄子梓里；北边鲁国孔子多次入楚至徐州地向老子问礼与学习大道；还有大汉朝王权建立者和大将、谋士们大多生长在这个地方。然而，当喝了三杯酒后，我性情并没有乱，才悟出扬州这个地方人文与学风，怎能与徐州相比呢？
清朝光绪年间，状元、学者、实业家张謇（1853-1926，南通人）提出了《徐州应建行省议》，主张在“以徐州为众星之月，东到海州，西至商邱，南起泗州，北迄沂水，包括苏、皖、鲁、豫四省交会之区的四十五州县”建立行省，他认为，在徐州设省可以二便四要（便于裁漕督、便于练兵；“四要”是“训农、勤工、通商、兴学”）。张謇一生经营实业、出资办学，在徐州设省和将陇海铁路延长至南通、崇明，是他的两个愿望，但都未实现。
设省，用张謇的话来说，是“变散地为要害”；从今天的角度来看，更是“变边缘为中心”，在四省边缘地带构造经济中心，改变淮海的相对落后局面，实现新亚欧大陆桥东段的崛起。
1931年张我华等提交给中政会的缩小省区案中，主张在徐州设立“归德省”。
1940年民国省制问题设计委员会胡焕庸（地理学家）提出的分省案中，也主张设立“徐淮省”，面积66872平方公里。
1948-1949年，在以徐州为中心的广阔区域爆发了著名的淮海战役。
改革开放以来，淮海地区的联系更加密切，成立了“淮海经济区”。许多行政区划专家都认为，根据地理交通、人文风俗、经济联系、城市发展等因素，应该建立“淮海省”，实现淮海地区的腾飞，实现东部的共同繁荣并通过新亚欧大陆桥推动中西部开发。