据历史记载，大运河是由春秋时期的吴王夫差开始凿造的，到隋炀帝杨广时才初具规模，之后又在元世祖忽必烈时再度扩建，基本形成现在的大运河。大运河在中国历史上扮演着一个不容忽视的角色，深深的影响了历史上的每一个朝代。
春秋时, 吴国为了称霸中原而开凿邗沟。邗沟从扬州北上,与淮河、长江相接。邗沟建成后，吴王夫差便迫不及待地进攻齐国，后又用其与晋国争雄。
公元581年，隋朝统一中国后，建都于长安，为便于从黄河下游和江淮地区转运粮食等物资及坚固北部边防，便对运河进行了全面的规划和建造。从605年开始，分别开凿四条运河，分别为通济渠、邗沟、永济渠、江南河，全长二千五百多公里。大运河共施工近十年，动用了上千上万的民工。大运河沿途尽是江南工商繁荣和农桑发达的名城重镇，如无锡、苏州等。从此，南方丰富的物产源源不断的运向北方。
元世祖忽必烈灭南宋统一中国之后，因统治中心北移、京都地区物资匮乏及江南地区往来不畅等情况出现，世祖乃令郭守敬等对隋代大运河的北段进行大规模的改造。一是引水将京都和大运河中段连结起来,二是裁弯取直,缩短了大都到江南富庶地区的航程距离。
公元1280年，利用汶、泗诸河之水源，开凿了济州河。九年后,又开凿了从东平到临清的会通河，与隋代开凿的永济渠接通。1290年，又征集民工开挖了从大都至通州的通惠河，总长八十余公里。当新修的通惠河、会通河、济州河与原运河接通之时，从以北京为起点至杭州为终点的大运河全线贯通。元代大运河完成后，航程比隋代大运河缩短了近七百公里，使南方的粮食、丝帛可以便捷的运到大都。
明、清两代仍以北京为都城，经济仍依赖于繁华的江南，因而依然不断修整和疏浚京杭大运河。在元、明、清三代这五百多年间，京杭大运河成为南北交通的大动脉。
直至清代康熙二十七年（1688年），大运河才与黄河完全分离。大运河的河段并非全部由人工开凿，当中很多地方利用了天然的河流和湖泊，不仅减少了资金和劳力的投入，缩短了开挖时间，还解决了新开河道往往缺乏水源的难处。乾隆皇帝自乾隆十六年至乾隆四十九年的三十三年间，六次南巡，他从北京到杭州，均沿京杭大运河向南行，对大运河的治理有着重要的影响。
至1855年,因河道枯竭和海运兴起,所以漕粮改作海运, 经大运河北上的只占小部分。1901年,终将漕粮全部折现,停止漕运。
大运河的开凿与航运是应历史而生的结果。许多历史事件，朝代的生存和发展都与大运河都有密切的关系。在长达一千多年的时间内，大运河一直是中国的运输大动脉。 一旦运河的通航情况不理想，整个国家的发展必定受到影响，所以历代都特别注重运河的开发及整治。
“船舶往来，商旅辐辏”。运河畅通后， 一直是沟通南北的交通要道，许多古城因此而兴起。中国的繁荣逐渐的由西向东转移。中国东南方由于统治中心的东移北上，与大运河的连通而繁荣兴旺起来。对此，明清古运河研究学者有这样的形容：“运河沿岸的古墩、古庙、古塔、古桥、老街、老店、老厂、老窑以及街市的繁华景象、市民的生活习俗，犹如《清明上河图》的长幅画卷展示在人们面前。”两朝，运河沿岸地区更是市场发达、经济繁荣。
大运河是中国古代一项伟大的水利建筑工程。它随着中国繁荣的东移而发展，又随着海运的兴起而衰落。
