有据可考的汴河的起源，是在战国末期的魏大梁时期。

隋代开始修凿大运河，其中段为通济渠，即是利用原来的汴水故道改造而来。通济渠在唐初改名为广济渠，开封附近又称汴渠。汴渠在唐代日益重要，位居汴渠要冲的汴州，借此良机得以迅速发展，一跃而成为当时最为著名的水陆大都会，为以后后梁、后晋、后汉、后周乃至北宋在此的定都打下了坚实的基础。

北宋一代，对汴河的治理和防护一直非常重视，经过宋廷治理后的汴河，“岁漕江、淮、湖、浙米数百万石，及至东南之产，百物众宝，不可胜计。又下西山之薪炭，以输京师之粟，以振江北之急，内外仰给焉。”成为了北宋王朝的交通经济命脉，也成为了其自身历史上最为辉煌的时期。

北宋灭亡后，汴河的作用大减。金元之后，黄河改道，逼近开封，河患特多，洪水多次将开封城区淹没，汴河更是首当其冲。元代至元二十七年河决祥符义唐湾，“自汴城迤东至陈留、杞县，汴河及河堤皆为所淤，而水入蔡河”。

经过洪水的多次侵袭，泥沙淤积，至明代嘉靖年间，开封城内的汴河已不可寻，只有延庆观前小砖桥下故迹微存，俗名臭河儿。明崇祯十五年（１６４２年），黄河再次水灌开封城，洪水退后，连汴河上的州桥也被淤没于地下，自此，在地面上便再也寻觅不到汴河的痕迹了。一代名河，给人们留下的便只有美好的回忆和无限的感慨了。

自