Đê Yên Phụ nhìn từ trên cao, trước kia hoành tráng nhất trong hệ thống đê điều miền Bắc
Tuy nhiên, Tô Lịch là sông nhỏ nên lũ lụt gây ra không kinh khủng như sông Hồng, con sông dài và lớn nhất miền Bắc và đoạn qua Hà Nội quành từ Bắc sang Đông, uốn éo như vành tai nên sông này còn có tên khác là Nhĩ Hà. Đại Việt sử ký chép, những năm 1238, 1243, nước tràn vào kinh thành, bến Triều Đông (còn gọi là bến Đông Bộ Đầu, nay là khu vực phố Hàng Than) và bến Thái Tổ (nay là phố Nguyễn Du) trắng nước. Năm 1265, nước ngập phường Cơ Xá, năm 1270 nước to đến mức đi lại trong thành phải dùng thuyền.
Vì lũ lụt gây thiệt hại về người, nhấn chìm nhà cửa ruộng vườn khiến dân chúng đói kém nên đắp đê chống lũ luôn là việc trọng đại từ xưa đến nay. Mặt khác, đê sông Hồng đoạn qua Thăng Long là cực kỳ quan trọng vì Thăng Long là đầu não chính trị, kinh tế của các triều đại quân chủ. Sau trận lụt năm 1108, Vua Lý Nhân Tông cho đắp đê cao hơn tại phường Cơ Xá (khu vực từ Nhật Tân kéo xuống gần cầu Long Biên hiện nay).
Việc đắp đê chống lũ lụt trở nên cấp thiết nên năm 1248, vua Trần Thái Tông lập ra Quan hà đê có chánh sứ và phó sứ phụ trách tại các lộ phủ. Nhà Trần cho đắp đê từ đầu nguồn tới cuối nguồn gọi là đê quai vạc, đây là bước ngoặt trong lịch sử thủy lợi Việt Nam. Đê quai vạc không chỉ đắp tại đồng bằng sông Hồng mà còn tại Thanh Hóa, Nghệ An, song đê thời Trần không cao, đắp đê với mục đích để nước không tràn vào đồng.
Đến triều Lê Sơ (1428-1527), cùng với việc cho đắp những con đê mới lớn hơn, triều đình cũng tôn tạo hệ thống đê cũ trên hai bờ sông Hồng bằng đất, đá để bảo vệ Thăng Long. Vua Lê Thánh Tông theo nhà Trần cũng đặt chức Quan hà đê. Trục đường Hàng Than, Hàng Giấy, Hàng Đường, Lý Thái Tổ qua Bà Triệu xuống phố Nguyễn Du hiện nay thời Lê Sơ là đê bảo vệ Hoàng thành.
Thế kỷ XVII, người Hà Lan mở thương điếm ở Thăng Long. Thương điếm nằm ở ngoài đê sông Hồng nên những năm nước lớn thường xảy ra lụt lội. Vì thế, thương điếm Hà Lan đề nghị triều đình đắp thêm con đê mới chạy dọc theo mép sông Hồng tương ứng với các con phố: Mã Mây, Nguyễn Hữu Huân, Lý Thái Tổ, Ngô Quyền... ngày nay.
Khi nhà Nguyễn chuyển kinh đô vào Huế năm 1802, Thăng Long không còn là kinh đô thì họ vẫn chăm chút đê chạy qua đô thị này. Vừa là lo cho dân nhưng cũng là an dân vì nhà Nguyễn biết dân chúng Bắc Hà vẫn còn vọng Lê, nếu để xảy ra vỡ đê, dân đói kém thì lúc đó sức dân mạnh như sức nước. Và đê là con bài chính trị của Vua Gia Long, ông luôn luôn hỏi han về lụt lội.
Minh Mạng lên ngôi năm 1820, không chỉ duy trì luật lệ về đê từ triều Gia Long mà còn bổ sung thêm nhiều điều khoản rõ ràng hơn, còn dụ thêm rằng: “Đắp đê là chống nước lụt cho dân yên ở, quan hệ lợi hại không nhỏ”.
Theo mô tả của bác sĩ Hocquard trong cuốn “Một chiến dịch ở Bắc Kỳ”, năm 1883, đoạn đê khu Đồn Thủy (từ Bảo tàng Lịch sử xuống Bệnh viện Hữu Nghị hiện nay) đã rất cao nhưng năm 1884 mưa bão lớn làm vỡ 60m, biến khu Đồn Thủy nằm trong biển nước. Nước ngập lại may mắn cho quân Pháp vì lũ khiến quân Cờ Đen đang bao vây Đồn Thủy phải thu quân. Đê qua Hà Nội cực kỳ cần thiết và quan trọng ấy vậy mà không hiểu sao ngày 9-7-1888, Đốc lý Hà Nội đã ra quyết định cho phá bỏ đoạn đê từ Yên Phụ xuống Lương Yên.
Ngay lập tức Thống sứ Bắc Kỳ đã có công văn giữ nguyên đoạn đê và yêu cầu đắp lại những chỗ đã phá. Đê từ Nhật Tân đến dốc Yên Phụ hoành tráng nhất trong hệ thống đê điều miền Bắc. Cao tới 14m, mặt rộng, thân lớn. Sở dĩ đê đoạn này lớn là do được đắp lại sau khi đoạn đê Quảng Bá bị vỡ (hồ Quảng Bá ngày nay là dấu vết chỗ đê vỡ, nước sói tạo ra hồ) thời Vua Tự Đức. Trước đó, phố Yên Phụ và Nghi Tàm ngày nay xưa là đê. Khi người Pháp quản lý Hà Nội, đoạn đê này được chăm lo nhiều nhất vì nó chính là chỗ quành của sông Hồng.
Năm 1915, đê Liên Mạc bị vỡ, chính quyền đã cho đắp con đường đất từ Nhật Tân đến chợ Bưởi thành đê (đường Lạc Long Quân hiện nay). Để giữ đất chân đê không bị xói lở, năm 1900, kỹ sư thủy lợi Gelet đã đưa ra khuyến nghị các làng sát chân đê nên trồng tre và ổi. Bờ tre ở chân đê Phú Thượng ngày nay và dãy ổi từ Nghi Tàm đến Quảng Bá một thời được trồng sau khuyến nghị của Gelet. Đất đắp đê phải lấy xa đê nên khi đắp đê Yên Phụ - Nhật Tân, họ cho lấy đất ở các làng Xuân Đỉnh, Cổ Nhuế, Nghĩa Đô… nên ở vùng này có nhiều hồ ao.
Thời Lý, Trần và Hậu Lê, đắp đê là công việc chung, trai tráng các làng bị bắt buộc phải làm công việc này, họ phải tự lo ăn uống. Đến đời Nguyễn cũng vậy, nhà nước chỉ bỏ tiền thuê chở đất từ các nơi về. Đến thời Pháp quản lý Hà Nội, họ tổ chức thầu đắp đê, tuy nhiên về nhân lực, họ vẫn bắt buộc dân chúng các làng xã quanh vùng tham gia. Điểm khác là dân chúng được trả công dù rất thấp.
Thập niên 90 thế kỷ trước nhờ vốn vay của Ngân hàng Phát triển châu Á nên đê đất từ Phú Thượng xuống Vĩnh Tuy đã được bê tông hóa và trở thành đường giao thông.
