Năm 1902, tỉnh Hà Nội đổi gọi tỉnh Cầu Đơ, năm 1904 đổi gọi tỉnh Hà Đông. Phủ Hoài Đức của tỉnh Hà Nội (cũ) gồm các huyện Thọ Xương, Vĩnh Thuận, Từ Liêm. Đến năm 1899, sau khi lập khu vực ngoại thành Hà Nội, phủ Hoài Đức (cũ) tỉnh Hà Nội chỉ còn huyện Từ Liêm. Huyện Hoài Đức được lập từ đất các huyện trong vùng là Yên Sơn, Từ Liêm và Ứng Hòa. Huyện Từ Liêm cùng với huyện Hoài Đức mới (ở vị trí như hiện giờ) được lập thành phủ Hoài Đức mới thuộc tỉnh Cầu Đơ - Hà Đông