Thành phố Phúc Yên được thành lập ngày 31/10/1905, là tỉnh lị tỉnh Phúc Yên. Trong kháng chiến chống Pháp, chuyển thành thị trấn rồi được tái lập làm thị xã ngày 1/2/1955.
Ngày 26/6/1976, một lần nữa Phúc Yên chuyển thành thị trấn thuộc huyện Yên Lãng, tỉnh Vĩnh Phú. Khi huyện Yên Lãng hợp nhất với huyện Bình Xuyên thành huyện Mê Linh, thì thị trấn Phúc Yên là huyện lỵ huyện Mê Linh.
Từ năm 1978 đến năm 1991 thị trấn Phúc Yên cùng với huyện Mê Linh chuyển về Hà Nội. Sau đó thị trấn Phúc Yên lại trở về tỉnh Vĩnh Phú, rồi thuộc tỉnh Vĩnh Phúc (từ 1997).
Ngày 5/7/1977 Hội đồng chính phủ có Quyết định 178-CP, trong đó hợp nhất huyện Bình Xuyên và huyện Yên Lãng thành một huyện, lấy tên là huyện Mê Linh và sáp nhập 4 xã của huyện Yên Lạc: Văn Tiến, Nguyệt Đức, Minh Tân và Bình Định, 2 xã của huyện Kim Anh: Quang Minh và Kim Hoa vào huyện Mê Linh.
Tháng 12/1977, các xã Phúc Thắng, Nam Viêm, Cao Minh, Ngọc Thanh và Thị trấn Xuân Hòa được cắt chuyển về huyện Mê Linh, thuộc thành phố Hà Nội.
Ngày 29/12/1978, theo Nghị quyết của Quốc hội khoá VI, kỳ họp thứ 4, chia tách huyện Mê Linh, một phần thuộc quản lý của tỉnh Vĩnh Phú; phần còn lại thành huyện Mê Linh mới trực thuộc Thành phố Hà Nội. Địa bàn thành phố Phúc Yên ngày nay thuộc huyện Mê Linh. Đảng bộ huyện Mê Linh trực thuộc Đảng bộ Hà Nội.
Ngày 1/4/1979, huyện Mê Linh trong đó có địa bàn các, phường, xã, thị trấn thuộc thành phố Phúc Yên hiện nay chính thức chuyển về trực thuộc Hà Nội.
Sau đó, thị xã Phúc Yên được tái lập theo Nghị định số 153/NĐ-CP ngày 9/12/2003 của Chính phủ và chính thức ra mắt hoạt động từ ngày 1/1/2004.
Ngày 07/02/2018, Ủy ban Thường vụ Quốc hội khóa XIV đã ban hành Nghị quyết số 484/NQ-UBTVQH14 về việc thành lập phường Tiền Châu, phường Nam Viêm thuộc thị xã Phúc Yên, thành lập thành phố Phúc Yên thuộc tỉnh Vĩnh Phúc./.