Ngày 20 tháng 12 năm 1975, Bộ Chính trịĐảng Cộng sản Việt Nam ban hành Nghị quyết số 19/NQ điều chỉnh lại việc hợp nhất tỉnh ở miền Nam Việt Nam cho sát với tình hình thực tế, theo đó tỉnh Cà Mau và tỉnh Bạc Liêu được tiến hành hợp nhất vào ngày 1 tháng 1 năm 1976 với tên gọi ban đầu là tỉnh Cà Mau – Bạc Liêu. Khi đó, Phường 4 thuộc thị xã Cà Mau, tỉnh Cà Mau – Bạc Liêu.
Ngày 29 tháng 12 năm 1978, Hội đồng Chính phủ ban hành Quyết định số 326-CP[1]. Theo đó, Phường 4 thuộc thị xã Cà Mau.
Ngày 6 tháng 11 năm 1996, Quốc hội ban hành Nghị quyết[8] về việc chia tỉnh Minh Hải thành hai tỉnh là tỉnh Bạc Liêu và tỉnh Cà Mau. Khi đó, Phường 4 thị xã Cà Mau, tỉnh Cà Mau.
Ngày 14 tháng 4 năm 1999, Chính phủ ban hành Nghị định số 21/1999/NĐ-CP[9] về việc thành lập thành phố Cà Mau thuộc tỉnh Cà Mau. Phường 4 trực thuộc thành phố Cà Mau.
Ngày 24 tháng 10 năm 2024, Ủy ban Thường vụ Quốc hội ban hành Nghị quyết số 1252/NQ-UBTVQH15[2] về việc sắp xếp đơn vị hành chính cấp xã của tỉnh Cà Mau giai đoạn 2023 – 2025 (nghị quyết có hiệu lực từ ngày 1 tháng 12 năm 2024). Theo đó:
Sáp nhập 1,61 km² diện tích tự nhiên, quy mô dân số là 12.614 người của Phường 4 và 0,57 km² diện tích tự nhiên, quy mô dân số là 4.116 người của Phường 9 vào Phường 2.
Sáp nhập 0,27 km² diện tích tự nhiên 0,27 km² và quy mô dân số 146 người còn lại của Phường 4 vào phường Tân Xuyên.