Lịch sử khẳng định cách đây hàng nghìn năm, thủ lĩnh bộ lạc Văn Lang đứng lên thống nhất 15 bộ lạc người Việt lập nên Nhà nước Văn Lang, xưng vua lấy hiệu là Hùng Vương. Địa bàn Tô Hiệu ngày nay lúc đó thuộc bộ Tân Hưng.

Dưới triều Trần, vùng đất Tô Hiệu ngày nay nằm trong trấn Thiên Hưng. Đến triều Lê (thế kỷ XV), Mường La tách thành 1 châu mường riêng. Mường La có hai cánh đồng rộng lớn là Chiềng cằm (Chiêng Kăm) và Chiềng Ngân. Vùng đất Tô Hiệu ngày nay thuộc cánh đồng Chiềng Ngân.

Ngày 10-10-1895, Pháp thành lập tỉnh Vạn Bú. Ngày 23-8-1904, đổi tỉnh Vạn Bú thảnh tỉnh Sơn La. Sau khi chuyển trụ sở tỉnh lỵ về đóng trên đồi Khau Cả, chính quyền thực dân bắt đầu xây dựng kết cấu hạ tầng như mở đường, chợ, trường học, nhà ngục… nhằm phục vụ nhu cầu sinh hoạt và chính sách khai thác thuộc địa.

Tháng 8-1945, dưới sụ lãnh đạo của Đảng Cộng sản Việt Nam, nhân dân các dân tộc Sơn La sát cánh cùng nhân dân cả nước vùng lên khởi nghĩa giành chính quyền thắng lợi. Năm 1946, thục dân Pháp quay trở lại xâm lược, cuộc kháng chiến của quân và dân ta bùng nổ.

Năm 1952, sau chiến dịch Tây Bắc, tỉnh Sơn La được giải phóng. Năm 1955, Chủ tịch nước ký sắc lệnh thành lập Khu tụ trị Thái – Mèo (sau đổi tên là Khu tự trị Tây Bắc), cấp tỉnh giải thể. Ngày 26-10- 1961, Hội đồng Chính phủ ra Quyết định số 173-CP về thành lập thị xã Sơn La – thị xã đầu tiên của vùng Tây Bắc. Theo đó, thị trấn Chiềng Lề trực thuộc thị xã Sơn La. Tháng 10-1962, tỉnh Sơn La được tái lập. Ngày 03-01-1981, Hội đồng Bộ trưởng ra Quyết định đổi thị trấn Chiềng Lề thành phường Chiềng Lề.

Ngày 16-5-1998, theo đề nghị của ủy ban nhân dân tỉnh Sơn La, Chính phủ ban hành Nghị định số 31-NĐ/CP về thành lập phường Tô Hiệu (tách ra từ phường Chiềng Lề) gồm 9 tổ dân phố và 1 bản trực thuộc với 9 dân tộc cùng sinh sống. Đồng bào các dân tộc anh em đoàn kết, hòa thuận, cùng nhau xây dựng phường Tô Hiệu, thành phố Sơn La ngày một giàu đẹp, văn minh.