Mường Khương cùng với địa bàn Tỉnh Lào Cai, thời Vua Hùng dựng nước thuộc bộ Tân Hưng; thời Bắc thuộc đời nhà Đường thuộc đất của Châu Chu Quý và Châu Đan Đường; đến đời nhà Lý thuộc đất Đăng Châu; đời nhà Trần tiếp đến đời Nhà Nguyễn thuộc Châu Thuỷ Vĩ. Sau Thực dân Pháp đánh chiếm Lào Cai ngày 30/3/1886 Mường Khương và các đơn vị của tỉnh Lào Cai thuộc đạo quan binh IV. Vùng đất Mường Khương khi đó gọi là Động Sơn Yên. Động Yên Sơn sau này được gọi là Mường Khương.

Năm 1959, ở Pha Long - Mường Khương, đã phát hiện Trống đồng có niên đại cách ngày nay 4.000 năm.

Tháng 11/1946 tỉnh Lào Cai được giải phóng khỏi ách Việt Nam Quốc dân Đảng, chính quyền của ta đổi tên từ Châu sang huyện, chia tỉnh Lào Cai thành 8 huyện, trong đó có huyện Mường Khương. Vùng đất Mường Khương được chia thành 24 xã, tên của các xã đó là: Thống Nhất, Đoàn Kết, Kiến Thiết, Quang Vinh, Hoà Bình, Chính Nghĩa, Ái Quốc, Nỗ Lực, Tiến Bộ, Dân Chủ, Cộng Hoà, Tiên Tiến, Thanh Bình, Phú Cường, Cứu Quốc, Chiến Thắng, Trung Thành, Đồng Tâm, Quyết Định, Tự Do, Hạnh Phúc,Độc Lập, Thắng Lợi, Thành Công.

Năm 1976 Quốc hội quyết định sát nhập 3 tỉnh Lào Cai, Yên Bái, Nghĩa Lộ thành tỉnh Hoàng Liên Sơn, Mường Khương thuộc tỉnh Hoàng Liên Sơn.

Đến tháng 4/ 1980 Hội đồng Bộ trưởng quyết định chuyển 02 xã Bản Phiệt và Bản Cầm về huyện Bảo Thắng. Đồng thời sáp nhập và đổi tên một số xã thành 16 xã cho đến ngày nay. Được chia làm 4 khu vực: Khu vực vùng thấp gồm 03 xã: Bản Lầu, Bản Xen, Lùng Vai; khu vực vùng trung huyện gồm 5 xã: Mường Khương, Tung Chung Phố, Thanh Bình, Nấm Lư, Nậm Chảy; khu vực vùng cao gồm 4 xã: Cao Sơn, La Pán Tẩn, Tả Thàng, Lùng Khấu Nhin. Khu Pha Long gồm 4 xã: Pha Long, Dìn Chin, Tả Gia Khâu, Tả Ngài Chồ.

Mường Khương là huyện vùng cao biên giới có vị trí quan trọng về quốc phòng – an ninh. Nhân dân các dân tộc có truyền thống đoàn kết đấu tranh chống giặc ngoại xâm. Từ khi có Đảng lãnh đạo, mà trực tiếp là Đảng bộ huyện Mường Khương (thành lập ngày 1/3/1950), truyền thống quý báu đó lại được nhân lên. Trong kháng chiến chống thực dân Pháp, tiễu Phỉ dưới sự lãnh đạo của Đảng bộ huyện, nhân dân các dân tộc huyện Mường Khương anh dũng, kiên cường chiến đấu giải phóng huyện Mường Khương vào ngày 11/11/1950. Đồng thời đóng góp sức người, sức của cho 02 cuộc kháng chiến chống Pháp, Mỹ và bảo vệ từng tấc đất Biên cương của Tổ Quốc Việt Nam XHCN, xây dựng quê hương ngày một giầu về kinh tế, mạnh về quốc phòng, an ninh. Với những thành tích đó huyện Mường Khương được Đảng, Nhà nước tặng danh hiệu cao quý anh hùng lực lượng vũ trang nhân dân và Huân chương Lao động hạng Nhì, hạng Ba.