Για την ανέγερση του Αρχαιολογικού Μουσείου Θεσσαλονίκης παραχωρήθηκε το 1950 ένα μεγάλο οικόπεδο σε κεντρικό σημείο της Θεσσαλονίκης, στην Πλατεία Χ.Α.Ν.Θ. και σε άμεση γειτνίαση με την μεγάλη έκταση της Διεθνής Έκθεσης. Ο σχεδιασμός του κτιρίου ανατέθηκε στον επιφανή Έλληνα αρχιτέκτονα Πάτροκλο Καραντινό, σημαντικό εκπρόσωπο του μοντερνισμού στην Ελλάδα.

Τα εγκαίνια του νέου μουσείου πραγματοποιήθηκαν το 1962. Το κτήριο λιτό, απλό και λειτουργικό, εμπνευσμένο από την εσωστρέφεια της αρχαιοελληνικής κατοικίας, διέθετε δύο εσωτερικές αυλές στις οποίες ανοίγονταν όλες οι αίθουσές του για να εισρέει άπλετο φυσικό φως στις εκτιθέμενες αρχαιότητες. Αποτελεί ένα από τα πιο αντιπροσωπευτικά δείγματα του μοντερνισμού στην Ελλάδα και το καλύτερο ίσως οικοδόμημα του Καραντινού. Κηρύχτηκε μνημείο της νεότερης αρχιτεκτονικής το 2003. Το 1980 έγινε η προσθήκη από τον Βογιατζή.

Το 2002 με σχετικό Προεδρικό Διάταγμα (το 164/2002) το Αρχαιολογικό Μουσείο Θεσσαλονίκης γίνεται ανεξάρτητη περιφερειακή μονάδα του Υπουργείου Πολιτισμού. Η επιτακτική ανάγκη ανακαίνισης του κτηρίου του Καραντινού και οι σύγχρονες μουσειολογικές επιταγές, οδήγησαν στην απόφαση μιας ριζικής μετασκευής του Μουσείου στην αυγή του 21ου αιώνα. Τη μελέτη και υλοποίηση των επεμβάσεων στο διατηρητέο κτήριο ανέλαβε ο αρχιτέκτονας Ν. Φυντικάκης. Το κέλυφος του κτηρίου παρέμεινε ανέπαφο, ενώ εσωτερικά έγιναν δυναμικές αλλαγές με κυριότερη αυτή της στέγασης του κεντρικού αίθριου με χωροδικτύωμα. Το κτήριο και οι επανεκθέσεις χρηματοδοτήθηκαν από το Γ΄ Κοινοτικό Πλαίσιο Στήριξης.

Το ανακαινισμένο κτήριο, με πλήρη συστήματα ειδικών συνθηκών κλιματισμού και διατήρησης σταθερής θερμοκρασίας στις εκθέσεις, στις αποθήκες αλλά και στα εντελώς εκσυγχρονισμένα εργαστήρια καθώς και το ανανεωμένο επανεκθετικό πρόγραμμα κατέστησαν το Μουσείο Θεσσαλονίκης ένα από τα πλέον σύγχρονα και εξοπλισμένα μουσεία του ελληνικού χώρου.