Comme tous les palais assyriens du Ier millénaire av. J.-C., le palais de Sargon était bâti principalement en brique. Les espaces publics et les espaces privés y étaient nettement séparés.

Le babanu, ou secteur public

Le babanu, ou « secteur de la porte », correspondait au secteur officiel et public du palais. On y accédait par la grande cour 15 qui débouchait sur la cour 8, ou cour d’honneur. Celle-ci était décorée de reliefs monumentaux montrant des défilés de dignitaires et une scène de transport du bois. Le couloir 10, au nord, était lui-même orné de reliefs de tributaires en deux registres, et menait vers la cour 3.

La salle du trône

La cour d’honneur donnait accès à la salle du trône (salle 7), longitudinale, qui marquait la séparation entre parties publique et privée. Cette salle devait elle-même être décorée de reliefs mais ce décor fut enlevé dans l’Antiquité, peut-être par Sennacherib lors de son départ pour Ninive. Le trône reposait sur une base en pierre munie de marches de quatre mètres de côté et d’un mètre de haut, sculptée de scènes de guerre prenant place dans des paysages montagneux et côtiers.

Le bitanu, ou secteur privé

Le bitanu, ou « secteur de la maison », était accessible depuis la grande cour 15 et la salle du trône. Les appartements privés se répartissaient autour des petites cours 6 et 1. Sur le côté de la cour 1 se trouvait un édifice à colonnes (monument X), construit avec des pierres de couleurs contrastantes noire et blanche. Cette architecture, que l’on nomme bit hilani, était rattachée à une tradition architecturale syro-hittite et Sargon précise, dans ses inscriptions, avoir construit un bâtiment de ce type dans le palais. On retrouve d’ailleurs un édifice comparable sur un relief de scène de chasse.