L'enceinte sacrée
A l'intérieur de la clôture se trouvaient les temples et les bâtiments directement liés au culte :
Le temple d'Héra
L'Héraîon, édifié vers 650 avant notre ère, est le plus ancien des grands temples grecs, probablement le premier édifice dorique connu. 
Consacré à Héra, ce temple périptère de 64 m de long et 28 m de large, possédait 6 colonnes en façade et 16 sur les longs côtés. 
Elles étaient à l'origine toutes en chêne et furent progressivement remplacées par des colonnes de pierre.
Il abritait la table sur laquelle on plaçait les couronnes préparées pour les vainqueurs des jeux. 
L'autel d'Héra se trouvait à l'est du temple. C’est dans la cella de ce temple qu’a été découverte, en 1877, la fameuse statue de l’Hermès de Praxitèle portant Dionysos enfant.
Le temple de Zeus
Ce temple périptère de Zeus Olympien fut construit entre 470 et 456 avant notre ère par l’architecte éléen Libon, grâce au butin fait par les Éléens dans leurs guerres contre Pisa et la Triphylie. De style dorique, il mesurait 64,12 m de long, et 27,68 m de large. 
Il possédait six colonnes en façade, treize sur les longs côtés, et un plan tripartite parfaitement classique. Le bâtiment, accessible à l'est par une rampe, était en calcaire coquillier local et recouvert de stuc blanc, hormis les métopes, les frontons et les sculptures, en marbre. Dans chaque fronton se logeait un ensemble de statues en marbre d'une exceptionnelle qualité qui sont en grande partie conservées.
Il subit plusieurs catastrophes, notamment un incendie vers 426, et un tremblement de terre un siècle plus tard, qui le détruisit. L'ensemble du site a été retrouvé enfoui sous une couche d'alluvions de plusieurs mètres d'épaisseur.
Il devait sa renommée à la statue chryséléphantine de Zeus qui siégeait à l’intérieur, sur un trône, situé au fond de la nef centrale de la cella. Haute de 12 mètres, elle était l’une sept merveilles du monde, et fut réalisée en huit ans (entre 440 et 430) par le grand sculpteur Phidias (il avait réalisé la statue d'Athéna qui ornait l'Acropole d'Athènes). Zeus tenait dans sa main droite la déesse de la Victoire, Niké, et dans sa main gauche un sceptre surmonté d'un aigle.
Le corps était fait d'ivoire, les cheveux, la barbe, les sandales, et la draperie, en or. Le trône était d'ébène et d'ivoire, incrusté de pierres précieuses. Par vénération pour le sculpteur, l'atelier fut conservé jusqu'au Vème siècle. A cette époque, la statue fut enlevée du temple pour rejoindre, à Constantinople, la prodigieuse collection de Lausos, chambellan de Théodose II. Elle disparaitra dans un incendie en 461.
A côté de ce temple figurait l'autel de Zeus, lieu où les offrandes en l'honneur de ce dieu étaient déposées.
Le prytanée
Le prytanée des Éléens, résidence des magistrats, fut construit en plusieurs étapes à partir du VIème siècle avant notre ère. En son centre se dressait l’autel de la déesse Hestia, où brûlait un feu perpétuel, et dans la cour à colonnade située à l’ouest, s’ouvraient des salles réservées aux officiels.
Il renfermait l'hestiatorion où était célébré le banquet offert aux vainqueurs des Jeux.
Le pélopéion
C’était un monument bâti en l'honneur de Pélops. Il consistait en un autel ceint d'un mur pentagonal doté d'une entrée monumentale. Le monument connut de très nombreuses transformations entre le VIème siècle et le IVème siècle avant notre ère
Le mètrôon
Bâti au IVème siècle avant notre ère au pied de la terrasse des trésors, ce temple dorique périptère (6 x 11 colonnes, 10,62 mètres x 20,67 mètres) fut consacré à une Mâter, Athéna, Gaïa ou Rhéa-Cybèle avant d'être affecté, plus tard, au culte de Rome et d'Auguste. L'architrave était sans doute décorée en bronze. L'intérieur présentait les trois divisions ordinaires. A l'époque romaine, on y plaça des statues d'empereurs.
Le nymphée d'Hérode Atticus
Le nymphaïon, fontaine monumentale, fut offert en 160 avant notre ère par Hérode et sa femme Regilla au sanctuaire. L’eau était récupérée à 4km du site par un aqueduc canalisant une source abondante. 
De forme semi-circulaire, il comportait des niches décorées de statues d’Hérode Atticus, des empereurs Antonin le Pieux, Hadrien, Marc-Aurèle et de membres de leurs familles. ![]()
Les édifices votifs, les trésors
Sur une terrasse en pierre située au nord, au pied du mont Kronion, s'alignait une rangée de 12 petits édifices votifs en forme de temple consacrés à Zeus par des états-cités ou de riches fidèles. 
Ils sont désignés traditionnellement sous le nom de Trésors. Les ruines des trésors qui ont été mises au jour ont révélé une façade de style dorique. Tous offraient d'incroyables richesses artistiques et chacun présentait quelque caractère original, tous étaient pleins d'armes curieuses et antiques, offertes en ex-voto.
Les Zanes
Il y avait au pied de la terrasse des trésors 16 statues de Jupiter en bronze, les Zanes (forme plurielle du nom Zeus), qui avaient été sculptées grâce au produit des amendes infligées par les juges des Olympiades aux athlètes non respectueux des règlements en vigueur. Les bases nous ont livré de curieuses inscriptions en vers dont quelques-unes indiquent le motif de l'amende. Leur positionnement, le long de la voie menant au stade, était une forme d’avertissement aux compétiteurs.
La stoa d’Echo
Stoa est le terme grec désignant un portique, c'est-à-dire un bâtiment, ou la partie d'un bâtiment couvert, fermé à l'arrière par un mur plein, et ouvert en façade par une colonnade. 
C'est un lieu de rencontre, destiné à protéger diverses activités des intempéries. La stoa fut aussi appelée heptachêos en raison du son se répétant 7 fois en echo à l’intérieur.
Les premiers philosophes stoïciens grecs se réunissaient dans une stoa, d'où l'étymologie de stoïcisme.
Le philippéion
Cet édifice circulaire en marbre, entouré de colonnes ioniques et couvert d’un toit conique qui se terminait par un grand acrotère à palmette (lanterne percée de fenêtres), fut érigé sur l'ordre de Philippe II de Macédoine après sa victoire à la bataille de Chéronée (338 avant notre ère). 
Ce bâtiment rond abritait les statues chryséléphantines, œuvres de Léocharès) de Philippe, de son épouse Olympias, de son père Amyntas III, de sa mère Eurydice et de son fils Alexandre le grand.
Le mur de l'Altis fut redessiné de sorte que le philippeion soit intégré dans les limites du site sacré, ce qui souligne l'évidence, pour les Macédoniens, d'appartenir au monde grec. La restauration partielle du temple fut finie en 2005.