C’est lors de son congrès fondateur organisé à Paris en 1894 que le tout nouveau Comité International Olympique a décidé d’attribuer les Jeux de la première Olympiade à Athènes. C’était un choix symbolique de revenir sur les terres qui avaient accueilli les Jeux antiques entre 776 avant Jesus Christ et 394 (après J.C.).
Inaugurés par Georges 1er, roi des Hellènes, ces Jeux ont réuni 241 athlètes dans neuf disciplines, mais pas une seule femme. La France a envoyé 13 représentants qui reviendront avec un bilan de 11 podiums pour 5 victoires. Les vainqueurs ont été récompensés de médailles en argent et de couronnes de laurier, les deuxièmes ont reçu des médailles en cuivre et des couronnes de laurier tandis que les troisièmes n’ont rien reçu du tout.
Le héros français a été Paul Masson, triple vainqueur en cyclisme sur piste (vitesse, 1 000 m et 10 km). Il passa professionnel l'année suivante, sous le pseudo de Paul Nossam. Léon Flameng s’est imposé sur 100 km, toujours en cyclisme sur piste, donnant lieu à une scène mémorable. S'apercevant qu'après une lourde chute, son plus dangereux rival, le Grec Kolettis, s’était stoppé pour réparer son vélo. Flameng s'arrêta et l'attendit. Flameng fut porté en triomphe par les spectateurs après sa victoire et, quand le drapeau français fut hissé au mat en l'honneur de sa victoire, la foule se découvrit et cria « Vive la France ».
Eugene-Henri Gravelotte, étudiant en médecine de ving ans, a lui remporté l’épreuve de fleuret. Ce faisant, le Boulonnais est devenu le premier champion olympique français.
Les Grecs ont surtout retenu la victoire de leur compatriote Spyridon Louis qui a dominé l’épreuve du marathon disputée sur 38 km en 2h58’50’’. Arrivé troisième, le jeune Grec Spyridon Belokas a lui été disqualifié pour avoir effectué une partie du parcours assis à l’arrière d’une charrette.