1896年4月6日下午3时，希腊国王乔治一世宣布了首届现代奥林匹克运动会的开幕。国际奥委会的重要成员维凯拉斯和顾拜旦出席了盛会，伴随着庄严的古典弦乐，希腊萨马拉斯作曲、帕拉马斯作词的会歌在开幕式上奏响，成为奥运会的传统会歌。希腊民众对此次大会热情高涨，8万人出席，这一数字直到1932年才被打破。共有13个国家的311名运动员参赛，其中希腊派出了230人，占总数的三分之二，美国和德国选手人数较少，美国选手多来自哈佛和普林斯顿，他们是自费参赛，抱着观光目的而来，原定4月18日的开幕日期被误认为是4月1日，他们临时调整行程，准时参赛。
比赛项目包括田径、游泳、举重、射击、自行车、古典式摔跤、体操、击剑和网球。原计划中的赛艇因天气和报名问题未举行。美国选手詹姆斯·康诺利在三级跳远中夺冠，成为首个奥运会冠军。他的胜利开启了奥运会奏国歌升国旗的颁奖传统。美国在田径比赛中表现突出，除了康诺利，罗伯特·加勒特也在铁饼项目夺冠，尽管在此之前铁饼比赛在美国家喻户晓度较低。
马拉松赛是此次盛会的高潮，为纪念马拉松战役的菲迪皮得斯，法国语言学家米歇尔·布里尔建议增设马拉松项目。希腊对马拉松赛寄予厚望，17名运动员参赛，场面热烈，吸引了10万人观看。希腊选手斯皮里东·鲁易斯第一个冲线，被授予民族英雄称号，但选择回到家乡，过着平凡生活。
游泳比赛在公海上举行，条件艰苦，匈牙利的阿尔弗雷德·哈约什获得两项冠军。举重和摔跤没有体重分级，英国的劳·埃利奥特虽在举重项目中获胜，但因姿势问题屈居第二。击剑分为业余和职业比赛，法国和希腊选手分别夺魁。自行车赛中，奥地利选手表现出色，尤其是87公里的马拉松赛，法国的莱·弗拉明展示了高尚体育道德。
闭幕式上，国王乔治一世颁发奖牌，奖牌为银、铜，没有金质奖牌。10天后，运动会结束，美国以11金7银1铜的成绩领先，东道主希腊和德国紧随其后。各国运动员和官员在王宫盛宴中告别，期待着四年后在巴黎的再次相聚。
1896年雅典奥运会是第1届夏季奥林匹克运动会于1896年4月6日至4月15日在希腊雅典举办。希腊人对这次大会表现了极大的热情，出席开幕式的观众达8万人，这一数字直到1932年洛杉机奥运会才被突破。应邀参赛的有澳大利亚、奥地利、保加利亚、英国、匈牙利、德国、丹麦、美国、法国、智利、瑞士、瑞典和东道主希腊13个国家的311名运动员，希腊阵容最大，共230人占总数的2\3；德国、法国各19人；美国14人，居第4位。