顾拜旦原本计划首届奥运会放在巴黎举行，自己担任国际奥委会主席。但他的好友、希腊诗人泽麦特里乌斯·维凯拉斯（Demetrius Vikelas）提议首届奥运会应放在希腊举行，并得到了大多数人的同意。为了寻求更多人的支持，顾拜旦将国际奥委会主席一职让给维凯拉斯，自任秘书长。
大会结束时，顾拜旦作了题为《世界青年人的典礼》的演讲：“让我们输出我们的跑步和击剑的运动员吧⋯⋯和平事业将因此增加新的、更强有力的支柱。”
会议结束后，顾拜旦对希腊奥林匹亚地区进了实地考察。考虑到资金和交通状况，他取消了在奥林匹亚举办运动会的打算，决定按古希腊风格，在雅典新造一个可容纳5000名观众的体育场举办现代第一届奥运会。
然而，举办奥运会，面临的最大问题就是经费问题。首届奥运会的东道主希腊当时的经济十分不景气，希腊首相特里库皮斯致信顾拜旦，代表希腊政府委婉而坚决地表示：“希腊政府不认为在雅典举办第一届奥林匹克运动会是合适的事情，经济危机所导致的经济萧条，使希腊没有能力在奥运场馆的建设上支付任何费用，希腊人的体育观念很差，这个国家不懂得任何现代体育竞技。”信的最后，首相建议：“在巴黎这座美丽的城市之外，我再也想不出更好地举办奥林匹克运动会的时间和地点了。”
皮埃尔·德·顾拜旦 现代奥林匹克之父
虽然希腊首相在巴黎举办首届奥运会的建议与顾拜旦最初的设想不谋而合，但此时的顾拜旦却认为，如果第一次成功复兴的奥运会不能在她的故乡希腊举行，那这种复兴的意义就会大打折扣，甚至失去它的绝大部分意义。
顾拜旦赶往希腊，尽最大的努力进行游说，说服希腊王室和民众同意在雅典举办第一届奥运会。在顾拜旦的努力下，希腊王室终于被说服，表示愿意全力支持顾拜旦，乔治王子亲自担任名誉主席。此外，顾拜旦还得到了希腊富商乔治·阿维罗夫在资金方面的资助。
经过多方奔走和不懈努力，第一届现代奥运会终于在1896年4月5日于希腊雅典开幕。开幕式上，希腊国王高度赞扬了顾拜旦的贡献。发源于古希腊的奥林匹克运动会终于在她的诞生地迎来了伟大复兴。
