传说很久很久以前，有一名苏格兰牧羊人在一次偶然用牧羊棍的把手将一颗圆石子击入兔子洞中，从而得到启发，发明了高尔夫这项贵族运动。而据考证，高尔夫这个词最早出现在1457年苏格兰议会文件中，当时由于高尔夫球盛行，将许多年轻人从射箭运动中吸引了过来。因此政府下令禁止。1457年3月，苏格兰王室颁布了一项"完全停止并且取缔高尔夫球"的法令。原因是这项消遣性极强的运动，妨害了苏格兰青年演练苏格兰"国术"--射箭。但实际上，连主持制定1491法规的苏格兰国王詹姆士四世自己最终也嗜高尔夫球成癖，成了高尔夫球场的狂热的常客。而詹姆士五世国王及其王后，也效法詹姆士四世打起了高尔夫球。
而早在苏格兰打高尔夫球之前，在中国和古罗马都曾流行过类似高尔夫球的以杆击球的游戏。公元前二、三百年时，中国有种被形象地称为"捶丸"的游戏，而公元前27年至公元395年的古罗马有一种以木杆击打羽毛充塞制成的球的游戏。
和它在我们的印象中的"年轻"不同，在世界上种类繁多的体育运动中，高尔夫球可算是一项较为古老的运动，高尔夫球于1457年在苏格兰的圣安德鲁斯市(St.Andrews city)兴起。当时苏格兰的一项重要军事运动---射箭术正在处于衰落的境地，而高尔夫球却从此勃兴了。
苏格兰的圣安德鲁斯城的地理条件得天独厚，它有自然形成的高尔夫球场所需的障碍物----海风吹成的沙洼，漫布着楠属植物的沙丘，蜿蜒曲折的溪流，阵阵不断的海风，苏格兰人就在这儿打高尔夫球。因此，对于苏格兰人来说，真正的高尔夫球场就应在这沙丘之间，大自然就是这种球场的"建筑师"，而其它的球场相对来说则是"内陆球场"。
尽管当时没有文字记载可以证实日期，据说于1608年已经成立了"皇家黑石楠"高尔夫俱乐部。1754年，在圣安德鲁斯市正式组织了"圣安德鲁斯市皇家古典高尔夫俱乐部"。据说，该俱乐部由22个贵族和绅士建立。他们还制定了13条基本的高尔夫球规则。今天，世界成千上万的高尔夫球场还沿用着这些规则。
圣安德鲁斯市真可以说是"高尔夫之都"，每年有数以万计的"朝圣者"来参观这里的高尔夫球场。"皇家古典高尔夫球俱乐部"部长的就职仪式也很特别。按照传统，新任的部长必须在9月第三周的星期三进行就职仪式。届时，他本人必须走马上任，要像高尔夫球一样"击入办公室"。表现方式是，他跨上第一个开球处，在他前面是球场，鱼贯而立着一批球童，然后，由他发出一球，球童们争着拾球，拾得者奖一英镑。其后，一尊古炮鸣响，在这隆隆炮声和滚滚烟雾中，部长宣布就职。
