山之名史籍上最早描述是在清朝康熙年間(1667)，郁永河所著「番境補遺」書中所云：「玉山在萬山之中，其山獨高，無遠不見，巉巖峭削，白色如銀，遠望如太白積雪，四面攢峰環繞，可望不可及，皆言此山渾然如玉。每晴霽，於郡城望之，不啻天上白雲也。」。清光緒年間，出刊的雲林采訪冊一書中云：「八通關山又名玉山」。
外國人對玉山稱呼，則起於駐台南英國領事Robert Swinhoe以美Alexander號商船船長W.Morrison首次航行台灣，遙見玉山山勢獨特而載於航海日誌中，為外國人最早之記載，此後西方人便沿用Morrison mountain之名。
光緒年間日本人佔據台灣，發現玉山高度超過富士山近200公尺，遂改玉山為「新高山」，週遭主要山峰並以東西南北山稱呼，光復後民國36年由台灣省政府公佈將新高山復名為玉山，而東、西、南、北山則更易為東、西、南、北峰。玉山主峰為東、西、南、北峰所環繞，東望馬博拉斯山及秀姑巒山，西眺阿里山山脈，往南可見關山，北瞻則雪山、南湖大山、中央尖山等歷歷在望。