1990年中山雅史加入日本足球聯賽球隊山葉發動機，1992年球隊在聯賽的改革成為現今的磐田喜悅，令中山雅史可以參加首屆日職聯賽。自此開始中山雅史一直成為磐田喜悅正選陣容，並且憑他的進球能力成為聯賽中最出色的射手。
1998年4月，當時效力磐田喜悅的日本前鋒中山雅史，在日職聯賽第一階段的第6輪到第9輪的比賽中，連續4場上演帽子戲法，這甚至被健力士世界紀錄大全承認為一項新的世界紀錄。中山雅史載4場比賽中總共打進16球。
2006年9月18日，39歲的中山雅史在作客對川崎前鋒的比賽中攻入一球，不單成為日職聯賽歷史上最年老入球的日本球員，並創出職業生涯連續十三年均能夠在日職取得入球[2]。
2009年12月，磐田喜悅宣布不會再和42歲的老將中山雅史續約，雙方的合同將到2010年1月1日結束。
中山雅史在2012年12月4日在札幌岡薩多宣布退役，當時他已經45歲。但是在2015年9月，他宣布復出，加盟當時還在日本第四級別聯賽的沼津青藍，與球隊一同升入第三級別聯賽，也一直效力至今，不過在這幾年時間裏，他從沒代表過球隊在正式比賽中登場。
日丙聯賽沼津青藍官方宣布，與51歲的日本足壇名宿中山雅史續簽2019年的合同。
中山雅史宣布退出球員現役球員行列，回到老東家磐田喜悅擔任主力教練，並表示將全力協助球隊衝向日職。