1979年，回北京主演影片《櫻》。

1980年，起任西安電影制片廠演員。1982年，主演故事片電影《張衡》，飾演東漢時期的科學家“張衡”。1984年，主演了根據巴金同名小說改編的電影《寒夜》，出演主人公“汪文宣”。1986年，轉任導演。1987年，導演了電影《盲流》及電視劇《鑄情歲月》，并著有《電影表演探索》等40餘篇論文，并憑借《古越轶事》奪得首屆電影藝術學會獎。

1993年，憑借《筏子客》奪得第四屆電影藝術學會獎。1994年，在謝晉執導的《大上海屋檐下》中飾演沈伯軒。1997年，參演楊潔執導的曆史劇《司馬遷》，飾演了西漢第七位皇帝漢武帝。1999年，主演了何群執導的根據同名小說改編而成的紅色作品《紅岩》。

2001年10月，與徐帆共同拍攝了，謝飛執導的曹禺話劇改編的《日出》，7日，主演了曆史懸疑劇《江山爲重》，飾演康熙；同年，與吳京、雅琦共同主演武俠動作劇《少林武王》。

2002年4月，主演了清朝孝莊文皇後的生平而改編的曆史古裝劇《孝莊秘史》，飾演清太祖，多爾衮和皇太極的父親；8月，客串了改編自金庸同名小說的古裝武俠愛情劇《天龍八部》，飾演逍遙派掌門無涯子；11月，拍攝了表現世界曆史文化遺産避暑山莊及周圍寺廟的長篇作品《避暑山莊大傳奇》，在康熙篇中飾演康熙。

2003年6月，主演了清宮曆史劇《宮廷畫師郎世甯》，飾演康熙；同年，與張庭、範冰冰主演古裝曆史劇《聚寶盆》，飾演劉伯溫。

2005年，與常戎共同主演槍戰懸疑劇《喋血大漢口》，在劇中扮演大漢口幫會總舵主司馬豪。

2006年4月，拍攝了首部講述中國近代史上福建船政創立和中法馬江海戰的作品《船政風雲》；5月，在顔丹晨主演的人物傳記作品《商賈将軍》中飾羅文川；9月，拍攝了曆史題材作品《大秦帝國之裂變》，飾演秦獻公；12月，參演了由黃維德、熾龍主演的民國江湖勵志劇《東方霸主》，飾演青龍幫老幫主關振南；同年，拍攝了改編自明朝小說家許仲琳所著的奇幻神話小說《封神榜之鳳鳴岐山》，飾演聞太師。

2008年7月，出演了李少紅執導的新版《紅樓夢》，飾賈政。

2009年2月，許還山拍攝了建國六十周年緻敬影片《建國大業》，飾于右任；3月，出演胡玫執導的人物傳紀電影《孔子》，飾老子；6月，與李亞鵬合作，拍攝家族年代劇《血色沉香》，飾反派銀行家葉公；7月，拍攝了《少林寺傳奇3》，飾朱載琇；11月，出演電視劇《西風烈》，飾趙惠文王。

2010年2月，搭檔王志飛出演年代劇《草根王》，飾高買大師霍一手；9月，在以“白家”和“鹿家”在白鹿原上的争鬥爲背景的電影《白鹿原》中飾郭舉人。

2011年9月，拍攝了張揚執導的喜劇電影《飛越老人院》，并在劇中飾老葛；12月，出演紅色題材反特劇《紅色利劍》，飾李弘基；同年，在張國立執導的建黨90周年獻禮劇《中國1945之重慶風雲》中飾民盟主席張瀾 。

2012年，參演電影《錢學森》，與陳坤、張雨绮合作。飾演老年錢學森。

2013年7月，許還山出演了國建勇執導的諜戰題材作品《利箭行動》，飾衛逸德；8月，與俞灏明共同主演了古裝懸疑電影《大峰祖師》，飾演祖師；9月，獲得中國電影表演藝術學會特别榮譽獎。

2016年2月，在《老子傳奇》中出演聖人老子的第三任老師“紫真”；7月，與高以翔、焦俊豔等共同出演電視劇《遇見王瀝川》。

2017年7月，在王良導演的《我的老兵爺爺》飾演亓長福（男一号）。

2018年10月26日，主演都市情感劇《爲青春點贊》，飾演胡英南。

2019年，出演電視劇《慶餘年》，飾演莊墨韓。

2020年12月1日，出演古裝曆史政治劇《大秦賦》，飾演荀子。

2021年4月16日，領銜主演的電影《空中之城》播出，劇中飾演了喪偶的老軍人。

2021年6月20日，參演梁嘉誠導演的電影《寶典傳》。