南山寺位于深澳镇金山脚下，古城之南，地处“独鲤朝阳”。
相传清时寺内一和尚，武功绝顶，飞檐走壁，腾空三丈远，还能盘脚坐于石景山尖石顶。他把功夫传授给深澳镇一富家子弟，教完“八仙醉洒”后就不知所踪。
据1945年《南澳县志》载，相传清初释寄尘（明寄遗逸而出家）、释超雪，工诗善书，分别驻锡过南山寺及其附近金山寺，今两寺门额各为其遗墨。门联：“南岛焕新檀德奉献欣再造，山门仍旧佛光普照显重灵”。以“南山”为冠首，点明了这门楼的历经1918年地震而幸存的史实与这次全寺“欣再造”。
南山寺创于明(1368-1644)末，由火神爷小庙扩建而成。乾隆十三年(1748)重修。1918年正月初二日大地震时，寺院倒塌殆尽，仅存门楼。震后4年，岛上七鹤岩尼师修彻、修解，携徒来寺，在善信们捐助下，于废墟上重建，至1927年竣工，艰苦重建成前院房、正厅宝殿、两侧厢房，使其重光。“文革”中驱尼废寺，改为深澳金山村农场场址。
1978年，政策落实，释长仰携盲师公释演证返寺。经海内外众善信解囊，总投资400余万元，重建大雄宝殿（1994年12月4日奠基，至1998年10月竣工），增建食厅、曾舍、祖堂、药师楼、客堂大楼、天王殿、观音阁（1990年仲秋竣工）等，新建的大山门楼，坐南向北，高约9米，宽约10米。全寺建筑而积1000余平方米，坐东北向西南，宏大庄严。结构精巧，雕梁画栋。飞檐翅脚，琉璃焕彩。钟磬传声，佛乐缭绕。花草流芳，令人留连。
原住持释长仰（1924.7.7——2012.03.30），内字超念，生于南澳岛云澳镇澳前乡，俗姓名林准得。18岁来南山寺礼释通英为剃度师长住寺中。1956年到南华寺受具。“文革”时虽被迫返俗乡，仍持素礼佛。“文革”后重兴南山寺、金山寺，又捐资修筑水泥路3条。任过县政协委员、市佛协常务理事、省佛协理事。
寺于1992年8月15日被县政府公布为县文物保护单位，2001年11月9日重建落成开光。 1998午12月被省佛协评为“先进单位”2000年9月被省佛协评为“文明寺院”。