南海观音寺的历史可以追溯到公元990年，即宋太宗淳化五年，位于南国桃园的牛牯岗上，已有超过一千年的历史。这个古老的庙宇深受周边居民的信仰，然而，历经千年的战乱和变迁，观音庙多次重建又毁坏，到了清朝，只剩下断壁残垣。直至清末和抗日战争时期，寺庙的圣迹几乎荡然无存。
在南国桃园开发初期，为了响应宗教界人士和信众的呼吁，以及执行国家宗教政策，南海观音寺筹备委员会成立，通过募捐重建。经过反复考察，决定在牛牯岗重建，这里山林葱郁，风景优美。寺庙坐北朝南，四周山脉环绕，左右山峰形似青龙伏虎，被尊为灵山胜地，占地达一百余亩。全国佛教协会会长赵朴杉先生为寺庙题写匾额。
1996年2月12日，南海观音寺正式对外开放，12月29日，广东省佛教协会会长、住持释新成大和尚主持了开光典礼。1998年9月15日，广东省宗教局和南海市宗教事务所批准成立了南海观音寺管理委员会。寺庙距广州和佛山约12公里，交通便利，吸引了众多信徒，尤其是每年农历正月二十六的观音开库，吸引了数万人前来参拜，使之成为南海市最大的佛教圣地。
南海观音寺的景点独具特色，寺前的放生池占地30余亩，莲花盛开，荷香与塔影相映，还有柳树、鸽鸟和和谐的气息，让游客流连忘返。寺前的文化广场占地40余亩，林木葱郁，是游人休息的好去处。诸如饼石、观音泉、牛牯石等地方，都承载着观音显灵的传说，姻缘树、瀑布和山顶公园则增添了人文景观，丰富了寺庙的文化内涵。
公元990年（即宋太宗淳化五年），牛牯岗上建有南海观音庙，距今已超过一千年了，周围群众十分信奉。随着时间的推移，千年来兵战动乱，观音庙屡建屡毁。到了清朝只余残垣断壁，清末年间寺庙全毁，再经抗日战争，圣迹早已荡然无存。