传说真武太子入武当山修炼后，很爱武当的山山水水，绝不肯轻易离山云游。他的好友"地藏王菩萨"此时已得安徽九华山为弘扬佛法的道场。一天，菩萨说："我与仙家荡魔天尊真武大帝，虽教门有别，各有所习，但情谊深厚。况佛、道各蕴精华，甚需常常研习互补。但大帝深藏武当，不履尘俗，怎样才能使我们时常盘桓，共研佛道，各弘教门?"座下弟子闵让和是安徽士人，熟悉家乡的风土人情，便接过话头应道："菩萨不就是要与真武大帝时常盘桓问难，研讨佛道吗?这有何难。"
于是如此这般地耳语了一番。菩萨高兴得连称"阿弥陀佛"!于是入定遥感，向湖北武当山发出邀请信息。真武大帝本不想应邀，但相别日久，也常思念，便驾起祥云前往安徽。久别重逢，不免互相寒喧。时近中午，菩萨即往白岳一素面馆化"斋"。食斋之时，真武看一眼面条说："谁先吃完谁先去游白岳。"这正合地藏王的意思，一口依允。只听"呼噜、呼噜"两口，真武的一碗面条已经吃完。地王不动声色地说："你既已吃完，就先上山游玩吧，我随后就到。"真武走上白岳岭巅，只见山中三十六奇峰、七十二怪岩、二十四秀岭、十六处洞穴和众多泉、池、潭、瀑，各具特色。真武大帝正在喜滋滋地评品山中幽雅秀美的景致，地藏王已吃完面条来到面前。笑道："如何?此山虽不及武当仙山雄伟壮观，但山中峰峦景致，鬼斧神工，自然而成，竞与武当暗合，人称'江南小武当'。不妨将此作为行官别墅，你我也好常相盘桓，研讨佛道玄旨。若能见允，不妨为此山另赐一名以为纪念。"真武稽首应允："承菩萨善意，敢不应命。"为此山取名"齐云山"。据传，其后真武大帝虽主要在湖北武当山处理天上地下的大事，但也常抽空来"齐云行宫"，与地藏王菩萨研习佛道。久而久之，齐云山成了道教胜地，而九华山也成了佛教名山。
齐云山由白岳、齐云、青狮、白象、岐山、太山、南山、苑山、万寿山九大峰峦组成。风景区面积110平方公里，海拔仅585米，用"插天"来形容其高虽有些夸大，但峰峦形态奇特，以山奇、水秀、石怪、洞幽著称。三十六奇峰，峰峰入画，七十二怪岩，岩岩皆景。加之境内的河、湖、泉、潭、瀑，构成了一幅山清水秀、峭拔明丽的自然图画。
齐云山名列道家七十二福地，旧有"江南小武当"之称。这不仅是因为南宋时山上就建有真武祠，供奉真武大帝。更主要的是在明代，武当山道教已深入齐云山。相传张三丰曾于嘉靖年间到齐云山传教，住在半山上的一小屋中，后于此仙逝，他的徒弟将其肉身藏入一岩洞，尊称"肉身洞"，洞前筑有灵殿，至今仍存，殿后洞口刻有"真身内藏"几个大字。道教称名山中仙人所居胜地为福地，故齐云山又称"福寿山"。
早在唐干元年间(758-760)，有道士龚栖霞云游至齐云山，隐居天门岩。南宋宝庆年间(1225-1227)，方士余道元建佑圣真武祠于齐云岩。至明朝，齐云山道教活动日趋兴盛。山中道士常往武当山访师求学，以致齐云山官观建筑、道规道制，多仿效武当。正德十五年(1515)齐云山道土汪泰元仿武当山建玉虚宫于紫霄崖，建静乐官于桃花涧；其门徒方琼真继师志建榔梅庵，并往武当山取榔梅植于庵中。嘉靖十一年(1532)，龙虎山正一派第四十八代天师张彦奏令道众赴齐云山为皇帝建醮祈嗣，果获灵验，皇帝亲题"齐云山"匾额，并赐建玄天太素宫于齐云岩。嘉靖、万历两朝，龙虎山嗣汉天师祖孙三代先后留驻齐云山建坛设醮，道教正一派开始在齐云山发展势力，形成武当山全真派与龙虎山正一派并存的格局。当时齐云山成为与湖北武当山、则川鹤鸣山、江西龙虎山齐名的四大道教名山之一。明末，齐云山道场渐衰，清咸丰、同治年间，连年兵祸，香火凋零，殿堂亭阁、登山石阶又因年久失修而相继倾坍湮没。
随着一千多年以来道教的兴盛，齐云山文化遗迹留存极为丰富，除了有官、殿、院、坛、阁等108处外，齐云胜景曾迎来李白、朱熹、徐霞客、唐伯虎、郁达夫等历代名贤雅士，留下700余处斑斓古艳的摩崖石刻，碑铭石刻星罗棋布。是安徽省境内集丹霞地貌、摩崖石刻、道教文化、山光水色于一体的国家级风景区名胜区。乾隆帝称之为"天下无双胜景，江南第一名山"。
齐云山有月华街、楼上楼、云岩湖、南山、横江五大游览区。
月华衔景区东起白岳峰，西至青狮峰，北临横江，南倚方腊寨，是齐云山道教文化及道教建筑的集中地，融自然景观与人文景观于一体。新修复的天官府建筑最为显眼，山中道场多在此举行，届时香客云集，佛钟道鼓齐鸣，热闹非凡。主要 游览点有：望仙台，为景区大门。传说在洞天福地构修道的灵乙道人于此受铁拐李点化，飞升成仙。而其徒因六根未净，修行未果，只能在此盼望仙人点化，故后人谓之望仙台，并建望仙亭。亭中有明碑，上刻"齐云镇南天，众星拱北极"，突出了齐云山不同凡响的地位。在台上俯瞰，只见婀娜多姿、烟波荡漾的横江环绕山脚，仆
