汉末，张道陵创立“五斗米道”，其弟子崔文子在泰山采药疗疾，进行布道活动。

　　经魏晋南北朝至隋唐，泰山道教有了较大发展。唐代提倡道教，以老子李聃为先祖，借以抬高李唐王朝皇族地位。显庆六年(661年)，高宗和武则天遣道士郭行真到泰山建醮造像，立双束碑。乾封元年(666年)，高宗东封泰山，归途中追封老子为“太上玄元皇帝”，在泰山王母池西侧建老君堂，祀老子。武则天改唐为周的15年间，先后7次派使者到泰山斋醮造像。唐玄宗来泰山行封禅时，封泰山神为“天齐王”。统治者提倡和封禅活动的影响，使道教在泰山进入鼎盛时期。被称为“群山之祖、五岳之宗、天地之神、神灵之府”的泰山，吸引了不少著名道士在此修炼。唐代周朴在岱阳建栖真观，女冠张炼师住持玉女祠。

　　宋代，阶级矛盾、民族矛盾尖锐。宋真宗在澶渊之盟后，为掩盖丧权辱国之耻，利用神道设教，以“镇服四海，夸示外国”，策划泰山“降天书”闹剧，封泰山神为“天齐仁圣帝”，泰山女神为“天仙玉女碧霞元君”，把“善服食，得延年”的泰山隐士秦辨召至京城，赐号贞素先生，并在泰山拓建岱庙，建碧霞祠等宫观庙宇。道书《云笈七签》把泰山说成神仙所居仙境，名蓬元之天，为道教三十六洞天之一。

　　金大定七年(1167年)，咸阳人王重阳创全真教派，其弟子“长春真人”丘处机活动于泰山，丘处机弟子女冠訾守慎住持泰山长春观，元帝赐名妙真观。王重阳另一弟子孙不二，是全真教清静派创立者，修炼于泰山鹰愁涧清静石屋。大定十二年(1172年)，丘处机再传弟子曹志冲在岱阴娄敬洞建洞虚观。

　　元代，统治者尊崇喇嘛教，对道教等采取兼容政策，元泰定帝下旨保护东岳庙。这一时期，东岳庙住持、东岳提点监修官兼东平路道教都提点张志纯兴建南天门，重修蒿里山神祠。泰山道教有所发展。

　　明清，随着封建专制主义的加强，朝廷对宗教采取严格的限制政策，中央设道录司，府设道纪司，州设道正司，县设道会司，以控制道教的发展。府县司署分设在岱庙和碧霞祠，岱庙住持由朝廷任免。明洪武三年(1370年)，随着封禅制的嬗变，朝廷取消岱庙主祀神“天齐仁圣帝”封号，改称“东岳泰山之神”。随后，祭祀泰山神和碧霞元君普及民间。清韩锡胙《元君记》载，“统古今天下神祇，首东岳，东岳祀事之盛，首碧霞元君……自京师以南，河淮以北，男、妇日千万人，奉牲牢香币，喃喃泥首阶下。”

　　辛亥革命后，泰山道教式微。民国期间，兵连祸结，庙宇道观破坏严重。1936年，泰安成立道教协会，管理和保护泰山道教庙宇。至解放前夕，泰山共有道人45名，在泰山上下10余处庙宇活动。

　　建国后，道人大多出山还俗，从事各种生产活动。至1958年，道人减为12人。“文化大革命”期间，道教活动停止。

　　1979年后，道人陆续回到泰山宫观，宗教活动恢复。1983年，国务院确定碧霞祠为全国重点道观之一。1985年9月，碧霞祠交道教组织管理使用，由中国道教协会常务理事兼副秘书长、山东省道教筹委会主任张常明住持。1990年，泰山存有道观14处，共有道人40余名。