上古时代，宗庙为天子专有，士大夫不能建宗庙。汉朝以前，有官爵者才能建立家庙，作为祭祀祖先的场所，但那时叫宗庙或者祖庙。唐朝始创寺庙，以祭祀先祖。宋代朱熹提倡建立家族祠堂改为家庙。
家庙即为祖先立的庙，属于祭祀祖先和先贤的场所。古时有官爵者才能建家庙，作为祭祀祖先的场所。古代，对庙的规模有严格的等级限制。《礼记》中说：“天子七庙，卿五庙，大夫三庙，士一庙。”“太庙”是帝王的祖庙，其他凡有官爵的人，也可按制建立“家庙”。汉代以后，庙逐渐与原始的神社(土地庙)混在一起，蜕变为阴曹地府控辖江山河渎、地望城池之神社。“人死曰鬼”，庙作为祭鬼神的场所，还常用来敕封、追谥文人武士，如文庙——孔子庙，武庙——关羽庙。
《礼记.王制》载：古代天子建七庙，诸侯五庙，大夫三庙，士一庙。至明代，始准许庶人立始迁祖庙，一般建于宗族聚居的近地，随时由族长率领族人共同祭祀。也称“祠室”、“祠堂”。
《宋史·礼志十二》：“ 庆历元年，南郊赦书，应中外文武官并许依旧式立家庙。” 宋赵彦卫 《云麓漫钞》卷二：“ 文潞公作家庙，求得唐杜岐公旧址。”各族百姓为了祭祀先祖，常建有“家庙”。后来很多地方逐渐合二为一了，兼具双重功能，但有的地方宗祠与家庙仍然是分开建造的，保持着原有的结构与功用。宋赵彦卫《云麓漫钞》卷二：“ 文潞公作家庙，求得唐杜岐公旧址。”《文献通考.宗庙十四》：“仁年因郊祀，赦听武官依旧式立家庙。”清 袁赋正《睢阳袁氏(袁可立)家谱·序言》：“谨按家庙之所奉祀与夫祖父之所面训诠次为谱，纪其世系、字讳以炳来兹。”《清文献通考.群庙五》：“顺治十年，议定郡王以祀追封祖父于家庙，贝勒以下祀追封祖父于坟墓。”清 袁枚 《随园随笔·风水客》：“先生发愤集房族百馀人，祭家庙毕，持香祷於天。” 孙中山 《民族主义》第六讲：“前几天我到乡下进了一所祠堂，走到最后进的一间厅堂去休息，看见右边有一个孝字，左边一无所有，我想从前一定有个忠字，象这些景象，我看见了的不止一次，有许多祠堂或家庙，都是一样的。”
例如：清代名臣阮元任浙江巡抚后，清嘉庆五年（1800年），阮元的父亲湘圃聚族商议说，阮氏从淮安迁扬聚居公道桥，应该建祠堂以祭祀祖先，乃独捐俸银建宗祠于公道桥之南，并购田为祭产，还邀请名师在祠侧设塾，教族中子弟读书。嘉庆八年（1803年），阮元之父湘圃公按清朝品官皆有家庙的习惯，又建议在扬州旧城文选楼北的兴仁街建阮氏家庙。于是这一年，阮元家在“甘泉县辖小东门内兴仁街”（现称毓贤街）购买了常钟英的住宅和废花园，准备用该宅的西部废花园作为家庙的基地。但是依照礼制，家庙应建在住宅的上首，即东边。阮氏住宅在东，家庙反而在西，于礼不合；故又将常宅西边其他人家的余屋买下改建为阮氏西宅。这样，家庙便夹在东西两宅之间，与礼制相合。家庙建筑，严格按《大清会典》规定建造。在家庙二道门东山墙与东宅现第二进西山墙之间，曾建一小楼，称谱研斋，扁额行书“谱研”二字为清代著名书法家刘镛所题，现仍保存。该楼原为阮元藏砚赏玩之所。南为一长巷，东为现东宅头进的西山墙，西为家庙前院的东花墙，称射序巷。巷之南端置活动箭靶，供子孙射箭习武之用。
祠是为纪念伟人名士而修建的供舍(相当于纪念堂)。这点与庙有些相似，因此也常常把同族子孙祭祀祖先的处所叫“祠堂”。祠堂最早出现于汉代，据《汉书·循吏传》记载，“文翁终于蜀，吏民为立祠堂。及时(指诞辰和忌日)祭礼不绝。”东汉末，社会上兴起建祠抬高家族门第之风，甚至活人也为自己修建“生祠”。由此，祀堂日渐增多。
宗祠即是祠堂，是供奉祖先和祭祀场所，是宗族的象征。宗庙制度产生于周代。上古时代，士大夫不敢建宗庙，宗庙为天子专有。宋代朱熹提倡家族祠堂：每个家族建立一个奉祀高、曾、祖、祢四世神主的祠堂四龛。祠堂是族权与神权交织中心。祠堂中的主祭---称宗子，管理全族事务称宗长，还有宗正、宗直等职。宗祠体现宗法制家国一体的特征，是凝聚民族团结的场所，它往往是城乡中规模最宏伟、装饰最华丽的建筑群体，不但巍峨壮观，而且注入中华传统文化的精华，与古塔、古桥、古庙宇相映，成为地方上的一大独特的人文景观。宗祠记录着家族的辉煌与传统，是家族的圣殿。
民间建造家族祠堂，可追溯到唐五代时期。莆田刺桐金紫方氏祠堂，便是建于唐末。涵江黄巷村黄氏宗祠，建于北宋仁宗明道元年（1032年）。到南宋，莆田林氏“建先祠”，“置祭产”。（宋濂《宋文宪公全集》卷十二)建阳陈氏家族的祠堂，始筑于元代。各地大规模营造祠堂，则在明清两代。此时入闽各家族经过长期发展和繁衍，族众日益增多，家族为团结族人大兴土木，一时建祠盛行。
据清初《光泽县志》载，当地“从前各族宗祠无几，近数十年，凡聚族而居者，城乡多各建祠。春秋祭祀，序昭穆，崇功德，敬老尊贤，颇有追远睦族遗意。”（清·乾隆《光泽县志》卷四《舆地志·风俗》）一般家族不仅有一族合祀的族祠、宗祠（或称“总祠”），族内各房、各支房，往往还有各自的支祠、房祠，以奉祀各直系祖先。旧时漳州府诏安县，“居则容膝可安，而必有祖祠、有宗祠、有支祠。”（陈盛韶《问俗录》卷四《诏安县》）这一时期的宗祠大都保留至今。据厦门大学陈支平教授等调查，连城新泉的张氏家族，除总祠外，另有支祠24座；惠安山腰庄氏家族，族众数万人，大小祠堂超过100座，其准确座数连族人也说不清。福州郊区尚干的林氏家族，族众近万人，大小祠堂不下50座。为显族威，大宗祠堂还盖进省城。一些同姓氏的大家族，有的合建跨地域大宗祠。民国时期，永定“乡村之中，不论大小姓，皆合建祖祠，复合散居各乡及徙居各处之同宗在邑城建祠。”（民国《永定县志》卷十五《礼俗》）仙游县黄氏家族，派下子孙散居30余村，各地黄姓集议，在县城合建黄氏大宗祠。福建林氏是人数最多的家族之一，清初曾会同八闽林氏族人，于福州创林氏大宗祠。此外，在海外及台湾的分支子孙，与乡土宗祠也保持了密切联系。民国时，漳州许氏家族，居新加坡、马来西亚者，曾联袂返乡倡建新加坡许氏大宗祠。
祠堂的建筑大多讲究“风水，通常是在祖先最先居住的地方，将旧房改建成祠堂；一些家族建宅时，往往先建祠堂。闽北一些单姓小村落，无力筹建大祠堂，便在村前选址设牌位，供祖先。祠堂一般多位于正寝（前堂）东侧，讲究的有三间二外门。正大门平常不开，只在春秋二祭或族人议大事时开启。正厅外，有储藏祭器、遗书的小房子，环绕成一个独立的建筑群。普通的祠堂只有一间正厅，正厅内设4个龛（也有8-10个龛者），龛中置一个柜，内藏祖宗牌位（称“神主牌”），4龛神位依次为高祖考、高祖妣和考、妣的官位、姓名字号。每龛前各设一矮长桌，用以摆放祭品。一些宗祠里，凡本族新添男丁要贴张红纸在柱上，上书×××长子（或次子等）、取名×××，以示到祖先面前报到。如今闽南一些祠堂大厅正中大木龛中列祖列宗的神主牌位，已被各主遗像所取代。本房死者若有子已婚（不属夭折）者，其遗像可入祖厅正堂。惠安崇武一带，几乎所有宗祠厅堂的龙壁都贴有符篆、“金箔”及用锡箔色纸剪成的镜、尺、剪刀、双喜等图，用以镇宅。符篆多书“北方玄武大神镇宅”、“西方白虎大神镇宅”、“东方青龙大神镇宅”、“南方朱雀大神镇宅”等。平日祠堂空屋有借给家无住房的族人居住，有的族人的灵柩也寄放在祠中。族人去世，则送香灰入祠。外出族人来谒祖寻根时，必先到祠堂祭拜，而后包上祠堂的香灰及家乡泥土带走，以示不忘根本。
清刘大櫆《方氏支祠碑记》：“然吾以为后世之宗祠，犹有先王宗法之遗意，彼其所谓统宗之祠，族人莫不宗焉。《郭沫若《洪波曲》第十六章三：“他们也是什么东西都丢光了，暂时住在 水东门 的娘家－－ 岑氏宗祠里。”《红楼梦》第五三回：“原来宁府西边另一个院子，黑油栅栏内五间大门，上悬一块匾，写着是‘贾氏宗祠’四个大字......进入院中，白石甬路，两边皆是苍松翠柏；月台上设着青绿古铜鼎彝等器......里边香烛辉煌，锦帐绣幙，虽列着神主，却看不真切。只见贾府诸人分昭穆排班立定：贾敬主祭；贾赦陪祭，贾珍献爵；贾琏、贾琮献帛，宝玉捧香，贾菖、贾菱殿拜毯，守焚池。青衣乐奏，三献爵，拜兴毕，焚帛奠酒。礼毕，乐止，退出。”
宗祠，除了作为祭祀场所之外，还是执行族规家法的地方。族人的冠礼、婚礼、丧礼基本上都在祠堂进行的。有的宗族规定族人之间或族人家庭之中发生争执，都要到祠堂中裁决。所以，在封建时代，祠堂在一定意义上又成了衙门，具有一族“公堂”的性质。
中国人是世界上最有祖先崇拜传统的民族。在每个家族中，往往都有一个场所来供奉已去世的祖先的神主牌位。所以，旧时的每个家族都会有本家族的祠堂，并给它取一个名号，这个名号就叫“堂号”，目的是让子孙们每提起自家堂号就知道本族的来源，纪念祖先功德。
俗话说，树大分杈。随着生命的传递、繁衍，家族也会不断扩大，扩大的结果是一些家族从祖居地迁居他处，另开基业，形成新的分支和新的宗族，自然也有不少家族远赴重洋，在海外定居，这些新形成的宗族和分支，往往又会建立新的祠堂，来供奉最亲近的祖先。于是，由一个祠堂又衍生新的祠堂来。
宗祠，虽然是封建社会遗留下来的产物，在当今则有其新的存在的意义和社会作用。随着改革开放和全球华人寻根热潮的兴起，许多宗祠被新建和修复，族谱被续修，而海外华人则不断翻新旧宗祠，联络故众。可以说，今天的宗祠已经没有了“宗族主义”的负面作用，只具有帮助人们寻根问祖、缅怀先祖、激励后人、互相协作的积极意义，是对于加强中华民族的凝聚力和中华民族的团结产生巨大的作用。