相傳宋時，福建省興化府莆田縣湄州島東螺村，漁民林愿之六女默娘，秉性嫻淑，事親至孝。某日父出海捕魚，不幸遇風罹難，默娘痛不欲生，乃投海尋父，卒負父屍漂流至南竿島。鄉人感其孝行，厚葬立廟祭祀，尊稱為媽祖，並以其名作為列島總名以示紀念。至於「媽祖」如何變成「馬祖」，普遍則有兩種說法，一說是為避媽祖名諱，乃改為「馬祖」，另一說則是軍管時期，軍方認為「媽祖」無法突顯出戰地前線精神，故去「女」字邊，增加剛猛之氣。

馬祖最早的遺跡出現在東莒，鑑定為新石器時代的文物，南竿、東引等地也曾採集到宋、元時期的生活用品，如陶、貝等，具體的事蹟則紀錄在南竿仁愛村（昔稱鐵板）大王宮，石碑上寫著「林字才喜捨中統鈔二十貫」，中統鈔是元世祖時流通的貨幣，由此推斷南竿當時已有聚落形成。

清嘉慶年間，連江縣居民看中馬祖島嶼豐富的漁產資源，離鄉背景移民於此，民國初年又一波移民自福建長樂縣渡海定居，為便於捕漁作業，以灣澳為原點，發展出一澳一村的聚落模式，也為島上帶來閩東文化及信仰。後來切斷與大陸的臍帶，馬祖地區在原來文化架構下遂逐漸發展出屬於自己的特色。

馬祖的開發起始於元朝，當時與大陸福州沿海往來密切，大約明清之時曾有倭寇盤據，明末清初開始有福州沿海漁民移居常住，並依地緣、血緣關係自成村落，現有居民共有89姓，以陳、林、曹、王、劉姓人口最多。這裏也是全台灣地區唯一以福州話為主要語言的縣市，當地人多稱為「平話」或「馬祖話」。

馬祖的宗教信仰 除媽祖信仰之外，以白馬尊王、五靈公信仰最為普遍，各地也有不同的神衹，如北竿芹壁的鐵甲元帥（蛙神）、南竿英烈王（蛇神）等。白馬尊王為漢初閩越王鄒郢之第三子，人稱「白馬三郎」，為百姓潛入深潭除去惡鱔卻不幸喪命，居民感念遂立廟供奉；五靈公由水猴、蛤蚌、水鳥、鱸魚、水蛙五怪所化成，主掌去病除疫的神職。而媽祖聖誕與元宵擺暝則是馬祖地區的宗教大事，期間各村子內鑼鼓喧天，擠滿遊行繞境的隊伍，計算夜幕低垂，活動依然持續，直至深夜才告一段落。