松葉会の起源は、終戦直後の混乱期に浅草を中心として勢力を拡大した「関根組」に遡ります。カリスマ的な統率力を持っていた関根賢氏によって結成された関根組は、闇市や興行界、土木建築業界などを足がかりに急成長を遂げました。しかし、連合国軍最高司令官総司令部(GHQ)の指令や警察の集中取締りによって関根組は解散を余儀なくされます。
その後、1953年に旧関根組の幹部であった藤田卯一郎氏を中心に、政治結社「松葉会」として再結成されたのが直接の前身です。当初は右翼標榜団体としての色彩を帯びていましたが、実質的には博徒・テキヤ組織の連合体として首都圏や北関東、東北地方へと勢力を伸ばしていきました。昭和後期には指定暴力団としての指定を受け、稲川会や住吉会と並ぶ関東の主要勢力として警察当局の監視対象となってきました。