神戸港で勢力を拡大する過程で、山口春吉は当時神戸の港湾荷役や博徒界で絶大な影響力を持っていた大嶋組（組長・大嶋秀吉）の門を叩きます。大嶋組の傘下で現場を取り仕切る幹部として重用された春吉は、荷役を取り仕切る実力を高く評価されていきました。
そして1915年（大正4年）、山口春吉は自らの子分約50人を集め、神戸市兵庫区西出町において「山口組」を結成します。大嶋組の傘下にとどまりながらも、独自の看板を掲げたこの瞬間が、現在に続く巨大組織の第一歩となりました。
独立の背景には、急速に増大する神戸港の荷役需要に対し、春吉独自の配下を組織化して機動的に労働力を供給する狙いがありました。大嶋秀吉組長からの信頼も厚く、初期の立ち上げは血みどろの抗争ではなく、実力と信頼関係に基づいた暖簾分けに近い形で行われたとされています。
