坂本九の移籍後、バンドの主導権は名ドラマーの桜井輝夫へと移り、グループ名は「桜井輝夫とザ・ドリフターズ」へと改称されます。この時期に加入したのが、卓越したトーク力と音楽センスを兼ね備えていた小野ヤスシでした。さらにベースのいかりや長介(当時の芸名は碇矢長一)、ドラムの才能を見出された10代の加藤茶(当時の芸名は加藤英文)らが合流し、バンドは米軍キャンプやキャバレーで腕を磨いていきます。
ところが1964年、グループを根底から揺るがす「ドリフターズ分裂事件」が勃発します。体調不良やマネジメント業務への専念を理由に第一線を退く決意をした桜井輝夫は、次期リーダーにいかりや長介を指名しました。この人事が、内部にくすぶっていた不満を一気に爆発させる引き金となったのです。
当時、バンド内ではすでに小野ヤスシが実質的な司会進行やステージの笑いをリードしており、他のメンバーからも絶大な信頼を集めていました。一方、新リーダーとなったいかりや長介は徹底した規律と厳しい上下関係を求め、ギャラの配分や芸の方向性を巡って小野らと激しく対立。自著『だめだこりゃ』(袖井林二郎・編協力)などの手記において、いかりや自身も当時の人間関係の難しさと自身の頑迷さを振り返っています。
結果として、1964年暮れ、小野ヤスシをはじめ、ジャイアント吉田、飯塚文雄、猪熊虎五郎の主要メンバー4人が一斉にいかりやの下を去りました。彼らは新グループ「ドンキーカルテット」を結成し、独立。残されたのは、リーダーのいかりや長介と、いかりやを慕って残留を選んだ若き日の加藤茶の、わずか2人だけでした。文字通りの空中分解であり、客観的に見ればドリフターズはこの瞬間に消滅してもおかしくない危機的状況に陥ったのです。