2005年の衆院補選で国政復帰を果たしたものの、2009年の民主党政権交代の嵐のなかで再び議席を失います。落選中も返り咲きを模索していましたが、自民党福岡県連内の世代交代要求や自身の年齢を総合的に考慮し、2012年に正式な引退を表明しました。
自身が率いた「近未来政治研究会（山崎派）」は、石原伸晃氏へ禅譲され石原派となり、その後森山裕氏が率いる森山派へと受け継がれていきました。山崎氏の引退理由は、表面上の「体力・年齢の限界」だけでなく、冷戦型の防衛政策や対話を通じたアジア外交という自身の政治スタイルが、より強硬な対外姿勢を掲げる新しい自民党執行部の潮流と乖離し始めた点にありました。権力への執着を断ち切り、言論人として独自の立場から発言を続ける道を選択したのです。
