賀陽正憲氏の家庭環境もまた、極めて堅実かつ名門の気風を受け継いでいます。賀陽氏の妻(夫人)は大手メーカー重役の令嬢であり、学習院出身の気品ある女性として知られています。夫妻の間には2人の息子(長男・次男)が誕生しています。
息子たちはいずれも学習院で初等科から学び、学業・スポーツともに優秀な成績を収めてきました。長男は大学卒業後に大手民間企業へ就職し、次男もまた高学歴かつ誠実な青年として社会人生活を送っています。年齢的にも20代半ばから後半に差し掛かっており、天皇皇后両陛下の長女・愛子内親王殿下(愛子さま)と同世代から数歳上の年齢層に位置します。
週刊誌や一部のインターネット論壇では「愛子さまの将来の結婚相手候補ではないか」「旧宮家男子の養子縁組の筆頭ではないか」といった憶測がたびたび報じられます。しかし、これらはあくまで制度論議やメディアによる外野の観測に過ぎず、当事者である賀陽家側から特定の意向が公に示されたことはありません。ご一家は一貫して一般私人としての慎み深い生活を堅持しています。