斎藤工の実家は東京都港区にあり、家族構成は父、母、2歳年上の姉、そして工本人の4人家族です。都心の一等地に生まれ育ちながらも、その生活様式は消費社会のトレンドとは完全に一線を画していました。
父親である斎藤和弘氏は、映像制作大手「東北新社」などに勤務した経歴を持つ生粋の映画人です。伝説的なアングラ前衛劇作家・寺山修司監督の映画『田園に死す』(1974年)の制作現場に美術スタッフ・助監督として携わった経験を持ち、家庭内にも常に映画や舞台芸術の空気が色濃く漂っていました。教育方針として家庭内での民放テレビ視聴を禁じる一方で、父の仕事部屋には膨大な映画関連書籍やポスター、世界各国の名画ビデオテープが整然と並べられており、斎藤にとっては禁断でありながら最も魅力的な「知の宝庫」として映っていました。
一方、母親は自然派志向と自由な精神を併せ持った人物として語られます。ヒッピーカルチャーの思想に深く共鳴し、エスニック料理店を営むなど、自らの価値観に極めて誠実な生き方を貫いていました。世間の「常識」や「偏差値至上主義」にとらわれず、子ども一人ひとりの個性を無条件に肯定する包容力を持っていたと関係者は証言しています。
また、2歳年上の一般人である姉の存在も、斎藤の社会性を育む重要な役割を果たしました。姉弟関係は良好で、テレビのない静かな空間の中で互いに物語を作り合ったり、自然と対話したりしながら、豊かな情操を分かち合って成長していきました。