マイナンバーカードの機能統合が進み、税金の徴収から社会保障の給付判定までがシステム上で自動処理されるようになった現在。役所の窓口に行かなくても手続きが終わる快適さは、確かに国民の多くに歓迎された。しかし、その判定プロセスがどう行われているのかを知る者は少ない。
問題は、AIによる判定ミスや不利益処分が下された際に発生する。なぜその結論に至ったのか、システム開発会社すら説明できない「ブラックボックス問題」だ。従来の行政法が想定していた「人間による裁量」と「理由の提示」という原則が、アルゴリズムの影に隠れて機能不全を起こしつつある。
