• 
• 
• 
• 
• 

　生成AIと呼ばれる人工知能が社会を変えようとしている。質問に人間が答えているかのような文章を返してくるChatGPT（チャットGPT）などのサービスが実用化している。急速な発展にはリスクも指摘される。AIと民主主義は共存できるのか。憲法の観点から論じてきた慶応大教授、山本龍彦さんに聞いた。

　――生成AIについて様々な懸念が指摘されています。

　「プライバシーや著作権をめぐる問題もありますが、議論の核心は、私たちの意思決定のあり方がどうなっていくのかにあります。近代立憲主義は、これまで個人の『オートノミー（自律性）』を重視してきました。個人が他の干渉を受けずに主体的に意思決定できるという考えです。この基本的な原則がAIの登場で、根源的に揺らいでいるように思います」

　「ウェブの閲覧・検索履歴などから、利用者の属性や心理的傾向を詳細に分析できる『プロファイリング』という技術があります。これを使って利用者の傾向に合った情報をピンポイントで送れば、心理的脆弱（ぜいじゃく）性をついて意思決定を強力に誘導できます。2016年の米大統領選ではこうした『マイクロターゲティング』を利用し、有権者の政治的意思決定がゆがめられたと指摘されている。この時すでに、AIと意思の自律性の問題は顕在化していました。生成AIはこれと異なるやり方で、意思決定をゆがめる恐れがあります」

身元不明の文章が溶け込む世界

　――私たちの意思が操作されてしまうということでしょうか。

　「チャットGPTなどは膨大なデータからはじき出された確率に基づいて、もっともらしい文章をつくります。AIが書いたのかどうかさえ分からなくなる。また、生成AIは特定の価値観を反映するように、人間による『調律』を受けています。たとえばチャットGPTは開発した米企業のオープンAIによって、特定のNGワードやヘイトスピーチなどを出力しないよう調律されています。中国政府が発表した生成AIの規制案では、共産党的価値観の反映が求められています。現状はそれぞれのAIの学習データや調律の詳細が公開されていないので、暗に組み込まれた価値観を認知するのが非常に難しい。そうした身元不明の文章が切り取られ、日常のコミュニケーションに溶け込んでいく」

　「悪意を持った人が特定の思…