• 

耕論　人工知能、制御できるか

　高度に発達した人工知能（AI）によって、人類が危機に追い込まれる――。「ターミネーター」「マトリックス」といった映画をはじめ、小説やマンガ、アニメなどで描かれてきました。

　AIは将来、人類を絶滅させるほどの存在になるのでしょうか。「そのリスクはある」と訴える専門家たちがいます。その一人、AI研究者の山川宏さん（58）が考える未来像を聴きました。

　――AIのリスクについて、世界に訴える声明に署名されていますね。

　はい。「AIによる人類絶滅のリスクを軽減することは、パンデミックや核戦争といった他の世界規模のリスクと並んで、世界的な優先事項であるべきだ」という簡明な声明です。

　今年5月、米サンフランシスコに本拠を置く非営利団体（NPO）「センター・フォー・AIセーフティー」（CAIS）がまとめました。

　声明は具体的な対応を求めてはいませんが、関連論文でAIが人間を超えて強力になった場合の大規模リスクとして、「兵器化」や「人間をだます」「人間とは別の目標を持ち敵対する」などを挙げて対処の必要性を訴えています。

「人間の能力に近づく」　体感広がる

　――AIが人類の知性を上回る「シンギュラリティー（技術的特異点）」を迎えた結果、人類が不幸になるというディストピア的未来予想はかなり前からありました。なぜ、今なのですか。

　核兵器など他の技術は道具で…