AI 통제불능 상황에 재차 경고
“안전 확보, 강력한 정부 규제를”
올해 노벨 물리학상을 수상한 제프리 힌턴 캐나다 토론토대 명예교수가 “30년 안에 인류가 멸종할 가능성이 있다”며 인간의 인지능력을 뛰어넘는 ‘초지능 인공지능(AI)’이 가져올 통제 불능 상황에 대해 재차 경고했다.
27일 영국 일간지 더 가디언에 따르면 힌턴 교수는 이날 BBC 라디오 방송 인터뷰에서 “향후 30년 내 AI가 인류를 멸망시킬 확률이 10∼20%”라고 말했다. ‘AI 대부’로 불리는 힌턴 교수는 사람보다 더 똑똑한 AI가 향후 20년 이내에 개발되고 인간을 통제할 수 있게 될 것이라고 전망했다. 그는 “이 분야 전문가 대부분이 20년 이내에 사람보다 더 똑똑한 AI가 개발될 것이라고 전망한다”며 “이는 매우 무서운 일”이라고 했다. 그러면서 이 같은 강력한 AI 시스템의 지능에 비하면 인간은 3세짜리 어린아이와 같을 것이라고 봤다. 그는 “더 지능적인 존재가 덜 지능적인 존재에 의해 통제되는 사례는 거의 없었다”며 인간이 AI에 대한 통제력을 잃을 수 있다는 점에 우려를 표명했다.
그러면서 AI에 대한 안전을 확보할 수 있는 강력한 정부 규제를 촉구했다. 그는 “보이지 않는 손이 우리를 안전하게 지켜주지 못할 것이라는 점이 우려된다”며 “대기업의 이윤 동기에 맡겨 두는 것만으로는 충분치 않다. 대기업이 AI 안전에 대해 더 많은 연구를 하도록 강제할 수 있는 유일한 방법은 정부 규제뿐”이라고 강조했다.
힌턴 교수는 오픈AI, 구글, 메타 소속 주요 과학자들의 스승으로, 힌턴 교수 본인도 2012년 제자들과 구글브레인에 입사해 구글의 AI 개발을 도왔다. 그러다 지난해 구글을 나와 AI가 통제 불능으로 진보하면 인류의 미래를 위협할 수 있다며 여러 차례 경고해 왔다.
올 10월 7일(현지 시간) 스웨덴 왕립과학한림원에서 열린 노벨 물리·화학·경제학상 수상자 공동 기자회견에서도 “어떻게 AI에 대한 통제력을 유지할 수 있을지 심각한 고민이 필요하다”고 경고했다. 힌턴 교수는 챗GPT 같은 대규모 언어 모델(LLM)의 근간이 된 ‘딥러닝’ 개발에 기여한 공로로 존 홉필드 미국 프린스턴대 교수와 함께 올해 노벨 물리학상을 받았다.
장은지 기자 jej@donga.com
세심한 배려라는데 사실이었으면…中, 푸바오 근황 영상 공개
"긍정적 마음가짐, 장수 비결"…116세 브라질 수녀, 최고령자 등극
독일 성탄마켓 차량돌진 사망자 6명으로 늘어
'집회 1번지' 된 한남동…...
