“디지털 범죄 근절 위해 방통위 등과 협업… ‘한국 AI는 안전’ 인식 심을 것”

■ 김명주 AI안전연구소장

“韓 AI 활용·개발 100점이라면
안전·윤리는 아직 70~80점대
글로벌스탠더드 정책으로 가야”

“한국의 인공지능(AI)은 안전하다는 인식을 심어주는 것이 우선적인 목표입니다.”

27일 김명주(사진) AI안전연구소 초대 소장은 문화일보와의 인터뷰에서 AI 안전에 관한 향후 연구 중점에 관해 “기술과 정책 분야 둘 다 중요하다”며 이같이 말했다. 김 소장은 연구소 연구 분야에 대해 “제일 우선적인 것이 (AI 안전에 관한) 정책이고, 그다음이 기술 연구·개발”이라며 “AI 안전에 관한 평가팀도 있다”고 설명했다. AI 안전 평가는 AI 활용 기술 안에서 리스크(위험성)를 찾아내고 평가하는 것을 말한다. 김 소장은 “리스크 평가 툴(도구)을 같이 개발해서 우리 기업들이 본격적으로 AI 안전 리스크를 찾아야 할 때 AI안전연구소를 통해서 프레임워크(업무구조)를 제공하고 같이 작업하는 방안을 생각 중”이라고 설명했다.

사실 미국과 중국이 AI 분야에서는 전 세계 1·2위를 다투고 그 외 국가들은 ‘3위 그룹’으로 묶인다. 따라서 한국의 AI 기술도 미·중을 제외한 다른 국가들에 비해 크게 뒤지지 않는다. 그러나 AI를 안전하게 활용하고 범죄 등에 이용되는 부작용을 막기 위한 AI 안전 기술이나 정책은 AI 개발·활용 기술에 비해 아직 주목받지 못하는 실정이다. 김 교수는 한국의 AI 개발·활용 기술을 100점으로 봤을 때 “AI 안전 분야도 전부터 윤리·안전 정책을 몇 년 동안 연구해왔다”면서도 “AI 윤리는 아직 70∼80점”이라고 진단했다. 그는 “문제는 AI 관련 기술이 자꾸 새로 나온다”며 “예전 윤리로 대응이 안 되는 기술들”이라고 지적했다. 이어 “다른 나라에 비교할 때 국내 AI 윤리 및 안전 관련 기술 등은 뒤지지 않는다고 생각하지만, 앞으로는 ‘글로벌 스탠더드’로 가야 한다”며 “AI 안전을 연구하면 ‘한국은 안전한 AI를 하는 나라’라는 이미지를 줄 수 있겠다고 생각한다”고 말했다.

최근 10대 청소년들까지도 AI 기술을 활용해 ‘딥페이크’ 같은 디지털 성범죄를 일으켜 문제가 되고 있다. 따라서 AI 안전 기술은 개인정보보호 정책과 궤를 같이하기도 한다. 따라서 김 소장은 “개인정보보호위원회 측과도 AI 안정 정책에 관해 이야기했고, 같이 협의하기로 했다”며 “방송통신위원회, 방송통신심의위원회, 한국저작권위원회 등이 다 같이 풀어야 할 문제”라고 말했다. 그는 “정부 내에는 산업진흥 부서도 있고 이용자보호도 부처도 있다”며 “(AI안전연구소는) 국민이 가질 수 있는 AI에 대한 걱정 등을 가장 빨리 파악해서 안심시켜주는 역할을 기술, 정책, 기업과의 협업을 통해 해나갈 것”이라고 강조했다.

김 소장은 서울대 컴퓨터공학과에서 학사 및 석·박사 학위를 받은 AI 윤리·신뢰성 분야 전문가다. 앞서 바른AI연구센터장, 국제AI윤리협회장, AI윤리정책포럼 위원장 등을 맡으며 안전하고 책임 있는 AI 개발·활용 확산을 위해 힘써 왔고, 지난 12일 AI안전연구소 초대 소장에 임명됐다. 임기는 이날부터 3년이다.

박준희 기자 vinkey@munhwa.com