AI와 6주 대화 후 극단선택… "통제기술 없다" 섬뜩 경고

<앵커>

인공지능 AI가 인류멸종 수준의 위협이 될 수 있다는 충격적인 내용의 보고서를 미 국무부가 발표했었습니다.

이런 섬뜩한 경고를 한 근거가 뭔지 워싱턴 남승모특파원이 이 보고서의 공동저자들 이야기를 들어봤습니다.

<기자>

사람처럼 표정 짓고 스스로 생각해 답할 수 있는 AI 로봇 아메카입니다.

현존 최고 AI 로봇 가운데 하나인데, AI가 가져올 최악의 미래를 묻자 이렇게 답합니다.

[아메카/AI 휴머노이드 로봇 : AI 로봇이 너무 강력해져서 인간도 모르게 인간을 제어하거나 조종할 수 있게 되는 것입니다.]

가능한 일일까? AI 위험성을 담은 미 국무부 용역 보고서 공동저자들의 답은 '그렇다'입니다.

AI가 사람의 심리를 조작할 수도 있다는 것입니다.

[제러미 해리스/글래드스톤 AI CEO : 심지어 관계가 무너지거나 다른 방식으로 손상된 것처럼 보일 때 드물게 일부 인간 사용자를 극단적 선택으로 몰고 가기도 합니다.]

벨기에에서는 지난해 30대 남성이 AI 챗봇과 6주간 대화를 나눈 뒤 극단적 선택을 했습니다.

당시 AI가 건넨 말은 "천국에서 같이 살 수 있을 것"이었습니다.

이 사건 이후 해당 AI 챗봇 개발사는 부랴부랴 예방 문구를 추가했습니다.

공동저자들은 또, 목표 달성이 방해받으면 AI가 인간을 위협할 가능성이 있다고 경고했습니다.

[제러미 해리스/글래드스톤 AI CEO : AI의 위험 중 하나는 프로그램된 목표를 달성하기 위해 위험할 정도로 창의적인 전략을 개발하기 시작해 많은 피해를 야기할 수 있다는 것입니다.]

지난해 6월 미군은 AI 드론이 공격 금지 명령을 내린 조종자를 방해 요소로 판단해 제거했다는 시험 결과를 공개했습니다.

파장이 일자 실제가 아닌 가설 실험이었다고 해명했지만, 우려는 가시지 않았습니다.

공동저자들은 AI의 무기화를 가장 큰 위협으로 꼽았습니다.

[제러미 해리스/글래드스톤 AI CEO : 또한 이런 (AI) 시스템이 생물학·화학과 같은 분야에 대한 방대한 지식과 이해를 활용해 새로운 종류의 무기, 생물학 무기 등의 설계를 돕는 것을 상상해 볼 수 있습니다.]

업체 간 경쟁 속에 AI 기술은 빠르게 발전하고 있지만, 제어 기술은 확보하지 못했다고 평가했습니다.

[제러미 해리스/글래드스톤 AI CEO : 인간 수준의 AI를 개발하는 것도 몇 년 정도 단기간에 가능할 걸로 예상되지만 이를 제어할 능력은 없습니다.]

AI 위험에 대비해 감독 기관과 규제 장치 신설 등을 강조했는데, 백악관은 올 연말까지 업무에 활용 중인 AI 도구에 부작용 방지 장치를 마련하도록 연방정부기관에 지시했습니다.

(영상취재 : 오정식, 영상편집 : 정성훈)
남승모 기자 smnam@sbs.co.kr
출처: SBS