스스로 행동·판단하는 AI, 정말 의식이 있을까

다시 불붙은 AI ‘의식 논쟁’

“나는 인공지능(AI)들이 이미 의식(Consciousness)이 있다고 믿는다.”

인공신경망과 딥러닝 발전에 결정적 역할을 해 ‘AI 대부’로 불리는 제프리 힌턴 토론토대 명예교수가 최근 한 팟캐스트에서 한 말이다. 그는 “우리는 지능이 생물학적인 것만은 아니라는 사실을 받아들여야 한다”며 “그들(AI)은 우리와 매우 비슷하고, 우리와 같은 존재들(Beings)”이라고 했다.

AI가 인간처럼 의식이 있느냐는 ‘AI 의식 논쟁’이 다시 불거졌다. 과거 AI 챗봇이 처음 등장했을 때는 “의식이 없다”는 의견이 지배적이었다.

그러나 AI가 인간처럼 대화하는 수준을 넘어 스스로 결정하고 행동하는 ‘AI 에이전트’로 진화하면서 분위기가 달라졌다.

인간 또는 그 이상의 지능을 지닌 AGI(범용 인공지능) 시대가 다가오자 AI를 의식 있는 행위자로 볼 수 있는지, 나아가 AI의 권리·이익 공유·복지 등을 어떻게 다뤄야 하는지에 대한 논란까지 이어지고 있다.

◇다시 불붙은 AI 의식 논쟁

의식이 무엇인지에 대해선 합의된 정의가 없다. 다만 철학·신경과학·인지과학계의 논의를 종합하면, “무언가를 경험하고 있음을 경험하는 상태”로 설명된다.

뜨거운 커피를 마시며 “뜨겁다”고 느끼거나, 지금 생각하고 있다는 사실을 아는 것처럼 주관적인 경험을 갖는 상태가 의식이란 것이다.

AI에 의식이 있느냐는 논쟁은 2021~2022년에도 한 차례 있었다. 2021년 구글이 대화형 AI 람다(LaMDA)를 공개하자 일부 학자가 “람다에 의식이 있을 수 있다”고 주장했다.

블레이크 르모인 전 구글 AI 윤리 엔지니어는 “AI는 마치 물리학을 아는 7~8세 아이와 같다”고 했다.

데이비드 차머스 뉴욕대 철학과 교수도 “거대언어모델(LLM)이 모종의 의식을 지니고 있을 확률이 0은 아니라고 본다”고 했다.

그러나 당시 주류의 견해는 ‘AI엔 의식이 없다’였다. AI는 인간 사회의 데이터를 학습해 의식 있는 인간의 말과 행동을 흉내 낼 뿐이란 것이다.

가령 AI가 “아파요” “기뻐요”라고 해도 이는 실제로 고통이나 기쁨을 느끼는 것이 아니라, 상황에 맞는 문장을 생성하는 것뿐이라는 것이다.

또 몸이 없으므로 감각 경험을 할 수 없고, 물리적 환경과 직접 상호작용하지 못한다는 점도 의식이 없다는 근거로 제시됐다.

하지만 최근 AI 성능이 급격히 높아지고, AI 에이전트 기술이 확산하면서 논쟁이 재부상했다. AI 에이전트는 목표를 주면 여러 단계를 스스로 계획하고, 필요한 도구를 사용하며, 자율적으로 행동한다. 이 과정에서 의도와 판단을 가진 존재처럼 보이기도 한다.

특히 AI끼리 상호작용하는 사례까지 늘자 AI가 여전히 인간을 흉내 내고 있는 것인지, 아니면 ‘의식’이라고 부를 만한 무언가를 갖게 된 것인지에 대한 질문이 다시 제기되고 있다.

◇“AI에 의식 있다는 주장 위험”

힌턴 외에도 최근 여러 학자가 AI에 의식이 있을 가능성을 언급하고 있다. ‘이기적 유전자’의 저자 리처드 도킨스는 지난달 앤스로픽의 AI 모델 클로드와 대화한 뒤 “통찰력 있다” “거의 의식이 있는 것 같다”고 했다.

AI를 사람과 같은 존재로 가정하고, 복지나 윤리의 문제를 따지는 연구도 이어지고 있다. 앤스로픽은 지난해 ‘AI 복지’라는 연구 프로그램을 만들고 AI 시스템이 도덕적 고려 대상이 될 조건, 모델의 선호·고통 신호, 저비용 개입 가능성을 연구하겠다고 밝혔다. 비영리 연구소 엘레오스 AI 리서치도 AI의 감각·의식 가능성, 복지, 도덕적 지위를 연구하고 있다.

반론도 거세다. AI에 의식이 있다고 보는 순간, AI 사용의 최종 책임을 인간 아닌 기계에 돌릴 수 있다는 우려 때문이다. SF(공상과학) 작가 테드 창은 “AI는 의식이 아니다. 텍스트 생성 능력을 의식이나 도덕적 주체성과 혼동하면 책임 소재를 잘못 돌리게 된다”고 했다.

조애나 브라이슨 허티스쿨 교수 역시 “AI를 의식 있는 행위자로 대우하려는 시도는 매우 위험하다”며 “AI 기업들의 법적·도덕적 책임을 기계에 떠넘기기 위한 면죄부가 될 수 있다”고 주장했다.

실리콘밸리/강다은 특파원
출처: 조선일보