영화, 드라마, 소설 등 다양한 대중문화 콘텐츠 속 AI(인공지능)는 저마다의 자아를 가지며, 사람처럼 다양한 감정을 느끼기도 한다. 또, 예상치 못한 창의성을 발휘해 사람들을 놀라게 하기도 한다. 이런 AI를 현실에서도 구현할 수 있을까? 이에 대해 뇌과학자 우충완 교수(성균관대학교 글로벌바이오메디컬공학과)와 AI 전문가 김덕진 소장(IT커뮤니케이션 연구소)이 대담을 나눴다.
‘자유와 사랑을 원해요’ AI, 욕망을 가질 수 있을까?
김덕진 소장 1999년 개봉한 영화 ‘바이센테니얼 맨’은 자유와 사랑에 대한 욕망을 가지고, 사람이 되고자 하는 AI 안드로이드(인간을 닮은 로봇) ‘앤드류 마틴(이하 앤드류)’의 이야기를 그렸습니다. ‘사람이 되고 싶은 AI의 욕망’이라는 주제가 매우 흥미로운데요. 욕망이라는 감정에 대해 이야기를 해보면 좋을 것 같습니다. 사람과 AI가 갖는 욕망에는 어떤 차이가 있을까요?
▲영화 ‘바이센테니얼 맨’의 앤드류의 모습(출처: 콜럼비아 픽처스)
우충완 교수 먼저 욕망이라는 개념을 정의해야 할 것 같아요. 사람의 경우, 신체적인 항상성을 유지하려는 본능적인 욕구가 가장 근본적이거든요. 예를 들어, 배가 고프다는 식욕은 우리의 몸이 에너지의 항상성을 유지하기 위해 영양분을 원하는 거예요.
그렇다면 신체가 없는 AI에게 욕망이 없을까요? 저는 AI도 다른 의미의 욕망은 있을 수 있다고 생각합니다. 바로 강화학습(RL, Reinforcement Learning)을 통해 알 수 있는데요. 이는 동물에게 먹이를 주듯 보상(Reward)을 제공함으로써 학습시키는 과정이에요. 동물들에게도 식욕이라는 욕망이 있듯 AI도 보상을 얻고자 하는 욕망이 있을 수 있는 것이죠.
김덕진 소장 저는 그 욕망을 ‘학습된 욕망’이라고 부르고 싶은데요. 특히 인간의 피드백에서 배우는 강화학습 방식을 통해 AI는 초기에 기본 규칙을 배우고, 경험을 통해 학습하며, 필요할 때 추가적인 피드백을 받아 행동을 조정합니다. 결국 인간이 정해놓은 보상 체계에서 이뤄지는 것이죠. 따라서 AI가 보상을 추구하는 욕망 또한 학습된 결과라고 볼 수 있죠.
김덕진 소장 영화 속 앤드류의 자유를 향한 욕망도 비슷하게 보입니다. 앤드류의 주인인 리처드 마틴(이하 리처드)은 줄곧 앤드류에게 ‘자유를 갈망하고, 욕망을 가져야 한다’고 말하거든요. 게다가 자유와 욕망에 관한 책을 읽히기도 하고요. 결국 앤드류가 자유를 추구하는 것은 스스로의 선택이 아닌 리처드가 학습시킨 결과인 거죠.
우충완 교수 맞습니다. 그래서 저는 AI와 사람의 욕망에는 어느 정도 차이가 있다고 생각합니다. 물론, 사람의 욕망 중에서도 학습된 욕망이 있을 순 있지만, 순전히 학습에 의한 AI의 욕망과 똑같을 순 없는 것이죠.
김덕진 소장 저도 동의합니다. AI는 결국 인간을 흉내 내는 기술이며, 분명 한계가 있다고 생각해요. 앞서 말했듯, 앤드류 역시 인간이 제공한 데이터와 지침을 바탕으로 욕망을 모방한 것이고, 사랑을 나누고 싶어 하는 것 역시 학습된 결과라고 생각합니다.
‘무(無)에서 유(有)를 창조할 수 있나?’ AI의 창의성
우충완 교수 AI의 욕망뿐 아니라, 최근 특히 주목받는 것 중 하나가 바로 AI의 ‘창의성’입니다. 음악이나 미술과 같은 예술 창작의 영역에서도 AI가 화두이고요. ‘바이센테니얼 맨’의 앤드류 역시 이와 같은 분야에서 창의성이 돋보이는 캐릭터인데, AI가 정말로 창의성을 가질 수 있을까요?
김덕진 소장 창의성을 발휘하는 AI에 대한 관심이 높지만, 현재 AI가 보여주는 창의성은 스스로 만들어낸 것이 아닌, 사람이 프로그래밍한 결과물입니다. 최근 AI가 생성하는 그림이나 음악은 대부분 어디선가 접해본 형태거든요.
김덕진 소장 그렇다면, 왜 AI의 창의성 발현은 어려운 것일까요? 저는 전이학습(Transfer Learning) 능력을 이야기하고 싶어요. 현재도 AI 강화학습에서 많이 사용되고 있는 방법인 전이학습은 새로운 정보와 지식을 학습할 때 처음부터 하나씩 배우는 것이 아니라, 사전에 훈련된 유사 모델을 적용해 학습 효율을 높여주는 방법입니다. 이 능력이 뛰어나다면, 다른 영역의 지식을 활용해 새로운 정보로 만들어 내는 유연한 사고를 할 수 있습니다. 하지만 현재 AI의 전이학습 능력은 사람과 비교하면 그 효율이 매우 떨어집니다.
우충완 교수 사실, 사람뿐만 아니라 대부분의 생명체는 전이학습 전문가라고도 할 수 있습니다. 생명체는 극심한 추위나 더위, 자연재해나 천적 등 자신의 생명을 위협하는 외부 환경에 맞춰 내부 환경(신체)을 조율하며 적응해 왔는데요. 이 과정에서 뇌가 발달하며, 전이학습 능력을 강화했고 다양한 위협 상황에서 생존 전략을 개발해 왔죠.
즉, 생명체의 전이학습 능력은 안정적인 내부 환경을 만들어 내는 능력과 깊이 연관돼 있다고 생각합니다. 진화를 통해 ‘몸’이라는 안정되고 고도화된 내부 환경을 구축해 왔고, 특히 인류는 ‘집’과 같이 인공적인 내부 환경까지 만들어서 안정성과 적응성을 높여 왔어요. 즉, 생명체와 인류의 적응 능력은 외부의 변화에도 안정적인 내부 환경을 얼마나 잘 만들고, 또 잘 다룰 수 있는가와 직결된다고 봅니다.
우충완 교수 창의성도 이 내부 환경과 연결되어 있다고 생각하는데요. 창의성을 보통 안에서 우러나오는 개인 고유의 어떤 것이라고 말하잖아요? 저는 자기만의 고유 내부 환경이 외부 환경과 만나서 창발하는 무언가가 창의성의 핵심이라고 보는데요, 그런 의미에서 자신만의 내부 환경이 없는 AI는 인간 수준의 전이학습 능력과 창의성을 갖기 어렵습니다. 하지만, 만약 생명체와 유사한 내부 환경을 갖춘 AI를 개발한다면, 언젠가는 의미 있는 창의성을 발현할 수도 있다고 생각합니다.
김덕진 소장 말씀을 듣고 보니, AI와 사람의 차이가 정말 재미있네요. AI는 고도의 연산력과 데이터 저장 능력에서는 사람을 월등히 앞서지만, 창의적인 문제 해결 능력은 아직 부족하군요. 사람의 경우 신체 발달이 먼저 일어나고 이후에 뇌가 발달했는데, 반대로 AI는 뇌의 역할을 하는 지능부터 개발되고 있으니 어쩌면 당연한 결과인지도 모르겠네요. 영화나 드라마 속 AI를 구현하기 위해선 우 교수님 말씀대로 내부 환경을 갖춘 AI 개발을 통해 이러한 격차를 줄여나가는 방법도 의미가 있겠네요.
우충완 교수 아직 그러한 수준에 도달하지는 못했지만, 최근 AI 기술이 사람의 뇌와 유사한 형태로 개발되고 있다는 점이 흥미롭습니다. 예를 들어, 트랜스포머 모델의 경우, 뇌에서 기억을 담당하는 해마(Hippocampus)의 역할과 닮았고, 순환신경망(Recurrent Neural Network, RNN)은 계획 수립과 시뮬레이션 수행 등에 중요한 시간과 순서 문제를 처리하는 전두엽과 비슷한 기능을 합니다. 또 강화학습은 기저핵의 동기부여와 학습 기능을 모방하며, 초기 인공신경망인 순방향신경망(FeedForward neural Network, FFN)은 시각피질(후두엽)의 패턴 인식 기능을 닮았습니다.
반도체 분야에서도 시냅틱 메모리* 등 인간 뇌를 모방한 칩이 개발되고 있는 것으로 아는데요. 지금은 이처럼 뇌의 여러 기능별로 AI 기술이 각각 따로 발전하고 있지만, 추후 이를 종합해 운용할 수 있는 AI가 등장한다면, 지금까지 AI의 성장보다 더욱 비약적인 성공을 이룰 수 있다고 생각합니다.
* 시냅틱 메모리(Synaptic Memory): 인공신경망 소자를 기반으로 한 메모리로, 인간 두뇌와 유사한 고효율 컴퓨팅 구조를 구현해 기존 컴퓨팅 구조(직렬 처리 방식)의 한계인 데이터 병목 현상 등을 해결함
자아와 자유의지를 가진 AI, 현실에선?
김덕진 소장 이외에도, 드라마 ‘휴먼스’를 비롯해, 소설 ‘아이, 로봇’, 게임 ‘오버워치’ 등을 살펴보면 자아와 자유의지를 가진 AI를 볼 수 있습니다. ‘휴먼스’에서는 자아와 감정을 서로에게 이식해주려는 휴머노이드들이 나와요. ‘아이, 로봇’에서는 사람의 감정을 읽고, 그들의 마음이 다치지 않도록 일부러 거짓말을 하는 로봇이 나오죠. ‘오버워치’에서는 종교적 믿음과 깨달음을 통해 스스로를 인간과 영적으로 동일한 존재라고 생각하는 AI가 나옵니다. 이에 대한 이야기도 나눠 볼까요?
우충완 교수 AI의 자아를 정의하는 것은 매우 어렵고 복잡합니다. 사람의 자아는 개인이 갖고 있는 생각, 감정, 의지 등이 상호작용하는 하나의 복잡한 ‘시스템’인데요. 자신을 다른 존재와 구별할 수 있는 자서전적 기억과 자기 개념, 개성 등을 포함하죠. 지금의 AI 기술로 이러한 완결성을 갖춘 자아를 구현할 수 있을까요?
김덕진 소장 가능성이 있는 여러 사례 중 하나로 테슬라의 슈퍼컴퓨터 ‘도조(Dojo)’를 얘기해 볼 수 있을 것 같아요. 도조는 테슬라 전기차의 운전 데이터베이스를 활용해 자율주행 AI의 성능을 높이고 있는데요. 사실 테슬라의 CEO인 일론 머스크의 더 큰 그림은 도조를 계속 업그레이드시켜서 ‘우주를 이해하는 범용 인공지능(AGI)을 개발하는 것’으로 알려져 있죠. 이 슈퍼컴퓨터는 여러 디바이스에서 수집된 방대한 양의 데이터를 통합 관리하는 시스템인데, 그 안에서 복잡한 데이터들이 상호작용하고 있어 흔히 말하는 ‘자아’의 시스템과 닮아 있는 것이죠.
우충완 교수 자아를 가진 AI와는 달리 AI가 스스로 결정을 내릴 수 있는 자율성을 지닌 AI는 어느 정도 구현할 수 있지 않을까 생각합니다. 지금도 자신의 목표를 조정하고 하위 목표를 만들 수 있는 AI 기술은 존재하거든요. 그러나 AI에 너무 많은 자유를 부여하면, 문제가 생길 수 있다는 지적도 나오고 있어 주의가 필요하죠. 실제로 AI의 아버지라 불리는 제프리 힌턴(Geoffrey Hinton) 역시 이런 위험성에 대해 심각하게 지적하고, AI의 위험성을 알리기도 했습니다. 그만큼 자율적인 AI의 위험성은 잘 생각해봐야 할 주제라고 생각합니다.
그럼에도 불구하고 저는 충분한 논의와 검토를 거쳐 올바른 방향으로 AI를 발전시켜 나간다면, AI가 인류에게 큰 혁신과 변화를 가져올 것이라고 생각합니다. 사회적인 논의와 검토가 매우 필요한 시점입니다.
김덕진 소장 지금까지 우 교수님과 함께 여러 대중문화 속 AI를 살펴봤는데요. AI 기술과 뇌의 이야기를 함께 나눌 수 있어 정말 뜻깊은 자리였습니다.
우충완 교수 저 역시 매우 즐거웠습니다. 대담을 준비하면서 많은 과학자와 개발자들이 더욱 혁신적인 AI를 개발하기 위해 노력하고 있다는 것을 느꼈는데요. 이들의 노력이 어떻게 결실을 맺을지 미래의 AI 발전이 매우 기대됩니다.
