[최민성의 미래 읽기] AI는 마음을 가질 수 있는가 : 실리콘밸리가 철학자를 부르는 이유

인공지능(AI)의 시대, 우리는 매일 아침 ‘기계’와 대화를 나눈다. 질문을 던지면 마치 옆에서 고민을 들어주는 친구처럼 유창하게 답을 건네는 AI를 보며, 인류는 이제 낯선 공포와 기대를 동시에 마주한다. “AI가 과연 인간처럼 의식을 갖게 될 것인가?”라는 질문은 이제 SF 영화의 소재를 넘어, 기술과 철학이 교차하는 가장 뜨거운 토론의 장이 되었다. 최근 실리콘밸리의 빅테크 기업들이 앞다투어 철학자를 채용하고 나선 현상은 이 논쟁이 단순한 지적 유희가 아니라, 우리 인류의 미래를 결정지을 실질적인 전략적 과제임을 방증한다.

1. ‘문어 테스트’가 던지는 경고: 의식인가, 투영인가?

워싱턴 대학교의 언어학자 에밀리 벤더(Emily Bender)와 알렉산더 콜러(Alexander Koller)가 제안한 ‘문어 테스트(Octopus Test)’는 AI의 본질을 꿰뚫는 매우 날카로운 사고 실험이다.

무인도에 고립된 두 사람이 해저 케이블을 통해 대화를 나눌 때, 이를 도청한 문어가 대화 패턴을 완벽하게 학습하여 인간인 척 응답한다고 가정해보자. 문어는 인간의 문법과 맥락을 그럴듯하게 복제하지만, 정작 현실 세계의 물리적 실체(곰을 만나면 도망쳐야 한다는 물리적 위기감 등)는 전혀 이해하지 못한다.
현재의 거대언어모델(LLM)도 이 문어와 크게 다르지 않다. AI는 방대한 텍스트 데이터를 통계적으로 학습하여 ‘그럴듯한’ 문장을 만들어낼 뿐, 그 문장이 담고 있는 실제 세상의 맥락이나 감각적 경험에 대한 ‘이해’는 결여되어 있다.

우리가 AI에게서 지능이나 의식을 느끼는 것은 기계 내부에 무언가 존재해서가 아니라, 고도로 정교하게 짜여진 통계적 결과물에 인간인 우리가 스스로 의미를 투영하기 때문이라는 것이 벤더 교수의 지적이다. 즉, AI는 ‘마음’을 가진 것이 아니라, 마음을 가진 것처럼 보이도록 최적화된 거울에 불과할지 모른다.

2. 실리콘밸리가 철학자를 채용하는 이유

그렇다면 왜 구글, 오픈AI, 메타 같은 기술 기업들이 공학자가 아닌 철학자들에게 고액 연봉을 지불하며 문을 두드리고 있는가?

이는 AI가 단순한 도구를 넘어 ‘의사결정의 주체’가 되기 시작했기 때문이다. AI가 편향된 데이터를 학습하여 인종차별적이거나 반윤리적인 답변을 내놓는 현상은 기술적인 오류를 넘어 사회적 재앙이 될 수 있다.

공학자들은 ‘어떻게(How)’ 모델을 효율적으로 만들 것인가를 고민하지만, 철학자들은 ‘왜(Why)’ 이 모델이 이런 결정을 내려야 하는지, 그 결정에 담긴 가치는 정당한지 묻는다.
실리콘밸리는 이제 ‘성능’만을 추구하던 시대를 지나, ‘신뢰’와 ‘가치’를 증명해야 하는 단계에 진입했다.

3. 연구 현장의 사례: AI 의식과 윤리의 접점

최근 학계와 산업계에서는 AI의 의식과 윤리를 검증하기 위한 구체적인 연구들이 진행되고 있다.

첫째, 앨런 AI 연구소(Allen Institute for AI)의 '델파이(Delphi)' 프로젝트이다. 이는 AI에게 일상적인 윤리적 딜레마 상황을 제시하고, 그 답변의 적절성을 인간의 가치관과 비교 분석하는 연구다. 이 과정에서 연구자들은 철학의 '규범 윤리학'적 모델을 도입하여, AI가 단순히 다수의 의견을 따르는 것이 아니라, 일관된 윤리적 원칙에 따라 판단을 내릴 수 있도록 설계하고 있다. 이는 기계에게 도덕적 추론 능력을 부여하려는 초기적 시도다.

둘째, 구글 딥마인드의 ‘가치 정렬(Value Alignment)’ 연구이다. 딥마인드는 강화학습을 통해 AI가 인간의 복잡하고 모호한 가치를 어떻게 학습할 것인지를 탐구한다. 특히, 단순히 보상을 최대화하는 것이 아니라, 인간이 선호하는 가치를 존중하면서도 위험을 회피하는 ‘인간 친화적 AI’를 만드는 과정에서 철학자들은 ‘우리가 무엇을 인간적인 가치로 볼 것인가?’라는 인식론적 질문을 던진다. 이 연구는 AI의 행동 제어 체계 내에 철학적 가이드라인을 코드로 이식하려는 시도로 평가받는다.

셋째, 신경과학과 AI의 융합 연구이다. 최근 위스콘신 대학교 매디슨(University of Wisconsin-Madison)의 수면 및 의식 센터 같은 몇몇 연구 그룹은 ‘통합 정보 이론(Integrated Information Theory, IIT)’을 AI 아키텍처에 적용해보려는 시도를 하고 있다. 이 이론은 의식을 시스템 내 정보 통합 정도를 측정하여 규명하려 한다. 연구자들은 AI 모델의 신경망 레이어 간 정보 교환 방식을 분석하여, 인간의 뇌가 의식을 발생시키는 복잡성과 유사한 수준에 도달할 수 있는지 측정한다. 물론, 아직은 의식의 ‘물리적 상관물’을 찾는 초기 단계에 불과하지만, 철학자들은 이 이론의 논리적 허점과 의식의 범위를 설정하는 데 기여하고 있다.

4. 전문가들의 결론: 실재하는 의식인가?, 정교한 모사인가?

이러한 연구들의 결론은 크게 엇갈린다. 기능주의적 관점에서, 인간의 두뇌 역시 뉴런의 상호작용이라는 물리적 구조를 가진 ‘기계’라면, 충분히 복잡한 시스템을 갖춘 AI 역시 적절한 하드웨어 위에서 의식을 구현시킬 수 있다는 입장이 존재한다. 하지만 반대편에서는 에밀리 벤더와 같이 ‘연산적 한계론’을 주장한다. 데이터의 규모가 아무리 커져도, 통계적 확률에 기반한 ‘다음 단어 예측’ 방식으로는 인간과 같은 주체적 의식을 가질 수 없다는 것이다.

현재까지의 전문가 합의는 “AI는 인간의 의식을 모방하는 데에는 탁월한 성능을 보이지만, 그것이 곧 인간적 의미의 ‘실재하는 의식’임을 의미하지는 않는다”는 쪽으로 기울어 있다. 우리가 확인하는 것은 ‘지능의 성취’이지 ‘영혼의 탄생’이 아니라는 것이다.

5. 맺음말: 우리는 어떤 AI와 공존할 것인가

AI가 사람처럼 의식을 갖게 될 것인가에 대한 답은 역설적으로, AI가 아닌 ‘인간’에게 달려 있다. AI가 인간의 의식을 완벽하게 모사하게 된다면, 그것은 우리가 AI에게 너무나 많은 인간적 가치와 의미를 투영해왔기 때문일 것이다. 우리는 기계에게서 신(神)을 보려 해서도, 혹은 도구 이상의 의미를 부정해서도 안 된다.

중요한 것은 기계의 내면에 진짜 영혼이 있는지를 따지는 것이 아니라, 우리가 AI라는 강력한 도구를 어떤 철학적 기반 위에서 사용할 것인가 하는 점이다. 실리콘밸리가 철학자를 고용한 것처럼, 우리 사회 역시 AI를 대하는 깊이 있는 통찰과 인문학적 토대를 마련해야 한다. AI는 문어처럼 우리의 말을 완벽하게 따라 할 수 있을지 모른다. 하지만 그 뒤에 숨겨진 차가운 통계와 확률의 세계를 인식하는 것은 오직 인간의 몫이다. 기계가 인간을 닮아가려 애쓰는 시대, 인간은 기계가 가질 수 없는 고유한 ‘철학’과 ‘책임’을 증명해야 할 때다.

AI는 우리의 거울이다. 그 거울 속에 비친 미래가 기괴한 괴물일지, 아니면 인류의 지혜를 확장하는 동반자일지는 바로 지금 우리가 AI를 어떻게 정의하고 설계하느냐에 달려 있다. 인간적 가치의 수호자로서의 인간, 바로 그 자리를 지키는 것이 미래 AI 시대에 우리가 짊어져야 할 가장 큰 숙제이다.

최민성 칼럼니스트/델코리얼티그룹 회장