AI 지능 대폭발이 시작됐다 [전명산의 AI블록체인도시 이야기-18]

영화 '삼체'는 현 시점 인류의 과학기술 수준부터, 양자(Quantum)를 자유롭게 다루는 기술과 성간 이동 기술을 갖춘 외계 문명 수준까지, 방대한 기술 발전의 스펙트럼을 배경으로 삼는다. 인류는 이제 막 양자 컴퓨터와 인공태양(핵융합) 수준에 진입하고 있지만, 지금까지의 기술 발전사를 돌아보면 언젠가 인류도 삼체의 외계 문명 기술 수준에 도달하지 못할 이유는 없어 보인다.

다만 인간의 지적 능력에는 물리적 제약이 있다. 하나의 뇌가 가진 제한된 계산 용량(CPU), 제한된 메모리(Memory), 제한된 저장 공간(Storage), 제한된 작동 시간(수면과 수명)은 인간 지능에 생물학적 한계를 부여한다. AI가 '순수 지능' 능력에서 인간을 뛰어 넘었는지는 아직 명확하지 않다. 그러나 AI는 계산 용량, 메모리, 저장 공간, 작동 시간이라는 4가지 요소에서 이론적으로 무한대에 가까운 능력을 갖는다. 그리고 이 4가지 무한대의 능력이 'AI 지능 대폭발'을 가능하게 만들고 있다.

생물학의 한계를 돌파한 구글의 알파폴드

2020년, 구글 딥마인드의 AI '알파폴드'가 생물학계 50년 난제였던 단백질 접힘 문제를 사실상 풀어냈다. 단백질 접힘 문제란 아미노산 서열만으로 단백질이 어떤 3차원 구조로 접히는지 예측하는 문제다. 알파폴드는 2억 개 이상의 단백질 구조를 밝혀냈고, 이는 무료로 공개되어 전 세계 약 200만 명 이상의 과학자가 이를 사용 중이다. 인간 연구자의 연구 시간으로는 끝을 알 수 없는 분량의 작업이다. 이 공로로 AI 엔지니어인 데미스 하사비스와 존 점퍼가 2024년 노벨화학상을 받았다.
알파폴드는 지능 폭발의 신호탄이다. 방대한 아미노산 조합 공간을 AI가 무제한에 가까운 계산력으로 탐색해서 가능성 높은 것들을 추려내고, 그 결과를 인간이 직접 검증하는 방식이다. 최정적으로 인간의 손을 거치기는 하지만, 방대한 조합을 탐색해서 가능성 높은 것들을 추려내는 작업은 4가지 제한에 묶여 있는 인간 두뇌로는 거의 불가능에 가까운 일이다.

그리고 'AI 지능 대폭발'이 이제 생물학을 넘어 화학·물리학·수학까지 동시다발적으로 확산되고 있다.

최초의 AI 생성 바이러스 유전체

2026년 8월, 미국 스탠퍼드대와 아크연구소 공동 연구진은 AI에게 박테리오파지(세균을 죽이는 바이러스)의 설계도를 스스로 만들어보게 했다. AI는 70만 개의 후보를 내놓았고, 이 중 가능성 높은 것들을 선별해 실제로 합성해 실험한 결과, 실제 작동하고 복제까지 하는 바이러스가 여러 종 만들어졌다. AI를 활용해 자연계에 존재하지 않는 새로운 구조의 바이러스 또는 바이러스 유사체를 설계하고 합성하는 데 성공한 것이다. 과거 연구자들이 수동으로 힌띰힌띰 진행하던 복잡한 설계 과정을 AI가 획기적으로 단축했다.

그중 일부는 기존 약품에 내성을 가진 세균을 제거하는 능력을 보였다. 이 연구 방법론과 연구 결과는 생물학, 화학, 유전공학, 제약 등에 미치는 영향이 지대할 것이다. 그런데 동시에 이 능력을 활용해 누군가 치명적인 바이러스를 만들어낼 수도 있는 문도 같이 열렸다.

80년 묵은 수학 난제 해결한 AI

비슷한 시기, 오픈AI의 미공개 AI가 80년 묵은 수학적 난제 등 세계적 수학 난제 모음(에르되시 문제) 중 10여 개를 새롭게 풀어냈다. AI가 풀어낸 방법론은 이 해답을 검토한 최고 수준의 수학자들로부터 "감탄이 나올 만큼 우아하다"는 평가를 들었다. 앞으로 AI가 리만 가설을 풀지도 모른다는 예측을 하는 수학자도 있다.

중국에서도 비슷한 일들이 벌어지고 있다. 알리바바는 신소재 발굴 AI로 새로운 초전도체 후보 4종을 단 28시간 만에 찾아냈다. 생물학, 수학, 재료과학. 서로 아무 관계 없어 보이는 세 분야에서, 같은 시기에, 같은 패턴의 사건이 동시에 벌어졌다. 이것은 'AI 지능 대폭발'이 우연이 아니라 하나의 흐름이라는 신호다.

지능 대폭발의 물리적 환경

순수 지능 그 자체의 발전이 아니더라도, 지능이 실제로 작동하는 4가지 조건의 한계가 사라진 것이 새로운 지능 환경을 만들어냈다.


바이러스 설계나 초전도체 발굴은, 알파고가 가능한 모든 경우의 수를 계산해 최선의 한 수를 찾아내는 방식과 비슷하다. 수십만, 수백만 개의 후보를 만들어 낸 후 최적의 후보를 추려내는 것은, 사람 한 명이 평생 걸려도 못 할 규모의 무제한 계산 용량(CPU)이 만들어낸 결과다.

세계적 수학 난제 풀이처럼, 무제한에 가까운 메모리와 저장 공간이 만들어내는 새로운 지능 공간도 있다. 인간은 한 사람이 '수학'이라는 단일 학문에서조차도 대수학, 해석학, 기하학, 위상수학, 정수론, 응용수학 등 세부 분과 학문을 두세개 이상 섭렵하는 것이 불가능하다. AI는 다르다. 무제한에 가까운 메모리와 저장 공간으로, 문제와 관련될 수 있는 모든 학문들 그리고 그 학문들의 분과 학문의 지식을 빠짐없이 훑어볼 수 있다. 일부 분석가들은 AI가 존재하지 않는 바닥에서 해법을 만들어낸 것이 아니라, 인간 수학자들이 시도했다가 끝까지 파보지 못해 묻힌 방법론, 인간 수학자들이 서로 연관짓지 못했던 다른 수학 분과의 성과들을 가져와 문제를 풀었다고 설명한다.

한때 지식 세계에서 회자되었던, 특정 분야의 최고 전문가 수준에서나 가능한, 여타 학문을 섭렵하고 종합하는 통섭(Consilience), 학문적 경계를 넘나드는 횡단성(Transversality)이 AI에게는 기본 환경으로 주어져 있는 것이다.

과학기술 발전 급가속도 구간 진입

이제 물리적 제약이 사라진 능력은 각 학문 영역으로 확산될 것이다. 그것은 그 동안 다소 점진적인 속도로 발전해 오던 인류의 과학기술이 가파른 급가속도 구간에 진입했다는 것을 의미한다. 그리고 아마도 이 가속도는 늦춰지지 않을 것이다. 미국과 중국은 이미 AI를 국가안보 자산으로 재분류하고 체제 경쟁 수준으로 달려가고 있기 때문이다. 어느 한쪽이 속도를 늦추는 순간 상대에게 주도권을 내주는 구조에서는, 누구도 먼저 브레이크를 밟을 수 없다. 이것은 국가 간의 문제만도 아니다. 구글, 오픈AI, 앤스로픽, 알리바바 등, 이 폭발의 최전선에 있는 기업들 역시 서로가 서로를 앞지르는 트랙을 최대 속도로 달리고 있다.

창은 더욱 뾰족해져가고, 우리에겐 새로운 방패가 필요하다
마냥 좋은 일은 아니다. 창과 방패가 한 몸인 AI의 창 끝이 더 날카로워지기 때문이다. 그렇다면 우리는 지능 폭발이 만들어낼 또 다른 부작용에 대비해야 한다. 즉 지능의 폭발 자체를 막을 수 없다면, 지능 폭발이 만들어낼 위험을 다룰 수 있는 새로운 안전장치들이 필요하다.

데미스 하사비스는 지난 4월 한국을 방문해서 "5년 안에 인간의 모든 인지능력을 구사하는 범용 인공지능(AGI)이 가시화될 것"이라며, "정말 우리가 통제할 수 있는 안전장치들이 반드시 필요하다"고 말했다. 알파고의 아버지이자, AI 지능 대폭발의 첫 신호탄을 쏘아 올린 당사자의 말이다.

지능 대폭발 진입은 이미 확인되었다. 창은 더욱 뾰족해지고 있는 중이다. 그 창을 무디게 만들 방법은 없다. 그렇다면 우리에게 필요한 것은 창을 막는 게 아니라, 그 창을 감당할 수 있는 새로운 유형의 방패를 동시에 만들어가는 것이다. AI 발전이 AI 안전(Safety)의 발전과 함께 해야하는 이유다.



전명산 소셜인프라테크 대표는

블록체인 전문가로 기술과 사회시스템의 구조적 변화를 연구하는 기획자이자 개발자이다. 서울대학교 사회학과를 졸업하고 인터넷 산업에서 25년 이상 활동하고 있으며, 한국 최초 블로그 미디어 ‘미디어몹’을 기획한 바 있다. SK커뮤니케이션즈(싸이월드) R&D 연구소 팀장 등을 거쳐 블록체인 플랫폼과 분산시스템 기술을 개발해왔다. 현재 (주)소셜인프라테크 대표이사로 재직 중이며 오랫동안 천착해 온 블록체인 거버넌스 연구를 바탕으로 AI·블록체인·에너지·도시 인프라를 결합, 기본소득 문제를 해결하고 지속 가능한 사회 체제로 전환하는 전기 문명 프로토타입 ABCity(AI Blockchain City) 프로젝트를 제안하는 책 『가속해도 괜찮아! ABCity-AI 시대를 위한 전기 문명 프로토타입』(2026)을 냈다.

전명산 칼럼니스트/소셜인프라테크 대표