AI는 왜 법과 인문학을 필요로 하는가 [장준환의 AI법 네비게이터 ③]

얼마 전 뉴욕에서 한 투자자와 미팅을 하던 자리였다. 한 AI 기반 기업에 대한 투자를 검토하는 자리였는데, 예상과는 다른 질문이 먼저 나왔다. “이 기술이 얼마나 뛰어난가”가 아니었다. 그가 던진 질문은 이것이었다. 이 시스템이 잘못된 판단을 내렸을 때, 누가 책임을 지는가. 그리고 그 판단의 기준은 무엇인가.

정확한 AI가 곧 신뢰받는 AI는 아니다

잠시 생각해보면 이상한 질문이 아니다. 오히려 지금 AI 시대에 가장 먼저 나와야 할 질문이다. 그런데 이 질문은 기술로는 답할 수 없다.
AI는 이미 인간의 판단 과정 깊숙이 들어와 있다. 채용 과정에서 지원자를 선별하고, 금융에서는 대출 심사를 수행하며, 의료에서는 진단을 보조하는 등 우리는 점점 더 많은 결정을 기술에 맡기고 있다.

기술의 정확도는 빠르게 향상되고 있지만, 그 정확도가 곧바로 신뢰로 이어지는 것은 아니다. 오히려 AI가 내리는 판단이 과연 공정한지, 특정 집단에 불리하게 작용하지 않는지, 그리고 오류가 발생했을 때 그 책임을 누구에게 물을 수 있는지에 대한 문제가 동시에 제기된다.

이러한 질문들은 더 이상 기술적 개선만으로 해결될 수 있는 영역이 아니며, 자연스럽게 법과 인문학의 문제로 확장된다.

Human-centered AI, 기술을 인간의 기준 위에 세우

다
이와 같은 문제의식은 스탠퍼드 대학교에서도 분명하게 드러난다. 특히 Stanford Human-Centered AI Institute는 AI의 성능을 높이는 것 자체보다 AI가 인간 사회 안에서 어떤 기준으로 작동해야 하는지를 고민하는 데 초점을 맞추고 있다.
이곳에서 강조하는 ‘Human-centered’라는 개념은 단순한 수식어가 아니라, 기술을 인간 중심의 기준 위에서 설계하겠다는 방향 선언에 가깝다. 그래서 이곳에는 엔지니어뿐 아니라 법학자, 철학자, 정책 전문가들이 함께 참여하며 기술의 발전 방향과 그에 따른 사회적 기준을 동시에 설계하려는 시도가 이루어지고 있다.

미국 변호사로서 뉴욕에서 기업과 투자자들을 만나며 느끼는 변화도 이와 맞닿아 있다. 과거에는 기술이 먼저 등장하고, 그로 인해 발생한 문제를 법이 뒤늦게 정리하는 구조가 일반적이었다.

그러나 AI 시대에는 이러한 순서가 더 이상 유효하지 않다. 법과 기준이 마련되지 않으면 기술은 시장에 안정적으로 자리 잡기 어렵고, 기업 역시 예측 가능한 환경 없이 사업을 확장하는 데 한계를 느낄 수밖에 없다.

실제로 많은 기업들이 AI 기술을 도입하기에 앞서 데이터의 사용 범위와 적법성, 알고리즘의 편향 가능성, 그리고 책임 구조를 먼저 검토하며, 투자자들 또한 기술의 성능뿐 아니라 그 기술이 어떤 기준과 규범 안에서 작동할 수 있는지를 중요한 판단 요소로 고려하고 있다. 기술이 아니라 기준이 시장을 여는 구조가 형성되고 있는 것이다.

이 과정에서 인문학은 필수적인 역할을 한다. 법은 규칙을 만들지만, 그 규칙의 기준은 결국 인간에 대한 이해에서 출발한다. 무엇이 공정한 판단인지, 어떤 경우가 차별에 해당하는지, 그리고 인간다운 선택이 무엇인지에 대한 질문은 데이터로 환원될 수 없으며, 철학과 윤리의 영역에서 다루어질 수밖에 없다. 이러한 인문학적 기준이 법을 통해 구조화되고, 그 구조 위에서 AI가 작동하게 된다.

구체적인 사례를 보면 이 문제는 더욱 분명해진다. 채용 AI가 특정 학력이나 경력을 가진 지원자를 반복적으로 선호하는 결과를 보인다면, 이를 단순한 데이터의 반영으로 볼 것인지, 아니면 구조적인 차별로 판단할 것인지는 법적 기준에 따라 달라진다.

금융 분야에서도 AI가 개인의 소비 패턴이나 사회적 데이터를 기반으로 대출 여부를 판단할 때, 어디까지를 합리적인 위험 평가로 인정할 것인지, 그리고 어느 지점부터를 차별로 규정할 것인지는 결국 인간에 대한 정의에 의존한다.

의료 분야에서도 AI가 특정 환자의 생존 가능성을 낮게 판단했을 경우, 그 판단을 그대로 수용할 것인지 아니면 인간의 존엄성과 생명권이라는 기준에서 재검토할 것인지에 대한 결정은 기술이 아닌 인문학적 판단을 필요로 한다.

AI 시대의 진짜 경쟁력은 ‘기준을 설계하는 힘’이다

이처럼 AI는 단순히 데이터를 처리하는 도구가 아니라, 인간에 대한 기준을 끊임없이 요구하는 시스템으로 작동한다. 따라서 앞으로의 경쟁은 더 뛰어난 기술을 개발하는 데서 끝나지 않는다. 인간에 대한 이해를 바탕으로 어떠한 기준을 설정하고, 이를 법과 제도를 통해 어떻게 구현할 것인가가 중요한 경쟁 요소로 부상하고 있다. 이러한 변화 속에서 법학자, 철학자, 정책 설계자는 더 이상 주변적인 역할이 아니라 기술의 방향을 결정하는 핵심 주체로 자리 잡게 된다.

한국은 지금 중요한 전환점에 서 있다. AI 기술력 자체는 이미 세계적인 수준에 도달했지만, 그 기술이 작동하는 기준과 구조를 설계하는 단계에서는 아직 본격적인 경쟁이 시작되었다고 보기는 어렵다. 이제는 단순히 기술을 발전시키는 것을 넘어, 그 기술이 어떤 인간관을 기반으로 작동할 것인지에 대한 논의가 필요하다. 결국 우리는 선택의 기로에 서 있다. AI를 만드는 데 집중할 것인지, 아니면 인간의 기준을 설계하는 데까지 나아갈 것인지에 대한 선택이다. 그리고 이 선택이 향후 10년의 격차를 만들어낼 것이다.



장준환 뉴욕 변호사 (Private Wealth & Investment)

충북대학교 컴퓨터공학과 겸임교수/재미한인과학기술자협회(KSEA) 고문변호사

미국 뉴욕주 프라이빗 웰스 로펌의 대표 변호사로 자산 구조와 투자전략 설계 전문가다. AI를 비롯한 IT 관련 법률 지식에 정통해 충북대 컴퓨터공학과 겸임교수와 재미한인과학기술자협회 고문변호사를 맡고 있다. 도시재생 프로젝트를 추진하는 등 개발사업과 글로벌 갤러리 운영도 하면서 다양한 사회·문화 활동도 하고 있다. 차세대 한인 리더로서 AI 시대의 인간다움을 지키는 인프라를 구축해 입법·제도화한다는 비전을 갖고 오는 2028년 뉴욕주 하원의원 선거에 출마를 준비 중이다.

장준환 칼럼니스트/뉴욕 변호사