인공지능의 아버지 제프리 힌톤 교수가 AI의 위험성을 경고하며 새로운 국제 규약의 필요성을 제안하는 것을 들으며 한 가지 생각이 들었다. 규약이 만들어지고 작동되기도 전에, AI가 이미 세상을 초토화하고 있지는 않을까?

"우리는 인공지능을 이길 수 없다." 힌톤이 구글을 떠나며 한 이 말은 이제 경쟁의 문제가 아니다. AI는 파라미터를 공유하며 집단지성으로 학습하고, 오류를 즉시 수정하며, 밤낮 없이 진화한다. 생물학적 한계를 가진 인간이 AI의 학습 역량과 학습 속도를 이길 방법은 없다.

문제는 이 초격차가 AI와 인간 사이에만 있지 않다는 것이다. 더 본질적인 질문은 "계약을 맺는 주체는 누구인가?"의 문제다. 소수 엘리트와 기득권 카르텔이 AI를 독점한 상태에서 카르텔 세력이 맺는 계약이 과연 인류 전체의 이익을 대변할 수는 없을 것이다.

새로운 귀족제의 위험

산업화 시대의 불평등은 유전자 복권에 기반했다. 의사, 변호사, 금융 전문가들은 전문성이라는 성벽 뒤에서 부와 권력을 세습했다. 정치적으로는 민주화를 이루었지만, 사회경제적으로는 전문가 카르텔이 지배하는 새로운 귀족제가 작동했다.

AI 시대는 이 구조를 더욱 극단화할 위험이 있다. AI 기반 의료 플랫폼을 소수 병원 그룹이 독점하면 의료 양극화가 심화되고, AI 법률 서비스를 대형 로펌이 독점하면 사법 불평등이 구조화된다. 더 심각한 것은 정치 영역이다. AI를 활용한 여론 조작과 맞춤형 선전이 국가와 자본의 손에 들어가면, 투표는 하지만 AI 알고리즘이 설계한 정보 생태계 안에서만 판단하는 시민이 탄생한다. 이것이 가장 교묘한 형태의 지배다.

AI의 통제 불능보다 더 급박한 위협은 AI를 독점한 소수에 의한 다수의 통제 불능이다.

보편적 시민 민주화 운동

AI 시대에 인간이 AI를 통제할 수 있는 유일한 방법은 모든 시민이 삶의 주인으로 서는 것이다. 투표함 앞에서만이 아니라, 일터에서, 법정에서, 병원에서, 학교에서, 공공선을 지향하는 주인의식으로 의사결정에 참여하는 주체가 되는 것이다.

AI의 위험은 그 지능 자체가 아니라, 그 지능이 소수에게 집중될 때 발생한다. AI의 혜택이 민주적으로 분배되고 시민들이 AI 시스템의 설계와 운영에 참여할 수 있다면, AI는 독재의 도구가 아니라 민주주의의 도구가 된다.

의료 AI가 시민 참여형 플랫폼 협동조합으로 운영되고, 법률 AI가 공공 플랫폼으로 제공되며, AI 거버넌스가 시민의 직접 참여로 이루어진다면, AI 정책은 다수의 이익을 반영하게 된다. Constitutional AI 같은 접근법이 AI에 윤리 원칙을 내재화하려는 시도이지만, 핵심은 그 원칙을 누가 작성하느냐다. 소수 전문가인가, 아니면 민주적 숙의를 거친 시민들인가?

존재우위를 가진 시민

AI와의 경쟁우위는 이미 불가능하다. 인간이 승부를 걸 수 있는 유일한 전선은 존재우위다. 존재우위란 자신이 왜 대체불가능한 존재로 이 세상에 있어야 하는지를 묻고, 그 답을 삶으로 증명하는 것이다.

AI는 목적을 가질 수 없다. 주어진 목표를 최적화할 뿐이다. 목적을 설정하고, 목적에 따라 목표를 정렬하며, 거기에 의미와 가치를 부여하는 것은 인간의 고유한 영역이다. 그러나 존재우위는 저절로 주어지지 않는다. 평생 대리인으로 살아온 사람은 갑자기 주인이 되라 해도 무엇을 해야 할지 모른다. 일터에서 민주적으로 의사결정에 참여하고, 공동체에서 공동선을 위해 협업하고, 자신의 존재목적을 탐색하는 경험이 축적된 시민만이 AI 시대에 존재우위를 발휘할 수 있다.

AI가 추동하는 민주화

역설적이게도, AI 자체가 보편적 민주화를 추동하는 한 축이기도 하다. AI 의사, AI 변호사, AI 교사는 특정 계층이 독점해온 지식을 공공재로 전환한다. AI 기반 직접 민주주의 플랫폼은 직업 정치인의 대리 통치를 넘어설 가능성을 열고, AI 교육 플랫폼은 개인 맞춤형 학습으로 교육의 민주화를 실현하며, AI 로봇 기술은 나이와 무관하게 주인으로 설 수 있는 세대의 민주화를 열어젖힌다.

하지만 AI가 추동하는 민주화는 자동으로 달성되지 않는다. 기득권 카르텔은 제도적·법적 기준을 앞세워 자신들의 영역을 지키려 할 것이다. AI가 추동하는 민주화의 물결을 실제 제도적 변화로 전환하려면, 시민들이 AI의 혜택을 공공재로 만들 것을 요구하고, AI 거버넌스에 직접 참여할 권리를 주장하며, AI 시대의 새로운 사회계약을 민주적으로 작성해야 한다.

AI 시대 온전한 민주주의

힌톤의 경고는 패배 선언이 아니라 각성의 촉구다. 통제할 수 없는 AI를 만들지 않으려면, 먼저 사회의 전 영역에서 통제 가능한 민주의 주체로 설수 있는 근력을 만들어야 한다.

인간이 AI를 통제할 수 있는 유일한 방법은 먼저 인간이 인간을 통제하는 비민주주적 거버넌스 구조를 해체하는 것이다. 민주화 되지 못한 전 사회적 영역에 카르텔이 파고든다. 카르텔이 지배하는 사회에서는 AI도 민주를 파괴하는 무기가 된다. 정치, 경제, 사회, 교육, 직장 등 모든 영역에서 구성원이 주인으로 선 사회에서만 AI는 온전히 민주화의 도구가 될 수 있다. 삶의 각 영역에서 주인의 삶을 구현한 시민들이 모여 작성한 계약만이 진정한 사회적 합의가 된다.

AI와 인간 사이의 초격차는 이미 현실이다. 그러나 인간과 인간 사이의 초격차를 방치한 채 AI만 통제하려는 시도는 실패할 수밖에 없다. AI에 대한 새로운 협약이 진행되는 것을 기다리기 전에 사회의 모든 영역에서 보편적 민주화를 통해 구성원을 주인으로 세우는 것이 핵심이다. 모든 영역에서의 온전하고 보편적 민주주의의 성숙도를 달성하는 것이 AI 시대에 인간이 인간으로 살아남을 수 있는 길이다