최근 불거진 오픈 AI사 샘 알트만의 해고와 다시 복귀하는 해프닝은 AGI의 향후 행보와 관련해 큰 이슈를 제기했다.

오픈AI 이사회는 그동안 챗GPT가 기업이 아니라 공익기관임에도 AI 알고리즘에 대한 충분한 안전성 검토 없이 서둘러 각종 일반언어모형을 시장에 출시하고 있다는 점에 대해 지속적으로 우려를 표명했다. 알트먼은 이사회 의견을 듣지 않고 오픈AI 사명과 동떨어진 '이익 챙기기'에 급급했었다. 특히 이번 사건은 샘 알트먼이 오픈AI 데브데이에서 'GPT 스토어'를 통한 수익 공유형 비즈니스 발표가 촉발점이었다. 이런 브레이크 없는 알트만의 상업적 행동에 인류의 미래를 걱정한 이사회가 알트만을 CEO에서 해임해야 한다고 판단한 것이다.

사실 AGI가 최근 기아급수적으로 성장하는 과정을 추적해보면 오픈 AI를 연구하는 사람들도 매개변수가 어떤 경로를 통해 결과를 산출하는지에 대한 알고리즘을 파악하지 못하고 있다. 단지 여러가지 실험을 거듭하다보니 지금과 같은 상상도 할 수 없는 결과를 산출한 것이다. 내부가 어떻게 돌아가는지의 알고리즘에 대한 이해가 없는 상태에서 AGI를 성급하게 상용화하는 것은 위험하기 짝이 없는 행동이다. 또한 이번 사건을 일으킨 알트만은 개발능력은 있지만 자신의 여동생을 오랫동안 성적 인격적으로 학대해온 것이 알려졌다. 개발능력은 있지만 성품과 윤리성에는 문제가 있는 사람에게 AGI의 미래를 맡긴다는 것은 위험천만한 일이라고 판단한 것이다.

AGI 개발자들도 알고리즘이 어떻게 작동하는지를 놓친 상태에서 다양한 상용화 모형이 제시되는 형국은 본인이 예측한 <초뷰카시대(Hyper VUCA)시대>가 앞당겨지는 전조다. 뷰카가 물리적 현실계에서의 불확실한 전쟁상황이라면 초뷰카는 정체를 모르는 다양한 AI 알고리즘이 참전하는 디지털 군비 전쟁이다. 초뷰카 전쟁에서는 뷰카 전쟁과는 비교할 수 없을 정도로 불확실성, 모호성이 기아급수적으로 증가한다. 전쟁의 결과는 상상을 불허할 정도로 폭발적이다. 모든 기업들과 사람들은 오랫동안 상처를 치유하지 못하고 길을 잃을 수밖에 없는 형국이다.

지금은 이미 개인들의 정체가 모두 파악되어 알고리즘에 의해서 장악된 초개인화된 세상이다. 알고리즘에 의해서 정체가 파악된 개인은 핵개인처럼 보여도 개인의 인간성을 자신이 마음대로 조정할 수 있는 상태는 아니다. 초개인 혹은 핵개인은 인간으로서 비극인 몰개인화된 개인을 숨기기 위해 미화된 이름일 뿐이다. 개인을 대신해주는 알고리즘이 자신에게 의존성을 조금씩 높여가는 과정을 통해 살아 있는 인간을 자신들의 아바타로 만들어 마치 물건과 같이 물상화(reification)시키고 노예화 시켰기 때문이다.

초개인들의 치명적 약점은 인간이기 때문에 기억을 잃어버리지만 알고리즘에 의해 조정되는 우리의 아바타는 우리의 모든 과거를 기억하여 오히려 우리에게 회상시켜준다. 결국 알고리즘에 조정되는 아바타가 나보다 더 완벽한 나로 변신하게 된다. 결국 이 아바타와 나에 대한 정체성 게임을 할 경우 내가 이 아바타를 이길 수 있는 방법이 없다. 결국 아바타가 나의 정체성을 주장하고 다녀도 내가 어떻게 대응할 수 있는 방법이 없다.

실제 얼마전 할리우드에서 배우의 모습과 목소리에 대한 저작권을 알고리즘을 운영하는 회사가 넘겨 받으려는 시도가 있었다. 자신의 목소리와 모습에 대한 저작권이 넘어가면 알고리즘 회사는 겉으로 보이는 배우의 모습과 목소리에 자신들의 생각을 집어 넣어 임의로 수십편의 영화를 만들어낼 수 있다. 배우를 완벽하게 대체해 해고할 수 있는 길을 시도한 것이다. 정체성을 아바타에게 빼앗기는 몰개성화(Depersonalized)가 완성된다. 네비게이션에게 우리가 길을 기억해서 쓸 수 있는 능력을 다 양도해준 결과 네이게이션 없으면 한 발자국도 밖으로 못나가는 형국과 같다. 이런 어처구니 없는 사건이 우리의 정체성과 삶의 모든 영역에서 시도된다. 이런 현상을 우리 연구진은 탈개성화 (Depersonalization) 혹은 몰인간화(Dehumanization)라고 칭하고 상상할 수 있는 가능한 참상을 오래전부터 경고해왔다.

이처럼 디지털 알고리즘에 의해 우리의 정체성과 주권을 상실하게 되면 우리는 완벽하게 대체가능한 인간이 된다. 이런 대체 현상은 의사, 변호사, 회계사, 등등의 전문가들의 영역을 제일 먼저 공격해서 이들의 일자리를 빼앗기 시작할 것이지만, 결국은 서비스 영역의 일까지 모두 대체하게 될 것이다. AGI 기술과 로봇 기술이 결합되는 초차원의 세상이 만들어지면 인간은 노동, 일, 직업, 삶의 모든 영역에서 완전히 대체가능한 상태가 된다. 더 큰 문제는 이렇게 대체한 알고리즘의 정체를 파악하고 책임질 수 있는 주체가 없다. 알고리즘의 생태계가 자기조직적으로 행동하는 것도 누군가가 주체가 되어 제어할 수 없다.

인간이 존엄성을 잃고 완벽하게 대체되는 시점까지 기다린다는 것은 소 잃고 외양간 고치는 형국이다. 지금 당장 국가 차원에서 AGI를 규제할 수 있는 윤리성에 대한 논의를 시작하여야 한다. 알트만 사건은 이 문제가 얼마나 시급한 사안에 도달했는지를 보여준다. 샘 알트만은 AGI 업계에서 브레이크 없는 알고리즘을 상징한다. 알트만의 상업화에 같이 눈먼 과학자들이 대거 동조하고 있다는 것도 윤리적 규제의 문제를 더는 이들에게 맡겨서는 안된다는 반증이다. 이번 사건은 외견상 샘 울트만의 승리로 끝난 것으로 보이지만 이번 사건은 Open AI사에게 샘 울트만과 과학자들의 탈로를 경계하고 감시하고 브레이크를 작동시켜야 하는 일을 맡겨서는 안되는 이유를 일깨웠다.

기술, 전문성, 재능, 머리는 모두 AGI에서 대체가능한 세상이 다가오고 있다. AI 개발자들이 오픈 AI가 어떻게 돌아가는지 알고리즘을 파악하지 못한 상태에서 한 순간의 알고리즘의 오작동이 찾아 온다면 매트릭스에서 예언했던 초뷰카 전쟁이 현실이 될 것이다.

이런 상황에서 결국 알고리즘에 의해 장악된 지구를 탈출해 마지막 등불을 끄는 사람은 누가될 것인가?

평소 자신의 AI를 수단으로 이용해서 구축한 경쟁우위를 날줄로 삼고 이 경쟁우위를 자신이 존재목적에 대한 미래의 약속인 씨줄를 실현하는데 동원한 삶을 살았던 진성리더들일 것이다.

모든 기술적 역량이 같다면 진성리더(Authentic Leader)의 삶을 연단한 사람들이만이 결국 초뷰카 시대 전쟁에서 대체불가능한 존재우위를 누리는 마지막 사람들이 될 것이다.

진성리더의 삶을 살았던 사람들만 결국 알고리즘의 경쟁우위를 넘어서 인간으로서의 존재우위를 지켜가며 지구에서 마지막까지 생존하는 시대가 올 것으로 보인다.