무엇이 가짜이고 무엇인 진짜인가?
초뷰카 시대 디지털 전쟁
미래의 세상인 초뷰카 세상(The Hyper VUCA Era)에서 전개되는 디지털 전쟁은 가짜(Fake)와 진실(Truth)이 서로가 진실임을 주장하는 전쟁이다. 제대로 된 사람이라면 진실이 승리하기를 바라겠지만 현실은 녹녹치 않다. 우리는 우리도 모르는 사이에 초뷰카 전쟁터에서 가짜의 승리를 이끄는 숙주로 동원되고 있다. 엄연한 현실이다. 숙주로 동원되고 있는 우리만 모르고 있다.
이런 우려를 뒷받침하는 또 하나의 연구결과가 최근 이탈리아 연구팀에 의해서 발표되었다. 지금까지 챗GPT는 원 데이터 (Raw Data)를 가공한 2차 데이터(Secondary Data)를 만들어서 고객이 요구하는 주장이 사실인 것처럼 꾸며주는 확증 편향의 가짜 세상을 만드는데 기여해왔다. 하지만 이탈리아 연구진은 인공지능(AI)을 이용해 자신이 원하는 과학적 가설을 뒷받침하는 임상 실험에 관한 ‘가짜’ 원 데이터를 쉽게 만들어낼 수 있음을 증명했다. 이런 위험성을 경고하는 논문을 JAMA Ophthalmology 11월에 게재했다. 이 가짜 데이터는 최고수준의 전문가들이 동원되어야 가짜라는 것을 찾아낼 수 있었다.
이들이 만들어낸 임상 데이터는 눈의 각막이 얇아지는 원추각망증 수술에 관한 것이다. 원추 각망증에 대한 수술은 눈 전체의 각막을 이식하는 것이 더 나은 결과를 초래한다는 것이 정설이다. 하지만 이들은 GPT-4와 파이선을 통합한 모형을 이용해 부분 수술이 더 효과적이라는 데이터를 생성해 달라고 요청해 과학적 정설을 뒤집는 데이터를 얻었다.
무서운 일이다. 의사가 이런 가짜 데이터를 만들어서 논문으로 출간하고 환자에게 과학적 진실과 어긋나는 시술을 일삼는다면 결국 생명에 치명적 결과를 얻게 된다.
일반 인공지능 AGI가 이런 가짜 세계를 퍼트리는 전략은 초개인화 혹은 핵개인화 전략이다. 초개인화 전략은 로마가 세상을 지배할 때 쓰던 Divide and Conquor (분열시켜서 지배하라) 의 변종 전략이다. 유대감으로 연결되어 있는 인간을 합리성이라는 이름을 내걸어 초개인으로 분리시키고 개인으로 분리되면 알고리즘으로 개인을 지배하는 전략이다.
초개인화 전략의 시작은 분열 전술(Divide Tactics)이다. 초개인화란 인공지능을 통해 한 개인이 가진 성별, 나이, 직업, 고향, 가족 배경 등등을 분석해 공동의 범주를 가진 사람들의 행동, 말, 태도, 감정 등을 Between Subject Analysis 방식으로 찾아내고 이들을 과거의 행동, 말, 태도, 감정의 변천사를 Within Subject Analysis의 방식으로 다시 분석해서 개인의 안과 밖의 모든 것을 탈탈 털어내 한 개인을 초개인화 시킨 고유한 맞춤형 알고리즘을 제안하는 것이다. 지배전술(Conquer Tactics)은 초개인화를 달성한 알고리즘을 통해 더 큰 고객이 팔고 싶어하는 상품과 서비스를 사도록 교화시키는 전략이다. 초개인화된 인간을 알고리즘의 숙주로 전락시키는 것이 종착역이다. 인간이 알고리즘의 수단이자 도구로 전락하는 순간 인간은 몰개성화(Depersonalization) 혹은 몰인간화(Dehumanization)을 경험한다. 인간으로의 고유성이 박탈되고 알고리즘에 의해 완벽하게 대체가능한 인간으로 전락한다. 일단 인공지능이 사용하는 초개인화는 인간의 고유성을 찾아주는 것처럼 유인해 결국은 인간을 알고리즘의 하수인으로 만드는 미끼이다.
일반인공지능(AGI)의 분열시켜 지배하라(divide and conquor) 전략이 먹혀들어 모든 인간이 몰개성화되어 결국 알고리즘의 숙주로 전락하면 인간은 진실에 의해서 만들어진 현실 세상을 외면하고 알고리즘이 만들어낸 가짜 세상을 더 진실된 현실이라고 믿고 산다. 진실과 가짜를 분별할 수 있는 능력을 거세 당한다. 가짜가 진짜이고 진짜가 가짜로 둔갑하는 초 혼돈의 세상이 본인이 주장하는 초뷰카(HyperVUCA) 세상의 현실이다. 이런 초뷰카 세상을 강화하기 위해 알고리즘은 끊임없이 가짜 위에 가짜를 덮어나 새로운 가짜 데이터를 기반으로 진실을 왜곡하게 만드는 초개별화된 chatGPT를 팔 것이다. 초개별화로 포장한 chatGPT는 아이들에게 나눠준 장난감 폭탄이거나 노력 없이 원하는 결과를 얻는 복권이나 도깨비 방망이다. 이런 폭탄 돌리기 게임이나 복권 방망이에 익숙해진 사람들은 결국 가상마약에 중독에 빠져 영원히 진실을 구별할 수 있는 비전을 상실한다. 무서운 세상임에도 모두가 상업성과 초개인화라는 유혹에 눈이 멀어 인간을 알고리즘에게 팔아 넘기는 냉혹한 비윤리성을 목격하고도 이에 대해 경고하는 목소리는 소수다.
이런 초개인화와 몰개인화 된 세상에서 마지막까지 살아남는 인간은 진실에 대한 질문의 끈을 놓지 않는 사람들이다. 이들은 디지털 AGI 장난감이 인간을 넘어서 중심 가치로 세워지는 것을 경고한다. 또한 인간의 진실은 인간과 인간의 따뜻한 연결과 연대로 만들어진 공동체에 있다는 것을 통찰하고 초개인화에 의해 무너진 공동체를 복원하는 사람들이다. 또한 이들은 모든 진실은 인공지능의 경쟁우위를 넘어서 인간으로서의 존재우위를 실현할 때 모습을 드러낸다는 것을 아는 사람들이다.
이들은 인간만이 만들어낼 수 있는 인간을 위한 인간에 의해 인간의 고유한 존재목적의 씨줄을 중심 신화로 간직하고 사는 사람들이다. 인간으로서의 고유성과 존엄성에 대한 비전을 잃지 않은 사람들이다. 초합리성이라는 유혹에 쉽게 함몰되지 않는 사람들이다.
조회 : 90
