AI 핵폭탄
엔론의 핵폭탄과 AI의 중성자탄:
북한보다 위험하다
미국 텍사스의 에너지 기업 엔론은 내부부당거래와 회계조작이 발칵되어 대기업이 완전히 공중분해 되어 사라지는데 수개월이 걸리지 않았다. 수조원의 매출을 자랑하던 기업의 가치가 공중분해되는 충격은 경제에 수소폭단을 터트린 것과 맞먹는 규모였다. 회계조작의 위험성을 간파하고 사베인스 옥슬리 법이라는 회계법을 만들어 대기업들의 회게장부를 검증한 결과 미국의 대부분의 기업들도 엔론처럼 회계장부를 조작해서 돈을 못벌면서도 돈을 버는 것처럼 주가를 띄워왔다는 것이 발칵되었다. 줄줄이 도산을 거듭하는 동안 이 사건은 우리를 괴롭힌 리만 브라더스까지 연결되었다.
엔론은 부시 가족이 밀어주던 에너지 스타기업이었고 미국의 경제지는 엔론을 미국을 대표하는 우량기업이라고 떠들어댓다. 엔론의 간부가 언론을 향해서 이메일을 보내면 언론사는 그대로 받아 적었다. 하바드 MBA를 졸업하면 대다수의 우수한 인재들이 다 엔론에 블랙홀처럼 취업이 되었다. 아무 생각없이 돈버는 무기로 무장한 미국의 MBA들을 시장가격보다 비싸게 주고 살 인센티브를 가진 회사가 바로 엔론이었다. 엔론이 이들 돈버는 무기를 다른 회사들보다 비싼 가격에 산 이유는 자신이 돈버는 방식에 이의를 제기하지 않고 완벽하게 전략적으로 포장해주는 무뇌의 로봇으로 사용할 수 있었기 때문이다.
최근 일론 머스크 테슬라 최고경영자(CEO)가 북한의 핵 위협보다 더 위험한 것은 인공지능(AI)라고 주장해 이목이 집중됐다. 머스크는 12일(현지시간) 트위터에서 “당신이 AI의 안전성에 관해 걱정하지 않고 있다면 걱정하는 게 좋을 것”이라며 “AI는 북한보다 훨씬 더 위험하다”고 말했다. 이 글과 함께 올린 사진에는 “결국에는 기계가 이길 것”이라는 의미심장한 문구가 담겨있다.
본인은 머스크의 주장에 동감한다. 엔론이 하버드 MBA들을 무기로 고용해서 경제에 수소폭탄을 던진 것처럼 점점 고도화되는 AI가 탐욕스러운 기업가에 의해서 이용되기 시작하는 순간 이들이 던지는 폭탄은 북한이 보유할 것으로 예상되는 핵폭탄을 넘어서 중성자탄이 될 개연성이 높다. 엔론사태가 핵폭탄이라면 AI가 던질 수 있는 폭탄은 핵폭탄의 수십배 위력을 가진 중성자탄이 될 개연성이 높다.
4차 산업혁명이란 것이 과연 실체가 있는지는 모르겠지만 인공지능이 기계학습으로 그 수준이 점점 더 고도화되는 이 시점에서 AI 사용에 대한 윤리적 가이드라인을 같이 마련할 필요가 있다. 디지털이 아날로그를 넘어서서 자율적으로 움직이는 특이점을 지나면 이런 문제에 대해서 우리가 손을 쓸 수도 없는 통제 불능의 상태에 도달할 개연성이 높기 때문이다. 특이점이 언제인지를 예측하는 것은 학자마다 다른데 본인의 예측으로는 향후 10년내지는 15년의 시간이라고 본다.
초기에 대응을 잘못해서 북한을 이렇게 위협적 존재로 키운 잘못을 AI에서 반복해서는 안 될 것이다. AI가 중성자탄으로 사용되는 것을 방지하는 논의를 시작해도 늦었다
