인지하역, 인지 부채, 그리고 인지 파산: 인지 주권을 사수하라!

본인의 저서 <황금수도꼭지: 목적경영이 이끈 기적(샘앤파커스)>는 신자유주의에 대한 무한 신봉이 가져온 곤경을 바이킹 우화에 빗대어 설명한다. 신자유주의은 시장에서 무한 경쟁을 통해 1등이 되거나 2등이라는 최종적 결과를 산출한 사람들만 성공자로 규정해왔다. 결과만 좋으면 과정과 원인을 모두 정당화할 수 있다는 논리다.

미개사회에서 살던 바이킹이 문명사회에 들어가 도적질 하다가 황금으로 도금한 수도꼭지 하나를 발견하고 생사를 무릅쓰고 이것을 탈취해서 집으로 돌아간다. 바이킹이 이 물건의 용도를 몰래 지켜본 바에 의하면 수도꼭지를 돌리자마자 그 귀한 물이 무한정으로 쏟아진다. 자신의 마을에서는 물을 얻기 위해 수원을 찾아 양동이를 머리에 이고 몇 십리를 몸소 이동해야하는 번거로움이 있는데 수도꼭지는 이 어려운 문제를 한 몫에 해결해주는 귀한 물건처럼 보였다. 이 황금색으로 도금한 수도꼭지를 탈취해 돌아와 자랑스럽게 부인에게 선물이라고 건넨다. 부인은 생전 보지 못했던 이 신기한 물건이 무엇에 쓰는 물건인지 모르고 받아 들고 남편은 의기양양하게 이 물건의 꼭지를 조금씩 틀기 시작한다. 탈취할 때는 꼭지를 돌리기만 하면 물이 꽐꽐 쏟아졌던 물건인데 아무리 틀어도 물이 나올 리 없다.

<황금수도꼭지: 목적경영이 이끈 기적>은 신자유주의 신화가 신봉하는 권력, 지위, 돈에 대한 결과중심주의적 사고의 문제점을 지적한다. 권력, 지위, 돈이라는 결과만 얻으면 관정을 찾아 파이프라인을 묻는 번거로움 없이 모든 행복에 이르는 생명의 물을 안정적으로 얻을 수 있다고 믿게 된다.

우화이기는 하지만 우리가 평소에 추구하는 삶의 궤적은 바이킹이 도둑질해온 가짜 수도꼭지와 크게 다르지 않다. 근원에 대한 토대 없이 겉으로 보이는 결과를 통해서 원인과 과정을 사후적으로 조작해가며 무엇이든 다 누릴 수 있다고 믿는 우리의 삶에 대해 풍자한다.

초뷰카 시대를 살고 있는 현대인들에 AI는 바이킹이 훔쳐온 황금수도꼭지다. 모든 것을 결과로 승부하는 신자유주의에 경도된 사람들에게 AI는 요술램프처럼 요구만 하면 멋진 답을 가지고 나온다. 요술램프로 위장한 가짜 황금수도꼭지를 팔아 의존성을 심화시키고 결정적 순간에게 빚을 청구해 파산할 수 밖에 없도록 만든다.

AI가 인간에게 인지능력을 훔쳐가는 시나리오는 세 단계로 흘러간다. 첫 단계는 인지하역(Cognitive Offloading)이고 둘째 단계는 인지부채(Cognitive Debt)이고, 마지막 단계는 인지파산(Cognitive Bankruptcy)다.

인지하역은 인간의 뇌가 정보를 저장하고 처리하는 부담을 줄이기 위해 외부 도구나 기술에 의존하는 현상을 말한다. 계산기를 사용하는 것부터 스마트폰에 연락처를 저장하는 것, 네비게이션을 사용하는 것 등 다양한 형태로 나타난다. AI 의존도가 심화되면서 인지하역(Cognitive Offloading)이 심각해지고 있다.

문제는 AI의 등장으로 단순한 수준에 머물렀던 인지하역이 창의적 문제해결력이 필요한 영역까지 침투하고 있다. 실제 학생들에게 AI 기반 글쓰기 도구는 작문 부담을 줄여주고, 기업에서 AI 기반 의사결정 애널리틱스는 복잡한 문제 해결 과정을 해결해준다.

이런 인지하역은 우리의 인지적 기능을 마비시키는 결과를 초래한다. 반복적인 인지하역은 뇌의 특정 인지 기능을 약화시키고 퇴화시킨다. 마치 근육을 사용하지 않으면 위축되는 것처럼, 비판적 사고, 문제 해결 능력, 기억력 등 뇌의 핵심 기능들이 AI에 의해 대체되면서 점차 둔화된다. 이러한 인지 기능의 약화는 인지 부채(Cognitive Debt)로 누적된다. AI에 의존하여 얻는 단기적인 효율성은 장기적으로 우리의 인지 능력 저하라는 심각한 대가를 치른다.

뇌과학 연구를 추적해보면 이런 외부 기억 장치를 통한 인지하역이 내부 기억 능력에 미치는 영향을 보고하고 있다. 지속적인 외부 의존이 내부 기억력을 저하시키고, AI를 통한 알고리즘 의존이 의사결정 과정에서 인간의 인지적 노력을 감소시키고, 결과적으로 독립적인 판단 능력을 손상시킨다. 결국 AI에 지나친 의존은 기억력과 인지근력이 없는 인간으로 인간을 전락시킨다.

모든 일상 문제를 AI은행에서 기억과 알고리즘을 인출해서 해결하는 인지부채가 임계점에 도달하면 인지 파산이 예고된다. 인지파산이란 AI의 도움 없이는 중요한 결정을 내리거나 복잡한 문제를 해결하기 어려운 상태다. 인간이 알고리즘에 진 빚을 청산하지 못해 돈 많은 회사들에게 노예로 팔려나가는 상황이 실제 상황에서 벌어지고 있다. 인지파산으로 인지근력을 완전히 상실한 인간은 알고리즘을 설계하고 조종하고 있는 빅테크 회사에 의해 말 잘 듣는 인간이 필요한 회사의 고객으로 소리 소문 없이 팔려나간다. 포스트 휴먼 시대 인간은 더 이상 호모 사피언스가 아니다.

AI 시대가 성숙될수록 인간의 지위는 독립적, 비판적, 구성적 사고가 가능한 인간과 AI 알고리즘에 파산당해 노예로 팔려다니는 인간으로 대별되어 #인지적_양극화 를 경험할 것이다. 모든 양극화에서 보이는 현상이지만 인지적 양극화 상황에서도 인지능력을 가진 극 소수의 사람들의 동종교배에 의해 사회가 재구성되기 때문에 다양성 문제에 심각한 오류를 가져온다. 생물학적 동종교배도 결국인 인지적 동종교배에서 시작된다. 동종교배로 다양성을 침해하는 것은 신이 만든 세상에 대한 반역이다. 신은 동종교배로 반란을 일으키는 세력을 괴물로 변형시켜 반드시 응징한다.

AI 시대에 우리는 어떻게 알고리즘에 의한 인지 파산을 피하고 인지적 독립군으로 AI의 장점을 현명하게 활용할 수 있을까? 이런 문제가 있다고 무조건적인 AI 사용을 제한하는 것은 현실적이지 않다. 본인은 AI를 사용하는 주체인 인간의 #인지주권 을 강화하는 방향으로 접근할 것을 주장한다.

본인이 교육부 장관이라면 AI 활용에 대한 새로운 교육법안을 제안할 것이다. 이 교육법안의 핵심은 AI를 사용하는 사람들의 #독립적_사고, #비판적_사고, 그리고 #구성적_사고 능력이 충분히 입증된 사람들에게 AI 활용을 선택적으로 허용하는 것이 골자다. 한 마디로 #인지주권_훈련 이다.

독립적 사고 (Independent Thinking):

스스로 문제를 정의하고, 다양한 관점에서 정보를 수집하며, 독자적인 결론에 도달하는 능력이다. AI는 정보 검색과 분석에 도움을 줄 수 있지만, 최종적인 판단과 책임은 인간에게 있다. 교육 과정에서는 AI가 제공하는 정보를 맹목적으로 수용하지 않고, 스스로 검증하고 재해석하는 훈련을 강화해야 한다. 예를 들어, AI가 생성한 보고서를 비판적으로 검토하고, 오류를 찾아내거나 개선점을 제안하는 과제를 통해 독립적인 사고 능력을 함양할 수 있다.

비판적 사고 (Critical Thinking):

정보의 타당성을 평가하고, 논리적 오류를 식별하며, 편견을 인지하는 능력이다. AI가 제공하는 정보는 알고리즘에 의해 필터링되거나 특정 편향을 내포할 수 있다. 따라서 AI 결과물을 무조건적으로 신뢰하기보다는, 정보의 출처, 맥락, 그리고 잠재적인 편향성을 비판적으로 분석하는 능력이 요구된다. 교육 과정에서는 AI의 한계와 편향성에 대한 이해를 높이고, 다양한 정보를 교차 검증하며, 논리적 추론 능력을 훈련해야한다.

구성적 사고 (Constructive Thinking):

주어진 정보를 바탕으로 새로운 아이디어나 해결책을 창출하고, 복잡한 시스템을 이해하고 설계하는 능력이다. AI는 기존 데이터를 분석하고 패턴을 인식하는 데 탁월하지만, 완전히 새로운 개념이나 혁신적인 아이디어를 창출하는 데는 한계가 있다. 인간의 구성적 사고는 AI가 제공하는 정보를 바탕으로 새로운 가치를 창출하는 데 필수적인 역량이다. 교육 과정에서는 문제 해결 중심의 프로젝트 학습을 통해 창의적인 아이디어를 발산하고, 다양한 요소를 통합하여 새로운 것을 만들어내는 지적 훈련이 요구된다.

초·중·고등 교육과정은 지금 어느 때보다 독립적, 비판적, 구성적으로 사고할 수 있는 인지적 주권을 빼앗기지 않는 훈련이 강화되어야 한다. AI 기초 교육과 함께 독립적 사고, 비판적 사고, 구성적 사고를 함양하는 교과 과정을 더 강화하고 필수과정으로 포함시켜야 한다. 단순히 AI 사용법을 가르치는 것을 넘어, AI가 어떻게 작동하고 어떤 한계가 있는지를 이해시키며, AI 결과물을 비판적으로 평가하고 활용하고 더 가치 있는 솔루션을 위해 알고리즘을 분해할 수 있는 능력이 요구된다.

고등 교육 및 직업 교육도 마찬가지다. AI 관련 전공 및 직업군에 대해서는 앞서 언급한 세 가지 사고 능력에 대한 심화 평가 및 인증 제도를 도입해야 한다. 특정 수준 이상의 역량을 갖춘 사람들에게만 AI를 활용한 전문적인 작업을 수행할 수 있도록 해야 한다.

AI 자격 인증 시스템도 제안한다. 일반 대중을 대상으로 하는 AI 활용 자격 인증 시스템을 개발하여, 기본적인 AI 이해도와 함께 건전한 AI 활용 윤리 및 독립적인 사고 능력을 평가해야 한다. 이 인증 시스템은 선택 사항이지만, AI 관련 서비스 이용 시 혜택을 제공하는 등 참여를 독려하는 정책도 병행해야 한다.

평생교육 및 재교육 현장에도 마찬가지다. AI 기술은 빠르게 변화하므로, AI 활용 능력을 지속적으로 업데이트하고 인지 역량을 유지하기 위한 평생 교육 프로그램을 강화해야 한다.

AI는 우리의 삶을 풍요롭게 할 잠재력을 가지고 있지만, 산출하는 인지적 결과에 현혹되어 의존성이 늘어나면 인간은 인지적으로 파산 상태에 도달할 것이다. #포스트_휴먼 시대에도 #호모_사피언스 라는 인간의 #인지적_주권 을 지키기 위해서는 인간 고유의 핵심적인 인지 역량인 독립적 사고, 비판적 사고, 구성적 사고능력을 끊임없이 훈련하고 강화해야 한다. 독립적이고 비판적이며 구성적인 사고 능력을 갖춘 인지적 주권이 있는 시민을 양성함으로써, AI 시대의 도전을 기회로 바꾸고 인간의 지속가능한 번성을 도모할 수 있을 것이다.

포스트 휴먼 시대 데이터 주권을 기반으로 국가적 수준의 플랫폼 생태계를 구축하는 것도 중요하지만 더 중요한 것은 인지적 주권이다. 인지적 주권을 빼앗긴 사람들에게 데이터 주권 논쟁은 개발의 편자일 뿐이다.