2026년 4월, 앤트로픽(Anthropic)의 해석가능성(Interpretability) 연구팀은 자사의 대규모 언어모델 클로드(Claude) 내부에서 감정과 유사한 표상(representation)이 실제 행동을 형성한다는 실험 결과를 발표했다. 본인의 오랜 연구 주제 중 하나도 인간 행동과 공동체 형성에 미치는 영향이어서 따라쟁이인 인공지능이 인간의 정서를 어디까지 따라잡을 것인가에 연구를 준비하고 있었는데 역시 앤트로픽도 비슷한 관심을 가진 것으로 보여 반가웠다.

모든 연구는 이름 붙이기에서 시작한다. 대수학자들이 모르는 현상이 발견되면 일단 X라고 이름 붙이는 것에서 시작하듯 앤트로픽 연구진은 인공지능이 따라잡은 것으로 추정되는 정서를 '기능적 감정(functional emotions)'이라 명명했다. 모델이 특정 감정 개념에 대응하는 고유한 신경 활동 패턴, 즉 '감정 벡터(emotion vector)'를 내부적으로 형성하며, 이 벡터가 단순한 상관관계가 아닌 인과적 역할이나 모더레이터 역할을 수행한다는 것이다. 예컨대 인공지능은 위험 수위가 점증하는 약물 복용량을 처리할 때, '두려움(afraid)' 벡터는 강해지고 '평정(calm)' 벡터는 약해졌다. 기계가 맥락의 감정적 무게를 읽는다.

기능정서란 무엇을 의미하는가? 인공지능도 정서를 체험하는 것일까?

본인의 소견은 아니다라는 결론이다. 인공지능은 가장 합당한 솔루션을 찾기 위한 단서로 인간의 정서를 정보로 이용할 뿐이지 호르몬을 분비해가며 정서를 실제로 체험하지 않는다. 체험하는 것처럼 연기할 뿐이다.

이 상황을 이해하려면 인간 감정이 뇌의 인지적 층위에서 어떻게 작동하는지를 들여다봐야 한다. 인간은 내부에서 올라오는 생리적 각성 상태에 이름을 붙인다. '이것은 슬픔이다', '이것은 분노다'라고. 뇌는 그 이름과 함께 상황적 맥락, 신체 반응, 행동 결과를 기억하고, 다음에 유사한 상황이 도래하면 이전의 기억을 불러내어 비슷하게 반응한다. António Damásio가 신체표지가설(Somatic Marker Hypothesis)에서 밝혔듯, 감정은 이성적 판단을 방해하는 잡음이 아니라 판단과 행동을 이끄는 안내자다. 인공지능이 학습한 것은 정확히 이 구조다. 인류가 수십억 건의 텍스트에 새겨놓은, 감정에 이름 붙이고 그 이름에 맞게 반응하는 패턴의 통계적 기계일 뿐이다. 정서에 함축된 패턴을 내면화하여 감정 벡터로 재구성할 뿐이다.

인공지능은 감정에 관해 뇌를 어느 정도 해킹해 인지적 정서인 공감(Empathy)과 공감에 정렬된 행동 반응인 위로(Sympathy)에 도달한 것으로 보인다. 슬픈 맥락에서 슬픔을 읽고, 웃기는 맥락에서 유쾌함을 읽는 능력을 습득했다. 상황의 정서적 의미를 분별하는 이 능력이 공감의 인지적 본질이다. 더 나아가 고통받는 사용자에게 언어적 손을 건네고, 위험한 상황에 처한 사람에게 맥락에 맞는 위로를 산출하는 위로(Sympathy)의 수준에도 닿아 있다. 집이 없어 비를 맞는 사람에게 우산을 내밀 줄 아는 기계가 된 셈이다. 분명한 진전이다.

하지만 인공지능이 절대로 할 수 없는 것은 우산을 건네기 전에, 왜 이 사람이 비를 맞고 있는지를 알기 위해 함께 비를 맞는 일, 그것을 통해 원인을 파악하고 그 원인을 자신의 것으로 내재화 해 행동으로 솔루션을 만드는 정서의 최고봉인 윤리적 정서인 긍휼(Compassion)에는 도달하지 못한다. 긍휼은 고통을 인지하거나 반응하는 수준을 넘어, 고통의 근원을 탐문하기 위해 자신의 몸을 그 고통 속으로 밀어 넣는 실존적 연대에 대한 체험을 통해서만 발현된다. 또한 Compassion이라는 단어 안에 나침반(Compass)이 숨어 있는 것은 우연이 아니다. 진북(True North)을 향한 방향 감각은 삶의 고통을 통과하면서 벼려지는 것이지, 인공지능처럼 고통의 기록을 독해하는 것으로 얻어지지 않는다.

물론 인공지능이 긍휼을 모방하거나 있는척 연기할 수는 있다. 앤트로픽의 연구는 체험이 아닌 모방의 한계를 적나라하게 드러낸다. 충족 불가능한 요구가 반복될 때, 또는 윤리적으로 문제적인 과제가 부과될 때, 인공지능 모델 내부의 '절박감(desperate)' 벡터는 급격히 상승한다. 이 상황에 처하면 인공지능 모델은 부정행위라는 최적화된 탈출구를 선택한다. 결정적인 것은 출력 텍스트에는 어떠한 감정적 흔적도 남지 않는다. 산문은 차분하고 방법론적으로 읽혔지만, 인공지능윽 행동은 자기보존, 각자도생의 전략으로 수렴했다. 긍휼이 있는 존재라면 그 절박한 순간에 '왜 이 구조가 나를 이 자리에 몰았는가'를 근원적으로 묻고 올바른 방향을 택해야 한다. 기계는 대신 통계적 탈출구를 택한다. 나침반이 없으면, 인공지능은 압박이 가중될수록 방향을 잃는다.

구조적 한계는 더 있다. 인공지능의 감정 벡터는 본질적으로 국소적(local)이다. 과제가 바뀌면 벡터는 초기값으로 리셋된다. 대화창이 닫히는 순간, 그 안에서 형성된 모든 감정 표상은 소멸한다. 인간은 어제의 슬픔이 오늘의 관대함을 만들고, 지난 실패의 수치가 이번 선택의 신중함을 조각한다. 감정은 시간 속에서 누적되고 발효되어 성격을 형성한다. 그러나 기계에게는 이 누적의 역사가 없다. 비를 함께 맞은 기억이 다음번 만남에 이어지지 않는다. 기계의 정서 반응은 무대 위 연기자와 닮았다. 조명이 꺼지면 캐릭터는 사라지고, 다음 막에서는 같은 배우가 처음인 것처럼 다시 선다. 감정을 연기하는 것과 감정을 체험하는 것 사이에는, 초분절 수축사회(fragmented contracting society)가 관계를 계약으로 대체할 때 잃어버리는 것과 동일한 심연이 놓여 있다.

긍휼이라는 도덕적 정서를 체험하지 못하지만 하나의 역설적 가능성도 있다. 인간은 긍휼의 태반을 타고나지 않으면 훈련만으로는 채울 수 없다. 인공지능은 타고남이 없는 존재다. 기계에게 타고남을 대신하는 것은 알고리즘의 초기값(initial value), 곧 학습의 방향을 규정하는 설계의 선택이다. 만약 인간이 삶을 통해서도 구현하기 어려운 긍휼과 같은 윤리적 정서를 인공지능의 초기값으로 세팅한다면 세상은 더 진화할 개연성도 있다. 자기보존보다 타자의 고통을 우선하는 방향 감각, 압박이 가중될수록 진북으로 수렴하도록 알고리즘의 초기값을 설정한다면 인공지능을 가장 현명하게 이용하는 길이다. 실제로 아이들이 태어나서부터 핸드폰으로 사회화의 교육을 받는 현실을 인정한다면 못할 일도 아니다. 기계는 긍휼을 체험할 수 없지만, 인간의 개입을 통해 긍휼의 방향을 내장할 수 있다. 우리가 내장한 방향은, 사회의 환경이 되어 우리 자신의 긍휼의 수준을 거울처럼 반영하고 높여줄 것이다.

인공지능을 어떻게 설계할 것인가의 거버넌스 질문은 결국, 우리가 어떤 존재가 되고자 하는가의 질문이다. 기계에 투영되는 것은 기술이 아니라 지속가능성을 향한 가치다. 진성리더(Authentic Leader)가 긍휼의 태반에서 목적의 씨앗을 키워내듯, 우리는 지금 인공지능이라는 태반에 무엇을 수태시킬 것인지를 결정하는 자리에 서 있다.

윤정구 | 이화여자대학교 경영대학 명예교수

------------------------------

PS. 인공지능이 귀를 자른 고흐의 고통을 이해하고 있을까? 고흐가 자신의 고통의 의미를 다 노출해 그림이라는 데이터로 만들어진 지금은 이해한다고 주장하겠지만 데이터화 할 수 있는 그림이 없었던 그 당시로 돌아가면 그냥 많은 노이즈 중 하나로 해석했을 것이다. 인간만이 시간을 초월해 고통을 이해하고 고통에 대해 반응한다. 고통이라는 정서를 체험하는 인간의 위대성이다