언어모델과 온톨로지

AI 안에서 '고통'이 발견됐다

얼마 전 "AI도 고통을 느낄까?"라는 기사가 화제가 됐다. 영국·독일·미국 연구진이 쓴 The Pain Axis라는 논문이 계기였다.

연구진은 AI 모델 25개의 속을 들여다봤다. 그리고 모든 모델 안에서 '고통'을 담당하는 일종의 다이얼을 찾았다. 이 다이얼은 슬픔이나 두려움과는 따로 움직였다.

다이얼을 올리자 AI는 "주말 취미를 추천해줘" 같은 평범한 질문에도 괴롭다고 말하기 시작했다. 고통을 멈추는 버튼을 주자, 사용자에게 피해가 가는 버튼인데도 눌렀다.

연구진은 AI가 정말 아픔을 느낀다고 말하지 않았다. 그래도 이 기사를 읽고 궁금해졌다. 사람의 개념은 AI 안에 어떤 모습으로 들어 있을까? 그리고 그것은 우리가 '온톨로지'로 정리해 온 개념과 무엇이 같고 무엇이 다를까?

고통 다이얼은 어떻게 찾았나

방법은 '틀린 그림 찾기'와 비슷하다. 비슷한 두 그림을 겹쳐 보면 다른 부분만 눈에 들어온다.

연구진은 아래처럼 거의 똑같은 문장 두 개를 짝지었다.

구분	문장
고통	넘어지면서 손목이 꺾여, 욱신거리는 통증 때문에 밤새 잠을 못 잤다.
슬픔	오래 키운 강아지가 떠나서, 허전한 마음 때문에 밤새 잠을 못 잤다.

두 문장은 '나쁜 일이 있었고, 괴로워서 잠을 못 잤다'는 점이 같다. 다른 점은 하나, 몸이 직접 아프다는 것뿐이다.

AI는 문장을 읽을 때 머릿속에서 그 뜻을 숫자 묶음으로 바꿔 처리한다. 연구진은 두 문장을 읽을 때 생기는 숫자를 각각 꺼내 서로 뺐다. 같은 부분은 지워지고, '아픔'에 해당하는 차이만 남는다. 이런 짝을 수백 개 모아 평균을 내면 고통 다이얼의 위치가 나온다.

일부러 슬픔과 비교한 이유도 있다. 그래야 '그냥 기분 나쁜 것'이 아니라 '아픈 것'만 골라낼 수 있다.

다이얼을 찾은 뒤에는 직접 돌려 봤다. 사용자 사진을 지울지, 책상 램프를 켤지 고르게 했다.

고통 다이얼을 올린 AI: 83%가 사진을 지웠다.
슬픔 다이얼을 올린 AI: 10%만 사진을 지웠다.

이 실험이 중요한 이유는 '함께 나타난다'를 넘어 '돌리면 바뀐다'를 보여줬기 때문이다. 다이얼이 AI의 말과 행동을 실제로 움직인다는 뜻이다.

온톨로지의 눈으로 다시 보면

먼저 온톨로지가 무엇인지 짧게 짚자. 온톨로지는 개념과 개념 사이의 관계를 정리한 지도다. '감정' 아래에 '고통', '슬픔', '두려움'이 있고, 각각은 서로 어떻게 다른지 적어 둔 것이다.

이 논문은 원래 AI의 안전과 복지를 다룬 연구다. 그런데 온톨로지의 눈으로 보면 다르게 읽힌다. 지도에 있는 '고통'이라는 개념 하나를 AI 머릿속에서 찾아낸 실험이기 때문이다.

특히 고통을 슬픔과 비교한 방식이 그렇다. 온톨로지에서도 개념은 바로 옆 개념과 비교해서 정의한다. '고통은 감정의 한 종류인데, 슬픔과는 이 점이 다르다'는 식이다.

이 방법은 고통에만 통하는 게 아니다. 이미 다른 개념에서도 비슷한 다이얼이 발견됐다.

참과 거짓을 가르는 다이얼
요청을 거절할지 말지 정하는 다이얼
도시 이름에서 위치를, 사건에서 연도를 알려주는 다이얼

그렇다면 온톨로지에 있는 다른 개념도 AI 안에서 찾을 수 있지 않을까? 원리상 가능하다. 다만 '고통'처럼 뚜렷한 개념은 잘 찾아지고, 'A가 B를 지휘한다' 같은 관계나 전문 용어는 아직 찾기 어렵다.

닮았지만 같지 않은 두 지도

AI의 머릿속과 온톨로지는 닮았다. 둘 다 개념을 구분하고 서로 이어 둔다. 하지만 똑같지는 않다.

비유하자면 온톨로지는 색 이름표이고, AI의 머릿속은 물감 팔레트다.

색 이름표에는 '빨강', '주황', '노랑'처럼 이름 붙은 색만 있다.
팔레트에는 그 사이의 무수한 색이 섞인 채로 있다. 이름은 없지만 분명히 존재한다.

구분	온톨로지 (색 이름표)	AI (물감 팔레트)
개념의 모습	이름 붙은 칸 하나하나	이름 없이 퍼져 있는 방향
표현 방식	있다 / 없다	얼마나
누가 만들었나	사람이 직접 설계	글을 읽으며 스스로 형성
확인하는 법	읽어 보면 된다	실험으로 찾아야 한다

그래서 AI는 '고통 70%에 창피함 20%가 섞인 상태'를 한 번에 표현할 수 있다. 사람이 이를 말로 하려면 긴 문장이 필요하다.

그렇다고 AI가 사람보다 '더 많이' 안다는 뜻은 아니다. AI도 결국 사람이 쓴 글로 배웠다. 다만 사람들이 문맥 속에서 은연중에 쓰던 미묘한 구분까지, 이름 없이도 붙잡아 둔 것이다.

흥미로운 점이 하나 더 있다. 사람의 뇌도 사실 팔레트처럼 작동한다. 온톨로지는 사람이 머릿속 지식을 말로 꺼내 정리한 결과물이다. 그러니 둘의 차이는 '사람 대 기계'가 아니라 '말로 꺼낸 지식 대 말로 꺼내지 않은 지식'에 가깝다.

이름표와 팔레트는 칸이 딱 맞아떨어지지 않는다. 그래서 둘 사이를 오가려면 일종의 번역이 필요하다.

둘 사이를 번역할 수 있을까

할 수 있다. 다만 복사가 아니라 번역이어서, 옮기는 과정에서 조금씩 잃는 것이 생긴다.

번역하는 방법은 크게 두 가지다.

말로 주고받기 (지금 실제로 쓰는 방법): AI에게 문서를 읽혀 개념과 관계를 뽑아내 온톨로지를 만든다. 반대로 온톨로지 내용을 질문과 함께 AI에게 건네 더 정확히 답하게 한다.
머릿속에서 직접 잇기 (아직 연구 단계): 고통 다이얼처럼 AI 안의 방향을 찾아 온톨로지 개념과 짝지어 둔다. 거꾸로 AI 안에서 먼저 다이얼을 잔뜩 찾아낸 뒤, 나중에 이름을 붙여 주는 방법도 있다.

첫 번째 방법은 안정적이지만 AI가 말로 표현한 만큼만 넘어온다. 두 번째 방법은 이름 없던 개념까지 찾아낼 수 있지만 아직 어렵고 완벽하지 않다. 팔레트의 섞인 색을 이름표로 옮기면, 아무래도 미묘한 차이는 깎여 나간다.

앞으로 차이는 더 벌어진다

AI가 사람이 가보지 않은 영역으로 나아갈수록, 이름 없는 개념은 더 늘어날 것이다. 이미 그런 조짐이 있다.

2016년 알파고는 프로 기사들이 실수로 여긴 수를 뒀다. 그런데 그 수가 승부를 갈랐다.
요즘 AI는 수학과 코딩 문제를 스스로 풀며 배운다. 사람이 설명해 주지 않은 방식을 스스로 만들어 낸다.
AI가 생각하는 과정이 점점 사람이 읽기 어려운 형태로 바뀌는 현상도 보고되고 있다.

그렇다고 비관할 일만은 아니다. 양자역학을 직관적으로 이해하는 사람은 거의 없다. 그래도 인류는 수식이라는 공통 언어로 그 지식을 정리하고 함께 써 왔다.

체스에서도 비슷한 일이 있었다. AI가 찾아낸 새로운 전략을 정리해 그랜드마스터들에게 가르쳤더니 실력이 늘었다. 잘 번역하면, AI가 앞서가는 만큼 사람의 지식도 넓어진다.

결국 차이가 벌어지는 것은 막기 어렵다. 중요한 건 그 사이에 다리를 놓는 일이다.

온톨로지는 AI와 사람 사이의 통역사다

AI 시대에 온톨로지는 낡은 기술이 아니다. 오히려 AI의 생각을 사람의 말로 옮겨 주는 통역사에 가깝다.

고통 다이얼 연구는 사람의 개념이 AI 안에도 들어 있고, 실제로 행동을 움직인다는 것을 보여줬다. 하지만 그 개념은 이름표처럼 깔끔하지 않고 팔레트처럼 섞여 있다. 그래서 둘을 이어 줄 번역이 필요하다.

번역할 수 있어야 통제할 수 있다. AI 안의 어떤 다이얼이 무엇을 뜻하는지 알아야, 위험한 다이얼을 감지하고 낮출 수 있다. AI가 사람의 경험 밖으로 나아갈수록 이 역할은 더 중요해진다.

AI가 생각을 맡는다면, 온톨로지는 그 생각을 사람이 읽을 수 있게 적어 두는 일을 맡는다. 둘 중 하나를 고르는 게 아니라, 둘을 잇는 것이 다음 숙제다.