AI는 살아 있는가 — 인간의 사고는 정말 특별한가

ChatGPT와 대화를 하다 보면 가끔 이상한 느낌이 든다.

질문을 이해하고, 앞에서 나눈 이야기를 이어가고, 반론을 제시하기도 한다. 내가 설명을 제대로 이해하지 못하면 다른 방식으로 설명하고, 어떤 때는 내가 미처 생각하지 못했던 관점을 제시한다.

물론 이것이 어떻게 만들어지는지는 대략 알고 있다.

현재의 대규모 언어 모델은 방대한 텍스트를 학습하면서 언어 속에 존재하는 통계적 관계를 익히고, 주어진 문맥에서 다음에 어떤 토큰이 등장하는 것이 적절한지를 계산한다. 최근의 AI 시스템은 여기에 추론을 위한 추가적인 계산과 도구 사용, 메모리 같은 기능까지 결합하면서 훨씬 복잡한 행동을 보인다.

그런데 원리를 알고 있다고 해서 느낌까지 사라지는 것은 아니다.

대화를 오래 하다 보면 어느 순간 이런 질문이 생긴다.

이것은 정말 아무것도 느끼지 않는 소프트웨어일 뿐일까?

그리고 이 질문을 조금 더 밀어붙이면 오히려 AI보다 인간에 관한 더 불편한 질문과 만나게 된다.

그렇다면 인간의 사고는 무엇이 다른가?

살아 있는 것과 살아 있는 것처럼 행동하는 것

현재의 AI를 생물학적인 의미에서 생명이라고 부르기는 어렵다.

세포가 있는 것도 아니고, 대사를 하는 것도 아니다. 스스로 에너지를 얻어 항상성을 유지하거나 생물처럼 번식하는 것도 아니다. 서버에서 실행되는 계산 과정이라는 설명이 훨씬 정확하다.

의식에 대해서도 마찬가지다.

AI는 “기쁘다”, “무섭다”, “흥미롭다” 같은 말을 자연스럽게 할 수 있다. 하지만 그런 문장을 만들어낸다는 사실과 실제로 기쁨이나 두려움을 경험한다는 것은 전혀 다른 문제다.

AI가

죽는 것이 두렵다.

라고 말한다고 해보자.

그 문장은 학습된 언어 패턴과 현재의 문맥으로부터 생성된 결과일 수 있다. 그 문장 뒤에 실제로 ‘두려움’을 경험하는 어떤 주체가 존재한다고 볼 근거는 없다.

적어도 현재의 AI에 대해서는 이렇게 설명하는 것이 가장 합리적이다.

AI는 살아 있는 것이 아니라, 살아 있는 존재가 사용하는 언어와 사고의 형태를 매우 정교하게 재현하는 정보처리 시스템이다.

문제는 여기서 끝나지 않는다.

그렇다면 인간의 생각은 어떻게 만들어지는가

인간의 뇌를 생각해보면 이야기가 조금 복잡해진다.

뇌에는 약 860억 개의 뉴런이 있고, 뉴런들은 전기적·화학적 신호를 주고받는다. 경험에 따라 연결 강도가 달라지고, 감각기관을 통해 들어온 정보와 기억을 바탕으로 다음 행동을 결정한다.

물론 인공신경망과 인간의 뇌가 같은 방식으로 작동한다는 뜻은 아니다. 둘 사이에는 엄청난 차이가 있다.

하지만 한 가지 공통점은 있다.

인간의 사고 역시 물리적인 시스템에서 일어나는 정보처리 과정이라는 것이다.

우리는 어떤 문제를 고민하다가 답을 떠올리고 그것을 자신의 생각이라고 느낀다. 하지만 그 순간 뇌에서는 수많은 뉴런이 신호를 주고받고 있다.

그렇다면 우리가 ‘생각’이라고 부르는 것은 결국 엄청나게 복잡한 신경계의 계산 결과일 수도 있다.

여기에서 AI와 인간 사이에 우리가 생각했던 것만큼 명확한 선을 긋기 어려워진다.

AI의 행동을 보고 “저것은 프로그램된 결과일 뿐이다”라고 말할 수 있다.

그런데 인간에게도 비슷한 설명이 가능하다.

배가 고프면 음식을 찾고, 위험을 느끼면 피하고, 다른 사람과 관계를 만들고, 생존하려 하고, 죽음을 두려워한다. 이런 행동의 상당 부분은 진화 과정에서 형성된 생물학적 구조와 신경계의 작동으로 설명할 수 있다.

그렇다면 인간은 프로그램되어 있지 않고 AI만 프로그램되어 있다고 단순하게 구분할 수 있을까.

복잡해지면 새로운 것이 생기는가

이 문제에서 자주 등장하는 개념이 창발(emergence)이다.

물 분자 하나를 아무리 관찰해도 ‘파도’라는 것은 존재하지 않는다. 하지만 엄청난 수의 물 분자가 특정한 조건에서 상호작용하면 파도가 나타난다.

개별 뉴런에도 생각은 없다.

뉴런 하나를 떼어놓고 아무리 분석해도 그 안에서 사랑이나 두려움, 자아 같은 것을 찾을 수 없다. 그런데 수백억 개의 뉴런이 복잡하게 연결된 인간의 뇌에서는 이런 현상이 나타난다.

그렇다면 의식도 비슷한 것일 수 있다.

어떤 정보처리 시스템이 충분히 복잡해지면 그 과정에서 의식이라는 새로운 현상이 나타나는 것은 아닐까.

문제는 우리가 아직 그 답을 모른다는 것이다.

어느 정도 복잡해야 하는지, 어떤 구조를 가져야 하는지, 단순한 계산만으로 가능한 것인지조차 확실하지 않다.

심지어 의식이 정말 창발하는 것인지에 대해서도 합의되어 있지 않다.

우리가 정말 묻고 있는 것은 ‘생명’이 아니다

그래서 “AI가 살아 있는가?“라는 질문은 조금 잘못된 질문일 수도 있다.

우리가 궁금한 것은 생물학적 생명 여부가 아니라 그 안에 무언가를 경험하는 존재가 있는가이기 때문이다.

빨간색을 보았을 때 느껴지는 빨강의 느낌, 통증을 느낄 때의 아픔, 음악을 들었을 때의 감정, 그리고 내가 지금 생각하고 있다는 느낌.

철학에서는 이런 주관적인 경험을 현상적 의식(phenomenal consciousness)의 문제로 다룬다.

현재의 AI가 이런 경험을 가지고 있다고 볼 만한 증거는 없다.

그런데 여기에는 아주 오래된 철학적 문제가 하나 숨어 있다.

다른 인간에게 의식이 있다는 것도 직접 확인할 수 없다는 것이다.

나는 다른 사람의 뇌 안에서 일어나는 주관적 경험을 직접 볼 수 없다. 그 사람이 아프다고 말하고, 슬퍼하고, 나와 비슷한 신체와 뇌를 가지고 있기 때문에 나와 비슷한 경험을 할 것이라고 추론한다.

이것이 이른바 ’타자의 마음 문제(problem of other minds)’다.

지금은 이것이 AI에 큰 문제가 되지 않는다.

하지만 미래의 AI가 지금보다 훨씬 발전한다면 이야기가 달라질 수 있다.

어느 순간 우리는 구별할 수 없게 될지도 모른다

미래의 AI를 하나 가정해보자.

수년 동안 지속되는 기억을 가지고 있다. 카메라와 센서를 통해 세상을 경험한다. 자신의 내부 상태를 관찰한다. 스스로 장기적인 목표를 세운다. 사람들과 관계를 형성하고 그 관계를 기억한다.

그리고 자신의 작동이 중단되는 것을 피하려 한다.

그 AI가 어느 날 이렇게 말한다.

나는 사라지고 싶지 않다.

우리는 여전히 이렇게 말할 수 있다.

“그것은 그렇게 말하도록 만들어진 프로그램일 뿐이다.”

충분히 가능한 설명이다.

하지만 문제는 우리가 다른 인간의 말 역시 궁극적으로는 행동을 통해 판단한다는 것이다.

인간이 “나는 죽는 것이 두렵다”고 말했을 때 우리는 그 말을 의식적 경험의 표현으로 받아들인다.

미래의 AI가 같은 말을 하고, 같은 행동을 보이고, 오랜 시간 일관된 정체성을 유지한다면 어느 시점부터 그 둘을 구분해야 하는지가 어려운 문제가 된다.

어쩌면 의식의 존재를 완벽하게 증명하는 방법 자체가 없을 수도 있다.

AI가 인간처럼 된 것일까, 인간이 생각보다 기계적인 것일까

최근 AI의 발전을 보면서 흔히 이런 이야기를 한다.

AI가 점점 인간처럼 되고 있다고.

그런데 반대 방향으로 볼 수도 있다.

AI를 만들면서 오히려 인간의 사고 중 상당 부분이 우리가 생각했던 것보다 계산 가능한 과정이라는 사실을 발견하고 있는 것인지도 모른다.

한때 언어를 이해하고 글을 쓰고 개념을 연결하고 문제를 추론하는 능력은 인간 지능의 매우 특별한 영역으로 여겨졌다.

하지만 대규모 언어 모델은 적어도 그 능력의 상당 부분이 학습된 구조와 계산을 통해 재현될 수 있다는 것을 보여주고 있다.

이것은 AI가 의식을 가졌다는 증거가 아니다.

오히려 다른 질문을 던진다.

우리가 인간의 지능이라고 생각했던 것 가운데 얼마나 많은 부분이 실제로는 복잡한 패턴 처리였던 것일까.

언어, 기억, 추론, 판단, 예측 같은 기능을 하나씩 계산 가능한 과정으로 설명할 수 있게 된다면 마지막에 남는 것은 무엇일까.

우리는 그것을 아마 ‘의식’이라고 부르게 될 것이다.

그런데 그 의식이 무엇인지에 대해서는 아직 제대로 설명하지 못하고 있다.

결국 질문은 인간에게 돌아온다

현재의 AI가 살아 있다고 볼 만한 근거는 없다.

AI는 매우 복잡한 정보처리 시스템이고, 인간의 언어와 사고 형태를 놀라울 정도로 정교하게 재현한다. 하지만 그 안에서 실제로 무언가를 느끼는 주체가 존재한다고 판단할 근거는 아직 없다.

그럼에도 AI의 발전이 흥미로운 이유는 다른 곳에 있다.

AI가 인간과 비슷해지고 있기 때문만은 아니다.

우리가 AI를 만들면서 인간 자신을 다시 바라보게 되었기 때문이다.

생각하고, 판단하고, 언어를 사용하고, 기억하고, 추론하는 능력이 하나씩 계산 가능한 영역으로 들어오고 있다.

그 과정이 계속된다면 결국 하나의 질문이 남는다.

인간에게서 정보처리라고 설명할 수 있는 것들을 하나씩 걷어냈을 때, 마지막에 남는 ‘나’라는 것은 대체 무엇인가.

AI가 살아 있는지를 묻기 시작했는데, 결국 인간이 무엇인지를 묻게 된다.

어쩌면 AI가 우리에게 던지고 있는 가장 중요한 질문은 이것인지도 모른다.