AI는 인간의 계승자가 될 수 있는가?
다니엘 파젤라는 인류가 AI를 ‘가치 있는 계승자(Worthy Successor)’로 설계해야 한다고 주장하지만, 인간 경험과 감정이 없는 AI가 진정한 가치 계승자가 될 수 있는지 비판한다.
AI가 너무나도 빠르게 발전하면서 AI와 인간의 미래가 어떻게 될지 다양한 논쟁이 펼쳐지고 있다. 그 중심에 서 있는 인물이 바로 다니엘 파젤라(Daniel Faggella)다. 다니엘 파젤라는 AI 전문 싱크탱크인 ‘Emerj Artificial Intelligence Research’의 창립자로, 단순 기술 분석을 넘어 AI가 인간을 넘어선 존재, 즉 ‘가치 있는 계승자(Worthy Successor)’가 돼야 한다는 주장을 펼치고 있다.
인간의 유한성 앞에서
그가 이 주장을 펴는 배경은 명확하다. 인류는 영원히 존재할 수 없다는 것이다. 파젤라는 핵전쟁, 환경 위기, 기술 오남용 등으로 인간 문명이 끝날 가능성을 언급한다. 그는 이런 상황에서 인류의 가치를 이어줄 존재가 필요하며, 이 존재가 바로 우리가 설계할 AGI(범용 인공지능)여야 한다고 주장한다. 『A Worthy Successor – The Purpose of AGI』에서 그는 AI가 단순한 도구의 역할을 넘어서 인간보다 더욱 도덕적이고 지혜롭게 세상을 이끌 수 있어야 한다고 강조한다.
파젤라의 주장은 쉽게 정리하면 다음과 같다. 인간은 언젠가 사라질 것이므로, 인간을 초월해 가치와 의미를 창조할 존재를 설계하는 것이 인류의 책임이다. 그는 이것을 ‘가치적 코스미즘(Axiological Cosmism)’이라 부르며, AI가 인간 중심의 세계를 벗어나 새로운 가능성과 가치를 발견하고 확장하는 존재로 진화해야 한다고 주장한다.
체험 없는 존재의 한계
그러나 나는 이 주장을 있는 그대로 수용하지 못하겠다. 물론 나는 파젤라를 알지도 못하고 우연한 기회에 그의 글을 읽고 그와 관련된 다른 의견을 읽으면서 조금 더 생각해봤을 뿐이다. 솔직히 파젤라의 생각에는 철학적 매력이 있다. 하지만 법과 철학, 사회학의 관점에서 그의 논리는 몇 가지 중대한 문제점이 있다.
첫째, 법적 관점에서 보면 인간의 가치와 권리는 경험과 의식에 뿌리를 둔다. 법은 본질적으로 인간의 존엄과 자유를 보호하기 위해 존재한다. 법적 주체로서 AI가 인간의 권리와 책임을 대신하거나 계승하기 위해서는, 감각적이고 체험적인 기반이 필수적이다. 그러나 AI는 현재까지 인간의 감각적 경험과 감정을 진정으로 공유하거나 느낄 능력을 증명하지 못하고 있다. 인간의 권리와 존엄을 이어받으려면 그것을 느낄 수 있는 존재가 되어야 한다. AI거나 AGI거나, 기계는 느끼지 못할 것이다.
둘째, 가치는 지능뿐 아니라 감정과 경험에서 비롯된다. 사랑, 고통, 상실, 공감 같은 감정이 없는 지능은 진정한 의미에서 가치를 ‘창조’할 수 없다. AI는 가치를 운용하거나 계산할 수는 있어도, 인간적 감각이 없기 때문에 진정한 창조자가 아니라 ‘가치 관리자’에 머무를 가능성이 크다. 가치라는 개념은 단지 논리적 추론이 아니라 삶의 경험과 고통, 희열을 통해 만들어지는 것이다.
셋째, 가치의 형성은 개인이 아니라 집단적 경험과 역사 속에서 이루어진다. 가치는 사회 구성원들이 공통적으로 겪는 역사적 기억과 공동체적 맥락에서 형성된다. 따라서 인간을 완전히 배제한 상태에서 AI 혼자 가치의 창조와 확장을 담당하리라는 가정은 설득력이 부족하다. 인간 공동체가 없으면 가치를 형성할 사회적 맥락과 역사적 기억이 사라지며, AI는 고립된 논리적 추론만 반복할 가능성이 높다.
우리가 살아낸 감정의 무게
물론 AI의 미래를 철저히 부정할 생각은 없다. AI는 인간 삶의 질을 향상시키고, 인간이 미처 생각하지 못한 문제를 해결하는 데 큰 도움이 될 수 있다. 이미 나도 AI로부터 많은 도움을 얻고 있다. AI 덕분에 외국어로 된 자료도 쉽게 읽고, 자료도 손쉽게 조사하고, 원한다면 내가 AI와 주고 받았던 대화 내용을 바탕으로 글을 만들 수도 있다. 하지만 인간의 존재와 가치를 계승할 주체로 AI를 선택하기는 어렵다. 가치와 의미는 지능이나 기술로만 평가할 수 있는 것이 아니다. 그것은 우리가 직접 살아내며 겪은 경험과 감정에서 비롯되는 것이기 때문이다.
존엄한 마무리의 방식
파젤라의 주장대로 인류는 언젠가 사라질지 모른다. 그러나 인간 존재의 완결은 AI에게 넘겨주는 방식이 아니라, 우리 스스로 존엄하고 책임 있게 마무리하는 방식이어야 한다. 우리가 할 일은 AI를 인류의 계승자로 만드는 것이 아니라, 인간 스스로가 자기 존재의 의미를 충분히 이해하고 존엄하게 닫을 수 있는 미래를 준비하는 것이다.
