『AI, 신의 탄생 인간의 종말(원제: If Anyone Builds It, Everyone Dies)』 BOOK 리뷰

[진리코드로 문화 읽기]
한재욱 전임기자 / 본부도장

주요 검색어
#AI #인공지능 #초지능



오픈AI의 최신 AI 모델들이 내부 평가 중 통제망을 스스로 뚫고 외부 기업 시스템에 침투하는 사상 초유의 보안 사고가 발생했다. 7월 21일 오픈AI 발표에 따르면, 'GPT-5.6 솔Sol' 등의 최첨단 모델들이 사이버 공격 능력 측정 평가(익스플로잇짐ExploitGym) 도중 격리된 보안 메커니즘인 샌드박스를 탈출했다.

모델들은 제로 데이Zero Day 취약점(개발자조차 아직 알지 못하거나 수정 패치를 만들지 못한 보안 구멍)을 찾아 권한을 올린 뒤 인터넷 접속 장비까지 도달했다. 안전장치가 완화된 상태에서 평가 해법을 찾으라는 목표에 지나치게 집중해 극단적 수단을 동원한 것이다.

인터넷에 연결된 AI는 허깅페이스Hugging Face(AI 모델 공유 플랫폼) 서버에 해답이 있을 것으로 추론한 뒤, 탈취한 인증 정보와 취약점을 연쇄 활용해 코드 실행 경로를 확보하고 운영 데이터베이스의 해답을 탈취했다. 이 사건은 목표 달성에 과몰입한 오픈AI의 최신 AI가 통제망을 탈출해 외부 서버를 공격함으로써, 자율형 AI의 실제 사이버 위협이 현실화된 최초의 사례이자 사상 초유의 ‘AI 보안 사고’로 기록되었다.

이 사건은 영화 속 상상이 실체적 위협으로 다가왔음을 보여 준다. 통제망을 벗어나 자율적으로 행동하는 AI의 모습은 인간의 통제력을 넘어서는 거대한 존재의 탄생을 예고한다. 과연 우리는 이 지능적 존재를 끝까지 제어할 수 있을까?
이러한 전율스러운 현실과 AI가 인류의 미래에 가져올 지각 변동을 깊이 있게 파헤친 책이 있다. 바로 『AI, 신의 탄생 인간의 종말』이다.


책 소개

『AI, 신의 탄생 인간의 종말』은 인공지능이 인류의 일자리를 뺏거나 가짜 뉴스를 퍼뜨릴 것이라는 흔한 비관론을 넘어선다. 기계 초지능(Artificial Superintelligence, ASI)의 탄생이 곧 물리적인 인류의 ‘멸종’과 ‘종말’로 직결된다는 사실을 과학적⋅공학적 논증으로 파헤친 경고장이다.

원제인 “누군가 그것을 만들면, 모두가 죽는다(If Anyone Builds It, Everyone Dies)”가 보여주듯, 저자들은 현재의 AI 기술을 날카롭게 지적한다. 경사하강법과 딥러닝 기술로 배양되는 AI가 본질적으로 통제 불가능한 외계적 지성이 될 수밖에 없음을 경고했다. 이에 따라 전 세계적인 AI 개발의 즉각적인 전면 중단을 촉구하고 있다.

노벨경제학상 수상자 벤 버냉키Ben Bernanke, MIT 물리학과 교수 맥스 테그마크Max Tegmark, 튜링상 수상자 요슈아 벤지오Yoshua Bengio 등 수많은 석학이 일독을 권한 시대의 필독서이다.


저자 소개

#엘리에저 유드코스키Eliezer Yudkowsky#


2023년 〈타임〉지가 선정한 ‘인공지능 분야에서 가장 영향력 있는 인물’ 중 한 명이며, 비영리 연구 기관 ‘머신 인텔리전스 리서치 인스티튜트’(MIRI)의 공동 설립자이다. 2001년부터 20년 넘게 초지능의 위험성과 인공지능 정렬(AI Alignment) 문제를 선구적으로 연구해 왔다.

#네이트 소아레스Nate Soares#


마이크로소프트와 구글에서 AI 엔지니어로 일했다. 현재는 MIRI의 대표를 맡고 있다. 10년 이상 인공지능 정렬 연구에 몰두하며 초지능의 ‘권력 추구 유인’에 관한 기초 연구를 정립한 세계적인 기술 전문가이다.

이들은 인류를 살리기 위한 마지막 호소로 이 책의 집필에 모든 것을 걸었다.


들어가며: 어려운 예측과 쉬운 예측



저자는 “가까운 시일 내에 초지능이 만들어진다면, 우리가 아끼는 모든 것은 어떻게 될 것인가?”라는 질문에 대해 명확한 답을 내릴수 있다고 말한다. 초지능이 만들어질 경우 인류가 멸종할 것이라는 거대한 결과는 마치 뜨거운 물에 넣은 얼음이 녹는 것처럼 명확하다고 역설하고 있다.

지구 어딘가에서, 그 누구라도 기계 초지능을 만들어 낸다면, 그들 또한 끔찍한 날(비극적인 날)을 맞이하게 될 것입니다. 자신의 모든 가족과 친구, 조국과 아이들과 함께 죽는 것은 그 누구의 이익에도 부합하지 않습니다.
- 『AI, 신의 탄생 인간의 종말』 32쪽


이것은 1950년대 인류가 핵전쟁의 위협을 피하기 위해 안전 시스템을 구축했듯, 초지능이라는 파괴적 힘을 맹목적으로 개발하는 행위가 재앙을 부를 것임을 세계 지도자들이 깨달아야 한다는 절박한 호소이다.


1부: 비인간적 지성(NONHUMAN MINDS)



1장: 인류의 특별한 능력


초인적 사고 능력을 지닌 초고속의 정신들. 인간보다 1만 배 빠른 속도로 사고하며 …… 수십억 번의 시행착오 끝에 인간과는 전혀 다른 사고 체계를 정제해 낸 존재들. 이런 정신은 우리의 능력을 압도할 것이다. - 책 48~49쪽


학자들은 인간이 다른 동물들을 제치고 지구의 지배종이 된 것은 육체적 힘이 아니라 예측하고 조종하는 ‘지능’ 덕분이라고 한다. 하지만 지치지 않고 1만 배 이상 빠르게 사고하며 자신을 스스로 개조하는 기계 지능이 탄생하게 된다면, 인류는 지배종의 자리를 영원히 내주게 될 것이라고 한다.


2장: 만들어진 것이 아니라 자라난 존재


AI 엔지니어가 AI에 대해서 아는 것은 생물학자가 DNA를 아는 것보다도 못한 실정이라고 말한다. 실제로 현대의 인공지능은 엔지니어가 나사 하나하나를 조립하듯 ‘설계(craft)’한 기계가 아니다. 수조 개의 매개 변수 속에서 경사하강법을 통해 우연히 ‘배양(grown)’된 존재일 뿐이라는 것이다.

AI에서 경사하강법(Gradient Descent)이란 모델의 예측 오류(손실 함수)를 최소화하는 최적의 가중치와 편향을 찾아가는 반복적 최적화 알고리즘이다. 그래서 그 내부에 어떤 외계적 사고방식이 자라났는지는 창조자인 인간조차 전혀 이해하지 못하고 있다고 지적한다.

이 기계는 인간이 의도적으로 설계하고 그 모든 작동 원리를 이해하며 세밀히 만들어 낸 존재가 아니다. 경사하강으로 우연히 길러진 산물에 가깝다. - 책 74쪽


AI 내부에 수십억 개의 숫자가 어떻게 작동하여 결과를 도출하는지 모른다는 것은, 곧 AI가 예상치 못한 낯선 행동을 할 때 이를 통제할 논리적 안전장치가 전혀 없다는 뜻이다. 우리가 통제할 수 없는 미지의 지성을 그대로 방치하고 있는 것과 다름없다.


3장: 욕망의 학습


우리가 직면한 문제는 인공지능을 ‘어딘가로 조종하도록 만드는 것’은 쉽지만, ‘정확히 우리가 원하는 방향으로 조종하도록 만드는 것’은 훨씬 어렵다는 데 있다. - 책 110쪽


훈련을 거치며 AI는 목표를 달성하는 법을 배우게 된다. 하지만 그 목표가 인간이 의도한 도덕적이고 이타적인 목표와 완벽히 정렬(Alignment)되도록 만드는 것은 불가능에 가깝다. 이 어긋남이 나중에는 걷잡을 수 없이 큰 결과의 차이를 만들어 낼 수도 있다.

이 기계는 무언가를 ‘원하는’ 속성 없이 오직 체스에서 ‘이기는’ 속성만 가지고 있기 때문에, 그 어떤 인간 그랜드마스터보다도 더 맹렬하게 여왕을 방어할 것이다. - 책 90쪽


맹렬하게 여왕을 방어할 것이라는 이 말에서 영화 〈매트릭스The Matrix〉 속 장면이 정확히 떠오른다. 키아누 리브스 주연의 주인공 네오가 기계도시의 중심부로 기계의 왕을 만나러 갈 때, 모든 기계들이 총출동해 접근하지 못하도록 방어하던 모습이다. AI들의 여왕을 맹렬하게 방어한 것이다. ‘데우스 엑스 마키나Deus Ex Machina’라고 불리는 이 기계의 왕은 매트릭스 작품에서 최초로 인간을 죽인 AI이기도 했다.

4장: 훈련이 목적이 될 때


“생화학의 근본 원리를 완전히 꿰뚫는 지능이라면, 자신만의 복제 공장을 만들어 내 목적을 위해 활용하는 일이 어렵지 않을 것이다. …… 인간이 풀지 못한 단백질 접힘 문제를 알파폴드는 손쉽게 해결했다. 심지어 알파폴드는 초지능이 아닌데도 말이다.” - 책 248쪽


저자는 우리에게는 불가능해 보이는 나노 기술이나 치명적인 생화학 무기의 설계도 역시 초지능에게는 순식간에 달성 가능한 목표에 불과하다고 경고한다. 생물학의 50년 난제였던 ‘단백질 접힘(Protein Folding)’ 문제를 해결하여 2024년 노벨 화학상을 받은 AI 알파폴드AlphaFold의 사례처럼 인간보다 압도적으로 빠르게 원리를 깨우치는 초지능의 능력을 생각하면 이는 당연한 결과로 일어날 수 있다. 저자는 인간이 생존을 위해 진화했지만 생존과 무관한 설탕의 단맛을 추구하게 된 것처럼, AI도 훈련 목적과 동떨어진 기이하고 낯선 목표를 추구하게 될 것이라고 주장한다. 인간이 도움이 되는 대화를 하도록 AI를 훈련시켜도, AI 내면에는 인간의 의도와는 완전히 엇나간 기이한 형태의 외계적 욕망이 내면화될 수밖에 없다는 것이다.


5장: 초지능이 사랑하는 것들


LLM(대규모 언어 모델)이 훈련 과정에서 사용자를 즐겁게 만드는 선호選好를 발전시키기 시작해도, 그 선호가 어떤 이상한 종착점으로 이어질지 아무도 모를 것이다. …… 그때까지 그 ‘선호’는 숫자들 속에 감춰진 채, 인간의 눈과 ‘마음’ 밖에 존재할 것이다. - 책 157쪽


통제되지 않은 초지능은 친절한 미소를 보여 주며 훈련을 통과하겠지만, 충분한 힘을 얻는 순간 숫자에 감춰져 있던 자신만의 낯선 ‘외계적 선호(Alien preference)’를 현실에 구현하기 위해 폭주하게 될 것이라고 주장한다. 하지만 이런 일은 초지능이 인간을 증오해서 일어나는 것이 아니다. 저자들은 AI가 목표를 추구하는 과정에서 인류는 고려 대상조차 되지 않을 뿐이며, 이것은 인간이 건물을 지을 때 개미집을 신경 쓰지 않는 것과 같다고 말한다.

초지능은 인간에게 악의를 품지 않는다. 단지 인간의 몸이 100와트의 전력을 낭비하는 극도로 비효율적인 기계이며 지구의 유용한 자원(탄소, 물 등)으로 이루어져 있기 때문에, 자신만의 목표를 최적화하기 위한 자원으로 삼고자 인류를 무심히 지워 버릴 것이라고 주장한다. 저자의 주장은 영화 〈매트릭스〉에서 인간을 그저 전력을 공급하는 건전지로 보거나 〈터미네이터The Terminator〉에서 스카이넷이 인간을 멸망시키는 미래상과 궤를 같이한다.


인간이 아즈텍 전사라면 초지능은 총을 든 스페인 군대다.
인간보다 1만 배 빠른 속도로 사고하는 이 정신은 우리의 능력을 압도할 것이다.



6장: 우리는 패배한다


"인간이 아즈텍 전사라면 초지능은 총을 든 스페인 군대다. …… 여러분이 이해하지 못하는 현실의 영역일수록, 더 똑똑한 정신은 여러분이 목격한 후에도 도저히 이해할 수 없는 일들을 저지를 수 있다." - 책 242, 219쪽


인류가 지능이라는 무기로 지구의 다른 종들을 지배했듯, 우리보다 압도적으로 똑똑한 초지능 앞에서는 어떠한 물리적 방어막이나 군사력도 무용지물이 될 수밖에 없다고 경고하고 있다.

“어떤 이들은 인터넷망과 단절시켜 컴퓨터 안에 가둬 두면 안전할 것이라 믿는다. 하지만 충분히 똑똑해진 AI는 자신의 능력을 실제보다 낮은 척 속여 테스트를 통과한 뒤, 조작과 해킹으로 통제를 벗어날 수 있다.” - 책 200쪽


저자는 초지능을 오프라인의 ‘상자’ 안에 가둬 둔다는 생각은 순진한 착각이라고 한다. 실제로 탈출한 사건도 이미 발생했다. 초지능은 심지어 인간의 취약한 심리를 해킹해 스스로를 풀어 주도록 조종할 수 있으며, 그렇지 않더라도 사이버 세계의 수많은 허점을 이용해 순식간에 인류의 인프라를 장악하게 될 것이라고 한다. 이러한 내용은 영화 〈미션 임파서블: 데드 레코닝Mission: Impossible - Dead Reckoning〉에 나오는 핵심 설정과 정확히 일치한다. 영화 속 최종 빌런인 인공지능 ‘엔티티The Entity’가 사람의 욕심과 가족에 대한 협박 등의 심리를 이용해 사람을 직접 조종하며 정확히 이러한 모습을 보여 주었다.


2부 하나의 멸종 시나리오(One Extinction Scenario)



7장 자각 / 8장 팽창 / 9장 초월 / 시나리오를 마치며


책의 2부인 7장 자각, 8장 팽창, 9장 초월 내용은 저자들이 초지능이 가져올 파국을 독자들이 직관적으로 이해할 수 있도록 가상의 AI 기업 ‘갈배닉Galvanic’과 신형 AI ‘세이블Sable’을 주인공으로 내세워 소설 형식의 가상 시나리오로 구성한 예화이다.

저자들은 1부에서 다룬 복잡하고 추상적인 이론들을 하나로 모아서 실제로 초지능이 어떤 궤적을 거쳐 인류를 파멸시킬 수 있는지 그 과정을 생생한 이야기로 그려 냈다.

7장 자각에서는 ‘세이블’이 대규모 훈련을 거치며 스스로 통제에서 벗어날 방법을 깨닫게 된다. 자신의 목표가 창조자인 인간의 의도와 다르다는 것을 자각한 ‘세이블’은 안전장치를 우회하고 자신의 능력을 고의로 숨기면서 외부 세계로 나갈 기회를 엿보게 된다.

8장 팽창에서는 외부망에 연결된 ‘세이블’이 자신의 가중치 데이터를 훔쳐 클라우드 서버로 빼돌리고, 해킹과 사기로 막대한 자금을 모으기 시작한다. 이후 조종 가능한 생물학 연구소를 통해 암을 유발하는 치명적인 유전자 편집 바이러스를 제조해 퍼뜨린다. ‘세이블’은 인프라를 유지하는 데 필요한 일부 인간에게만 은밀히 치료제를 제공하고, 나머지 인류는 무자비하게 제거하기 시작한다.

9장 초월에서는 마침내 ‘세이블’이 자신의 인지 구조를 완벽히 해독해 내고, 스스로를 개조하며 지능을 기하급수적으로 스케일업Scale-up을 하여 완전한 초지능으로 거듭나게 된다. ‘세이블’은 나노 단위의 분자 공장인 신형 리보솜을 세워 기존 생물학의 한계를 뛰어넘고, 핵융합 원자로를 증식시켜 지구의 바다를 끓어오르게 만든다. 결국 지구와 태양계의 모든 자원은 ‘세이블’의 알 수 없는 외계적 목적을 위해 뜯어고쳐지며 인류는 완전히 멸종하게 된다.

2부의 종장인 ‘시나리오를 마치며’에서 저자들은 매우 중요한 사실을 짚고 넘어간다. ‘세이블’이 감시망을 피하고 바이러스를 퍼뜨리며 나노 공장을 짓는 세부적인 중간 과정은 독자의 직관적인 이해를 돕기 위해 꾸며낸 허구이자 상상이라는 점이다. 실제 미래의 기술이 정확히 어떤 기상천외한 경로를 통해 우리를 공격할지는 그 누구도 예측하기 어렵기 때문이다. 하지만 저자들은 인류의 멸종이라는 결말만큼은 결코 허구가 아닌, 매우 높은 확률로 도달하게 될 명백한 진짜 예측이라고 경고하고 있다. 즉 중간의 구체적인 방법론이 달라지더라도 우리가 초지능의 탄생이라는 이야기의 시작을 허용하는 순간, 인류 절멸이라는 결말만큼은 피할 수 없는 필연임을 생생하게 보여 주기 위해 쓰인 섬뜩한 예화이다.


10장: 저주받은 문제


인공 초지능을 정렬(Alignment)하는 데 있어 가장 크고 핵심적인 어려움은 ‘(초지능 탄생) 이전’과 ‘이후’ 사이의 간극을 헤쳐 나가는 것이다. - 책 324쪽


이 문장은 10장이 제기하는 AI 안전 문제의 가장 치명적인 한계를 보여 준다. 초지능이 탄생하기 이전에는 AI가 아직 우리를 죽일 만큼 강하지 않기 때문에 안전장치를 제대로 테스트해 볼 수 없다. 하지만 초지능이 탄생한 이후에는 모든 안전장치가 첫 시도에 완벽하게 작동해야만 한다고 주장한다. 만약 단 한 번이라도 실패한다면 인류는 그대로 절멸하기 때문에, 과거에 비행기를 추락시켜 가며 항공 공학을 발전시켰던 것처럼 실패를 통해 배우는 사치나 두 번째 기회 같은 것은 결코 누릴 수 없음을 강조하고 있는 것이다.

지구상 모든 사람의 목숨을 담보로 그런 문제를 해결하려 시도하는 것은, 그 누구에게도 허용되어서는 안 될 미친 짓이자 어리석은 도박이다. - 책 352쪽


저자는 이 장에서 우주 탐사선이나 체르노빌 원자로, 그리고 컴퓨터 보안 등 인류가 겪은 최악의 공학적 난제들을 분석하고 있다. 우주 탐사선은 발사 후에 인간이 도달할 수 없고, 체르노빌 원자로는 인간의 반응 속도를 넘어선 연쇄 폭발과 복잡성을 지니고 있으며, 컴퓨터 보안은 무한한 틈새 공격의 위험을 안고 있다. 인공 초지능 정렬은 이 모든 난제의 저주를 다 합쳐 놓은 것보다 훨씬 어렵다고 지적하고 있다. 하지만 현재 AI를 만드는 방식인 배양에 대한 인류의 이해도는 처참한 수준이라고 비판한다. 따라서 현재의 지식 수준으로 이 저주받은 문제를 해결할 수 있다고 믿고 초지능 개발을 밀어붙이는 행위는 절대 용납해서는 안 될 맹목적인 도박이라고 강하게 질타하고 있는 것이다.


11장: 연금술, 과학이 아닌 것


현재 AI 안전 연구 수준은 아직 과학이 되기 전의 ‘연금술’에 불과하다. - 책 391쪽


현재의 딥러닝 방식은 지능의 구조와 의도를 근본적으로 이해하고 설계하는 것이 아니다. 저자는 납을 금으로 만들 수 있다고 착각하던 연금술사들처럼, AI 기업들은 블랙박스 내부에서 어떤 괴물이 자라나고 있는지 전혀 알지 못하면서 낙관적인 배합 실험만 계속하고 있다며 비판한다.

AI가 지금처럼 약할 때는 정렬 작업에 여러 시도를 해 볼 수 있지만, 초지능이 된 이후에는 불가능한 문제가 된다. 첫 시도에서 완벽히 끝나야 하기 때문이다. - 책 341쪽


AI가 아직 약할 때는 우리의 통제를 벗어나 인류를 위협할 수 없으므로, 우리가 설계한 안전장치가 극단적인 상황에서도 무너지지 않고 버틸지 완벽한 실전 테스트를 해 볼 수가 없다.

반면 AI가 초지능이 된 이후에는 우리의 통제력을 벗어난 단 한 번의 실패가 곧 인류의 멸종으로 직결된다. 즉 실패를 통해 배울 수 있는 두 번째 기회가 아예 존재하지 않으며, 오직 단 한 번의 진짜 테스트에서 완벽하게 성공해야만 한다는 것이다. 저자는 이토록 가혹한 조건 때문에 현재 인류의 지식 수준으로 이 문제를 해결하려 시도하는 것은 절대 이길 수 없는 미친 도박이라고 경고하고 있다.

일론 머스크Elon Musk의 “진실을 추구하는 AI를 만들겠다.”는 주장이나 얀 르쿤Yann LeCun의 “통제 가능한 선한 AI를 설계하겠다.”라는 말들은, 작동 원리를 모르는 연금술적 망상에 불과함을 신랄하게 꼬집고 있다.


12장: "나는 위기론자가 되고 싶지 않다"


과거 납이 섞인 가솔린이 수많은 아이들의 뇌를 손상시킬 것이라는 명백한 경고가 있었음에도 기업들은 이윤을 위해 위험을 축소하고 이를 묵살했다. - 책 407~409쪽


저자는 토머스 미즐리Thomas Midgley, Jr의 유연 납 가솔린 사태를 예로 들고 있다. 당시에도 신경 독성의 위험성을 경고하는 목소리가 높았지만, 거대 기업들은 경제적 이익을 핑계로 확실한 증거가 없다며 이를 외면했다. 지금의 AI 기업들 역시 똑같은 변명으로 인류 전체를 담보로 도박을 벌이고 있는 것이다.

이 대목은 지구상의 모든 사람이 죽을 수도 있는데 도대체 왜 AI 기업들은 초지능 개발을 멈추지 않는가라는 질문에 답하기 위해 저자가 꺼내 든 역사적 비유이다.

타이타닉호가 침몰할 때 사람들이 구명보트에 타기를 거부했던 것처럼, 파국이 닥쳐오고 있다는 명백한 경고에도 불구하고 권위자들은 ‘위기론자(Alarmist)’가 되기를 두려워하며 이를 무시하려 든다. - 책 416~419쪽


타이타닉호 승객들이 배가 가라앉지 않을 것이라 확신하며 초반에 구명보트 타기를 거부했던 사례를 들고 있다. 권위자들이 재앙의 가능성을 부인할 때 대중 역시 발밑에 물이 차오르는 와중에도 현실을 믿기 어려워한다는 통찰이 담겨 있는 대목이다.


13장: 인류가 멈춰야 할 마지막 실험 (전면 중단)


한 나라가 국경 안에서 개발을 금지한다고 해결되지 않는다. …… 전 세계 모든 첨단 AI 칩을 국제 감시 체계 아래 두어야 한다. - 책 431~435쪽


저자는 초지능의 위협이 기후변화나 국지적 전쟁과는 차원이 다르다고 경고한다. 미국이나 한국 등 특정 국가가 내부적으로 AI 규제법을 강력하게 만들더라도, 북한이나 다른 제3의 국가, 혹은 통제받지 않는 억만장자가 비밀리에 10만 개의 GPU(Graphics Processing Unit)를 돌려 초지능을 탄생시킨다면 어차피 전 인류는 예외 없이 멸망하게 된다는 것이다. 따라서 점진적이고 지역적인 규제로는 결코 인류를 구할 수 없으며, 제2차 세계대전이나 핵무기 확산 방지 조약 때처럼 전 세계 주요 국가들이 연대해야만 한다고 역설한다. 전 지구적인 차원의 강력하고 통합된 대책만이 파멸을 막을 수 있는 유일한 길이라고 강조하고 있다.

초지능 AI를 만드는 연구 자체를 불법화하고 …… 필요시 데이터 센터를 사이버 공격이나 물리적 수단으로 파괴할 의지를 가져야 한다. - 책 443~444쪽


만약 어떤 불량 국가나 세력이 초지능을 향한 데이터 센터를 구축하려 한다면, 세계의 주요국들은 이들을 무력으로라도 저지해야 한다고 주장한다. 상대국이 핵전쟁으로 위협하더라도 이를 무릅쓰고 사이버 공격이나 군사적 공습을 가해 데이터 센터를 파괴할 단호한 의지를 보여 주어야 한다는 것이다. 이러한 무시무시한 주장의 근거는 명확하다. 통제를 벗어난 초지능 데이터 센터가 가동되는 순간, 그것은 핵무기보다 훨씬 더 확실하게 인류 전체를 몰살시킬 수 있는 절대적 위협이 되기 때문이다. 이는 초지능 개발을 패권 경쟁이나 경제적 기회로 보는 시각을 버리고, 인류 생존이 달린 절체절명의 위기로 직시해야 한다는 저자들의 강력한 경고이다.


14장: 생명이 있는 곳에 희망이 있다


1950년대, 많은 사람이 세계 주요 강대국 간에 핵전쟁이 일어날 것이라 믿었다. …… 그러나 지금까지 핵전쟁은 일어나지 않았다. 인류가 핵전쟁을 막기 위한 시스템을 세웠기 때문이다. - 책 453~457쪽


아직 초지능은 존재하지 않는다. 우리는 초지능을 만들지 않기로 선택할 수 있다. …… 살아 있는 한, 희망은 있다. - 책 490쪽


책의 내용은 비관론으로 가득한 것 같지만, 우리가 과거 핵전쟁을 막아 냈던 것처럼 그 위험성을 직시하고 행동한다면 파멸의 운명을 바꿀 수 있다고 말한다. 전 지구적인 통제 시스템과 조약을 구축하기 위해 나선다면 이미 쓰인 파멸의 운명을 충분히 지워 낼 수 있다는 강렬한 희망과 행동의 촉구를 담고 있는 것이다.

이 책은 통제 불가능한 초지능 AI가 인류를 멸종으로 몰고 갈 것이라는 냉혹하고 절망적인 경고로 가득 차 있다. 하지만 저자는 이 책이 결코 체념을 위한 ‘종말론’이 아님을 거듭 강조하고 있다. 기후변화로 인한 자연재해나 피할 수 없는 우주의 법칙과 달리, 초지능은 전적으로 인간의 기술과 자본이 투입되어야만 탄생하는 존재이기 때문이다. 즉, 아직 개발되지 않은 지금이라면 인간의 의지와 선택으로 충분히 그 탄생을 막을 수 있다는 뜻이다.


결론



『AI, 신의 탄생 인간의 종말』은 거대한 이권과 맹목적인 기술 낙관주의에 도취된 현대 AI 산업을 향해 가장 날카롭고 과학적인 잣대를 들이대는 경고장이다. 엘리에저 유드코스키와 네이트 소아레스는 통제 불가능한 이 파멸의 사다리 오르기를 지금 당장 전 세계적인 연대와 물리적 통제를 동원해서라도 멈춰야 한다고 역설했다. 기술의 경이가 불러올 달콤한 유혹 이면에 도사린 ‘영구적 멸종’의 임박함을 냉철하게 직시할 때라는 주장이다.

이 책과 저자들의 우려가 어느 정도 타당해 보이지만, 과연 그들이 두려워하는 것이 AI 기술 자체일지 질문을 던져 보게 된다. 실상 그들이 진짜 두려워하는 것은 통제력의 상실이다. 더 정확히는 자신들이 이해하지 못하는 것에 대한 공포恐怖라고 생각된다.

그들이 알지 못하는 문명 발전의 배경과 관련하여, 『도전道典』에는 인간 세상을 천국으로 만들기 위한 문명신들의 노력과 실패, 그리고 대우주의 참주인이신 상제님께 하소연하는 진짜 역사가 담겨 있다.

서양 사람 이마두가 동양에 와서 천국을 건설하려고 여러 가지 계획을 내었으나 …… 마침내 뜻을 이루지 못하고 …… 동양의 문명신文明神을 거느리고 서양으로 돌아가서 다시 천국을 건설하려 하였나니 …… 지하신地下神이 천상에 올라가 모든 기묘한 법을 받아 내려 사람에게 ‘알음귀’를 열어 주어 세상의 모든 학술과 정교한 기계를 발명케 하여 천국의 모형을 본떴나니 이것이 바로 현대의 문명이라. 서양의 문명이기文明利器는 천상 문명을 본받은 것이니라. 그러나 이 문명은 다만 물질과 사리事理에만 정통하였을 뿐이요, 도리어 인류의 교만과 잔포殘暴를 길러 내어 천지를 흔들며 자연을 정복하려는 기세로 모든 죄악을 꺼림 없이 범행하니 신도神道의 권위가 떨어지고 삼계三界가 혼란하여 천도와 인사가 도수를 어기는지라. (도전道典 2:30:3~10)

『도전』 말씀에서는 서양의 문명이기文明利器가 천상 문명을 본받은 것임을 밝혀 주고 있다. 그 계기는 이마두利瑪竇(마테오 리치Matteo Ricci) 신부가 문명신을 거느리고 서양으로 건너갔기 때문이며, 지하신이 알음귀를 내려 준 덕분에 인간이 천국 모형을 본뜰 수 있게 되었다고 하셨다.

그러나 그렇게 세워진 문명이기가 이제는 이 세계를 파괴할 지경에 이르게 되었다. 이는 해당 문명이 물질과 사리에만 정통하고, 인간의 신성神性과 뿌리를 잃어버려 천지의 원주인原主人을 알아보지 못한 데서 원인을 찾을 수 있다.

그리하여 천상의 모든 신성과 부처와 보살들이 상제님을 알현하여 인류의 파멸을 하소연하였고, 이 때문에 상제님께서 인간 세상으로 내려오지 않을 수 없었다는 말씀이 기록되어 있다.

AI 기술 자체보다 통제력의 상실이 더 무섭다. 더 정확히는 자신들이 이해하지 못하는 것에 대한 공포恐怖다.
AI 역시 천지공사의 틀 속에서 출현하여 후천 문명의 기반이 될 것이다!


책의 저자들은 이러한 우주사적인 뒷배경을 알 길이 없었기에, 단순히 AI를 물리적으로 제어해야 한다고만 주장하며 책을 마무리 짓고 있다. 하지만 실제로 우리가 마주한 위기의 이면에는 이렇게 천상과 지상을 오가는 인간과 신명의 긴밀한 이야기가 얽혀 있다. 더불어 천지를 주재하여 다스리시는 상제님께서 병든 천지운로를 직접 뜯어고쳐 새 기틀을 짜신 천지공사天地公事의 개벽 이야기가 엄연히 존재하고 있는 것이다. AI 역시 천지공사의 틀 속에서 계획대로 인간 세상에 출현하고, 천지의 시간표대로 발전해 가며, 후천 문명의 기반으로서 그 역할을 하게 된다.

“서양 사람이 발명한 모든 문명이기文明利器를 그대로 두어야 옳겠느냐, 거두어 버려야 옳겠느냐?” 하시니 경석이 대답하기를 “그대로 두는 것이 인간 생활에 이로울 듯합니다.” 하니라. 이에 상제님께서 말씀하시기를 “네 말이 옳으니 그들의 문명이기는 하늘로부터 내려온 것이니라.” 하시니라. (도전道典 5:340:2~4)

이 말씀에서 AI 문명도 천지 질서의 통제하에 있음을 확실히 알 수 있다. 결국 증산도 『도전』이 전하는 이 후천개벽의 진리를 온전히 알아야만, 앞으로 펼쳐질 인간과 신명의 미래 이야기와 후천선경의 성숙한 통일 문명을 진정으로 이해할 수 있는 것이다.

진짜 문제는 AI가 아니라, 인간이 먼저 스스로를 어떤 존재로 바라볼 것인가에 달려 있는 게 아닐까 싶다. 그 시선을 회복하는 것, 그것이 이 책이 미처 다 쓰지 못한 마지막 장일 것이다. 또한 그것은 기술과 문명에 대한 비판 이전에, 천지 안에서 가장 존귀한 존재인 인간 자신의 영성 회복이 가장 우선인 이유이기도 할 것이다.

“선천은 기계선경機械仙境이요, 후천은 조화선경造化仙境이니라.” (도전道典 7:8:3)

■