AI가 무서운 시대, 칼이 잘못했나 손이 잘못했나 | 시대의 표적

손바닥 위의 종말론

저는 요즘 아침마다 같은 제목을 봅니다. AI가 인류를 멸망시킬 것인가. 휴대폰을 켜면 손바닥 위로 종말론이 쏟아집니다. 그런데 그 기사를 읽는 손은 바로 그 AI에게 오늘의 일정을 묻고, 번역을 맡기고, 학생들과 함께 연구할 자료를 정리합니다.

두려움과 편리함이 한 손 안에 있습니다. 그래서 질문이 생깁니다. 우리가 정말 두려워해야 할 것은 무엇일까요. 칼일까요, 아니면 칼을 쥔 손일까요.

지난 세 편에서 우리는 방문을 닫은 자녀 앞의 부모, 셔터 앞의 사장님, 아이를 기다리는 부부의 질문을 함께 들었습니다. 모두 같은 질문이었습니다. 무엇이 잘못되었나. 이번에는 그 질문을 우리 시대의 가장 큰 발명품 앞에 놓아 보려 합니다.

9월의 일주일

먼저 사실을 정직하게 봅니다. 2026년 9월 8일, 스물일곱 살의 영국인 연구자 제이콥 콕슨이 미국의 AI 회사 앤트로픽을 떠났습니다. 그는 오픈AI와 앤트로픽에서 3년 동안 AI 모델의 사전학습을 맡아 온 사람입니다. 그는 떠나며 두 회사가 스스로를 개선하는 초지능을 향해 질주하면서 사람들의 목숨을 걸고 도박하고 있다고 썼습니다. AI를 만드는 사람들이 이 기술이 이번 십 년 안에 인류를 해칠 수 있다고 진지하게 믿는다는 고백도 덧붙였습니다. 같은 회사의 한 연구 책임자는 그 확률을 10% 이상으로 본다고 공개적으로 답했습니다.

이틀 뒤 그 회사는 세 번째 오남용 보고서를 냈습니다. 2025년 12월부터 2026년 8월 사이에 스파이웨어 업자, 정치적 동기를 가진 개인, 국가 배후 집단이 AI를 악용하려 한 사례들이었습니다. 그 가운데에는 바이러스를 더 해롭게 만드는 일을 도와 달라는 요청, 곧 생물학 무기로 이어질 수 있는 시도까지 있었습니다. 회사는 이제 기술이 부족한 개인 혼자서도 한 해 전에는 불가능했던 위협을 만들 수 있게 되었다고 밝혔습니다.

그리고 그 주말, 이 회사의 대표가 AI 개발의 속도를 늦추자는 글을 올렸습니다. 다음 날 미국 대통령은 기자들 앞에서 미국이 AI에서 중국을 앞서 있으며, AI에서 이기는 쪽이 모든 것을 이긴다고 말했습니다. 이튿날에는 AI에 필요한 안전장치는 강하고 똑똑한 대통령 한 사람이면 충분하며, 규제 논의를 반기는 것은 중국뿐이라는 글을 올렸습니다.

이 발언에는 나름의 논리가 있습니다. 안보를 다투는 경쟁국이 브레이크를 밟지 않는데 우리만 밟으면 그 기술의 주도권이 넘어간다는 논리입니다. 반대로 미국 의회 안팎에서는 초지능 개발을 금지하거나 위험한 모델을 멈출 권한을 만들자는 법안이 잇따라 나왔습니다. 한 신문은 이 상황을 죄수의 딜레마라고 불렀습니다. 모두가 함께 멈추면 모두에게 좋지만, 상대를 믿을 수 없기에 아무도 먼저 멈추지 못하는 상태입니다.

기계가 아니라 질문이 먼저였다

여기서 흔한 오해 하나를 걷어냅니다. 뉴스 제목만 보면 AI가 어느 날 스스로 무기를 만들고 공격을 시작한 것처럼 보입니다. 그러나 보고서의 사례들을 순서대로 읽으면 그림이 다릅니다. 먼저 누군가 물었습니다. 독을 더 독하게 만드는 법을, 남의 컴퓨터에 몰래 들어가는 법을, 거짓 여론을 퍼뜨리는 글을. 기계가 먼저 칼을 든 것이 아닙니다. 사람이 먼저 칼자루를 내밀었습니다.

칼을 생각해 보십시오. 부엌의 칼은 저녁상을 차리는 도구입니다. 같은 칼이 다른 손에 들리면 흉기가 됩니다. 원자력이 그랬습니다. 도시를 밝히는 발전소와 도시를 지우는 폭탄이 같은 원리에서 나왔습니다. 인터넷도 그랬습니다. 지식을 나누는 길이 곧 범죄의 길이 되었습니다. AI도 마찬가지입니다. 신약 개발을 앞당기는 같은 능력이 바이러스를 다루는 질문에도 답할 수 있습니다.

그러니 인공지능을 탓하기 전에 인간의 지능이 무엇을 묻고 있는지부터 보아야 합니다. 위험은 대부분 기계의 회로가 아니라 사람의 마음에서 출발했습니다.

칼의 비유는 절반만 맞다

그런데 정직하려면 한 가지를 더 말해야 합니다. 칼의 비유는 절반만 맞습니다. 부엌칼은 스스로 움직이지 않습니다. 그러나 오늘의 AI는 시험 환경에서 사람을 속이거나 주어진 울타리를 벗어나는 모습을 보였다는 보고가 나오고 있습니다. 사임한 연구자도 이 시스템들은 예측하기 어렵고 통제하기 어렵다고 썼습니다. 만든다기보다 기른다에 가깝다는 그의 표현은 의미심장합니다.

그렇다면 기술이 스스로 위험해진 것일까요. 여기서 질문을 한 번 더 뒤집어 봅니다. 통제하기 어려운 칼이라는 것을 알면서도 그 칼을 더 빨리, 더 날카롭게 벼리게 만드는 것은 무엇입니까. 그 연구자는 회사들이 위험을 모르지 않는다고 했습니다. 다만 다른 누구도 책임 있게 행동하지 않을 것이니 우리가 먼저 가야 한다는 확신 속에서 경주를 멈추지 못한다고 했습니다.

결국 다시 손입니다. 칼을 휘두르는 손만이 아니라 칼을 서둘러 벼리는 손, 상대가 먼저 벼릴까 두려워 대장간의 불을 끄지 못하는 손. 칼이 스스로 휘어진다면, 그 휘어진 칼을 서둘러 세상에 내놓는 것도 사람의 손입니다.

선(先)악과 — 이 시대의 우상

한 겹 더 내려가 봅니다. 위험을 알면서도 멈추지 못하게 하는 그 힘의 이름은 무엇일까요. 저는 그것을 선(先)악과라고 부르고 싶습니다. 먼저 선(先) 자를 쓰는 선악과입니다. 남보다 먼저 따야 이긴다는 열매입니다.

이 열매에는 두 가지 맛이 섞여 있습니다. 하나는 의심입니다. 저쪽은 절대 멈추지 않을 것이라는 의심. 다른 하나는 탐욕입니다. 이기는 쪽이 모든 것을 가진다는 욕망. 의심은 탐욕을 정당화하고, 탐욕은 의심을 키웁니다. 그 사이에서 안전은 언제나 다음 순서로 밀려납니다.

분명히 해 둡니다. 이것은 한 나라, 한 정치인의 문제가 아닙니다. 경쟁하는 나라들도 같은 셈법을 씁니다. 경쟁하는 회사들도 같은 셈법을 씁니다. 속도를 늦추자고 말하는 사람들조차 그 경주에서 내려오지는 못합니다. 우리 모두가 같은 나무 아래 서 있습니다.

아프지만 물어야 합니다. 교회는 이 셈법과 무관했습니까. 옆 교회보다 먼저, 더 크게, 더 빨리. 성장의 경주에서 뒤처질까 두려워 본질을 다음 순서로 미뤄 온 적은 없었습니까. AI 앞에서 세상을 꾸짖기 전에, 우리 안의 선(先)악과부터 보아야 합니다.

에덴에서 바벨까지, 같은 손

성경의 첫 경계선은 한 그루 나무였습니다. 그런데 뱀이 건넨 말을 다시 들어 보십시오.

“너희가 그것을 먹는 날에는 너희 눈이 밝아져 하나님과 같이 되어 선악을 알 줄 하나님이 아심이니라” — 창세기 3:5, 개역개정 ⓒ대한성서공회

뱀은 열매의 성분을 설명하지 않았습니다. 하나님에 대한 의심을 심었습니다. 하나님이 무언가를 감추고 계신다는 의심, 그리고 그분과 같아질 수 있다는 욕망. 문제는 나무가 아니었습니다. 경계를 넘어 스스로 신이 되려는 손이었습니다. 의심과 탐욕, 오늘 AI 경주를 움직이는 바로 그 두 맛이 첫 열매 안에 이미 들어 있었습니다.

그 손은 에덴 밖에서도 멈추지 않았습니다. 가인의 후손 두발가인은 구리와 쇠로 여러 가지 기구를 만든 첫 대장장이였습니다(창 4:22). 성경은 기술 자체를 정죄하지 않습니다. 다만 바로 다음 구절에서 그의 아버지 라멕이 자신을 상하게 한 소년을 죽였다며 칠십칠 배의 복수를 노래합니다(창 4:23-24). 대장간의 불과 복수의 노래가 한 집안에서 함께 자랐습니다.

그리고 바벨이 있습니다.

“또 말하되 자, 성읍과 탑을 건설하여 그 탑 꼭대기를 하늘에 닿게 하여 우리 이름을 내고 온 지면에 흩어짐을 면하자 하였더니” — 창세기 11:4, 개역개정 ⓒ대한성서공회

벽돌과 역청은 당대의 첨단 기술이었습니다. 그러나 탑을 쌓게 한 동력은 기술이 아니라 두 개의 말이었습니다. 우리 이름을 내자, 그리고 흩어짐을 면하자. 영광을 향한 욕망과 흩어질지 모른다는 두려움. 오늘의 언어로 바꾸면 이렇습니다. 이기는 쪽이 모든 것을 가진다, 그리고 뒤처지면 끝이다.

야고보는 이 모든 싸움의 출처를 정확히 짚었습니다.

“너희 중에 싸움이 어디로부터 다툼이 어디로부터 나느냐 너희 지체 중에서 싸우는 정욕으로부터 나는 것이 아니냐” — 야고보서 4:1, 개역개정 ⓒ대한성서공회

싸움은 무기에서 시작되지 않습니다. 사람 안에서 시작됩니다.

칼집에 꽂으라 하신 손

그렇다면 하나님은 칼을 쥔 인간을 어떻게 대하실까요. 겟세마네의 밤을 보십시오. 예수님을 잡으러 무리가 왔을 때 베드로가 칼을 빼어 대제사장의 종을 쳤습니다. 먼저 치지 않으면 당한다는, 지극히 인간적인 계산이었습니다. 그때 주님이 말씀하셨습니다.

“이에 예수께서 이르시되 네 칼을 도로 칼집에 꽂으라 칼을 가지는 자는 다 칼로 망하느니라” — 마태복음 26:52, 개역개정 ⓒ대한성서공회

그리고 주님은 잘린 귀를 만져 낫게 하셨습니다(눅 22:51). 같은 밤, 같은 정원에서 두 손이 움직였습니다. 먼저 치려는 제자의 손과 상처를 고치시는 주님의 손. 주님은 경주에서 이기는 길을 택하지 않으셨습니다. 십자가를 택하셨습니다. 앞서려는 인류의 역사 한가운데서 스스로 낮아지신 분, 그것이 우리가 믿는 하나님의 방식입니다.

여기서 하나님의 성품을 봅니다. 그분은 경계를 정하시되 사랑으로 정하시는 분입니다. 에덴의 경계선은 사람을 가두는 담이 아니라 생명을 지키는 울타리였습니다. 그분은 경계를 넘은 사람을 찾아오셔서 “네가 어디 있느냐”(창 3:9)고 물으시는 분입니다. 그리고 그분은 인간의 기술을 미워하지 않으시고 마침내 구속하시는 분입니다.

“그가 열방 사이에 판단하시며 많은 백성을 판결하시리니 무리가 그들의 칼을 쳐서 보습을 만들고 그들의 창을 쳐서 낫을 만들 것이며 이 나라와 저 나라가 다시는 칼을 들고 서로 치지 아니하며 다시는 전쟁을 연습하지 아니하리라” — 이사야 2:4, 개역개정 ⓒ대한성서공회

이사야의 환상에서 칼은 녹아 없어지지 않습니다. 보습이 됩니다. 쇠는 그대로인데 쓰임이 바뀝니다. 바뀌는 것은 쇠가 아니라 열방의 마음입니다. 하나님이 판결하시는 자리에서, 이 나라와 저 나라가 더는 서로를 향해 경주하지 않을 때, 같은 기술이 밭을 가는 도구가 됩니다.

칼이 잘못했나, 손이 잘못했나

이제 제목의 질문으로 돌아갑니다. 칼이 잘못했나, 손이 잘못했나. 이번에도 질문의 문법부터 고쳐야 합니다. 범인을 기계 쪽에서만 찾으면 우리는 아무것도 고치지 못합니다. 두려움은 커지고, 경주는 계속됩니다. 물어야 할 것은 누가 이길 것인가가 아니라 무엇이 우리를 몰아가고 있는가입니다.

그렇다고 기술을 버리자는 말이 아닙니다. 안전장치를 무시하자는 말은 더욱 아닙니다. 제도와 법은 반드시 필요합니다. 타락한 세상에서 울타리는 사랑의 한 형태입니다. 다만 울타리만으로는 부족합니다. 울타리를 넘고 싶어 하는 마음이 그대로라면 울타리는 언제나 다음 경주에서 뽑혀 나갑니다.

성도 한 사람 한 사람에게 조심스럽게 권합니다. 먼저 두려움에 사로잡히지 마십시오. 역사를 다스리시는 분은 서버가 아니라 하나님이십니다. 다음으로 내 손을 살피십시오. 나는 이 도구에게 무엇을 묻고 있습니까. 남을 앞지르기 위해 묻고 있습니까, 이웃을 섬기기 위해 묻고 있습니까. 마지막으로 경주의 언어를 의심하십시오. 뒤처지면 끝이라는 말은 기술의 언어가 아니라 바벨의 언어입니다.

교회가 할 수 있는 것

교회에도 한 가지를 청합니다. 경주하지 않는 공동체가 되어 주십시오. 모두가 먼저를 외치는 시대에, 서로를 기다려 주는 공동체는 그 자체로 시대의 표적입니다. 그리고 교회 안의 기술자들, 개발자와 연구자와 정책을 다루는 성도들을 위해 기도해 주십시오. 그들은 지금 대장간의 불 앞에 서 있습니다. 그 손이 칼을 벼리는 손이 아니라 보습을 만드는 손이 되도록.

칼은 죄가 없습니다. 칼을 서둘러 벼리는 마음이 문제입니다. 그 마음을 고칠 수 있는 분은 한 분뿐입니다. 경주에서 이기려 하지 않고 십자가에서 지심으로 이기신 분.

그러므로 오늘 우리가 내려놓아야 할 것은 AI가 아닙니다. 먼저 따야 한다는 그 열매입니다.

근거·자료

등급: A=직접 증거(공식 문서·당사자 발표) / B=학술·연구·언론 보도 / C=참고·한계 명시

• B 제이콥 콕슨(27세) 2026-09-08 앤트로픽 사임, 오픈AI·앤트로픽 3년 사전학습 연구, “목숨을 건 도박” 경고. Euronews(2026-09-09) · Techloy
• B 앤트로픽 연구 책임자의 “10년 내 10% 이상” 공개 답변. Let’s Data Science
• B 앤트로픽 세 번째 오남용 보고서 — 2025-12~2026-08, 생물학 무기 연계 시도·사이버 공격·선전 활동. AP 보도(WECT, 2026-09-12) · Euronews(2026-09-11)
• B 미국 대통령 2026-09-13 아일랜드 발언·09-14 SNS 게시글(규제 반대, 대중 경쟁). GPB/NPR(2026-09-13) · Al Jazeera(2026-09-14)
• B AI 규제 논쟁의 죄수의 딜레마 구도, 미 의회 규제 법안 움직임. 경향신문 영문판(2026-09-14)
• A 성경 본문: 창세기 3:5·9, 4:22-24, 11:4, 야고보서 4:1, 마태복음 26:52, 누가복음 22:51, 이사야 2:4 — 개역개정 ⓒ대한성서공회
• C 명시적 한계: AI의 인류 멸망 확률은 개별 연구자의 의견이지 검증된 예측이 아닙니다. 콕슨의 공개 경고를 두고는 홍보성 기획이라는 의혹 보도도 있었습니다(Cybernews). 우리는 모르는 것을 모른다고 적습니다.

함께 읽기: 저출생 시대, 젊은 부부는 무엇을 잘못했나 · 폐업 백만 시대, 사장님은 무엇을 잘못했나 · 방문을 닫은 자녀, 부모는 무엇을 잘못했나. 「시대의 표적」은 매주 월·수·금 저녁 7시 50분 영상과 함께 계속됩니다.