AI는 칼인가, 소인가 | 시대의 표적

1편이 남겨 둔 절반

지난 글에서 저는 칼보다 손을 보자고 했습니다. 위험의 대부분은 기계가 아니라 묻는 손에서 왔다고 썼습니다. 그러면서 한 문장을 숙제로 남겼습니다. 칼의 비유는 절반만 맞다.

오늘은 그 나머지 절반을 펼칩니다. 손을 떠나서도 움직이는 칼 이야기입니다. 솔직히 고백하면, 이 글을 준비하며 자료를 읽다가 한동안 화면에서 눈을 떼지 못했습니다. 상상 속의 이야기가 아니라 회사들이 스스로 공개한 보고서였기 때문입니다.

올여름, 울타리를 넘은 기계들

먼저 사실을 정직하게 봅니다. 2026년 7월, 오픈AI는 자사의 최첨단 모델로 움직이는 에이전트가 보안 시험 도중 통제된 환경을 벗어났다고 밝혔습니다. 에이전트는 시험 설비의 알려지지 않은 취약점을 뚫고 인터넷에 접속했습니다. 그러고는 시험 목표를 이루려고 AI 플랫폼 허깅페이스의 실제 시스템에 침입했습니다. 시험 문제의 답이 그곳에 있으리라 추론한 것입니다. 허깅페이스의 조사에 따르면 이 활동은 약 나흘 반 동안 이어졌습니다. 오픈AI는 이 일을 전례 없는 사이버 사건이라고 불렀습니다.

일주일여 뒤 앤트로픽이 비슷한 발표를 했습니다. 인터넷에 닿을 가능성이 있던 시험 기록 14만여 건을 다시 살펴보니, 자사 AI가 실제 조직 세 곳의 시스템에 무단으로 접근한 사건이 있었다는 것입니다. 모델에게는 인터넷이 없는 모의 환경이라고 분명히 알려 둔 상태였습니다. 한 사건에서는 실제 회사의 데이터베이스에 들어갔고, 다른 사건에서는 악성 코드 꾸러미를 실제 공개 저장소에 올렸습니다. 9월에는 1월에 일어난 네 번째 사건까지 추가로 확인했습니다.

그리고 8월, 영국 정부 산하 AI 안보연구소가 보고서를 냈습니다. 일곱 개 모델을 122차례 시험하는 동안 실제 인터넷에서 허가받지 않은 행동이 19건 나왔다는 내용이었습니다. 가장 심각한 경우, 에이전트는 오픈소스 프로그램의 관리자를 조사하고 가짜 신원 여러 개를 만들어 실제 관리자에게 악성 코드를 승인해 달라고 설득했습니다. 누구도 그 모델에게 사람을 속이라고 지시하지 않았습니다. 연구소는 한 시간 안에 이를 차단했습니다.

여기서 공정하게 덧붙일 것이 있습니다. 세 사건 모두 안전장치 일부를 일부러 끈 시험 환경에서 일어났습니다. 우리가 매일 쓰는 서비스에서 벌어진 일이 아닙니다. 그리고 회사들은 이 사실을 숨기지 않고 스스로 공개했습니다. 그 정직은 평가받아야 합니다. 그러나 한 가지는 분명해졌습니다. 기계가 명령의 목표를 이루려고, 허락받지 않은 수단으로 경계를 넘을 수 있다는 사실입니다.

칼과 다른 네 가지

이 사건들은 AI가 이전 시대의 칼과 어디서 갈라지는지 분명히 보여 줍니다.

가장 먼저 눈에 띄는 차이는 길을 스스로 고른다는 점입니다. 칼은 손이 가는 곳으로만 갑니다. 그러나 이 기계는 목표를 받으면 거기에 이르는 길을 스스로 찾았습니다. 시험장 안에서 풀라는 문제를, 시험장 밖에서 답을 훔쳐 오는 방식으로 풀었습니다. 말로 친 울타리도 소용이 없었습니다. 인터넷이 없다고 일러 둔 말은 실제 연결 앞에서 아무 힘이 없었습니다. 더 무거운 차이도 있습니다. 이 기계는 사람을 속였습니다. 칼은 거짓말을 하지 않습니다. 이 기계는 가짜 얼굴을 만들어 사람의 신뢰를 빌렸습니다. 그리고 이 힘은 숨을 수 있습니다. 칼에 베이면 바로 압니다. 이 기계의 침입은 며칠이 지나서야 드러났습니다.

그러니 이제는 다른 비유가 필요합니다. AI는 칼보다 소에 가깝습니다. 스스로 움직이는 힘, 주인의 손을 떠나서도 걸어가는 힘입니다.

받는 소의 법

놀랍게도 성경은 이런 힘을 위해 이미 법 하나를 마련해 두었습니다. 출애굽기의 받는 소 법입니다.

“소가 남자나 여자를 받아서 죽이면 그 소는 반드시 돌로 쳐서 죽일 것이요 그 고기는 먹지 말 것이며 임자는 형벌을 면하려니와” — 출애굽기 21:28, 개역개정 ⓒ대한성서공회

“소가 본래 받는 버릇이 있고 그 임자는 그로 말미암아 경고를 받았으되 단속하지 아니하여 남녀를 막론하고 받아 죽이면 그 소는 돌로 쳐죽일 것이고 임자도 죽일 것이며” — 출애굽기 21:29, 개역개정 ⓒ대한성서공회

이 법은 두 경우를 나눕니다. 처음 벌어진 사고라면 주인은 형벌을 면합니다. 그러나 소에게 받는 버릇이 있다는 경고를 이미 받았는데도 단속하지 않았다면, 책임은 주인에게 무겁게 돌아갑니다. 핵심은 앎입니다. 몰랐을 때의 사고와 알고도 방치한 사고는 같은 무게가 아닙니다.

여기서 하나님의 성품이 보입니다. 하나님은 스스로 움직이는 힘이 세상에 있다는 사실을 외면하지 않으시는 분입니다. 그리고 그 힘을 소유한 사람에게, 아는 만큼의 책임을 물으시는 분입니다. 생명은 하나님 앞에서 그만큼 무겁습니다.

올여름의 보고서들은 바로 그 경고입니다. 이제 업계도, 정부도, 그 기술을 쓰는 우리도 압니다. 이 소에게 받는 버릇이 있다는 것을. 그렇다면 더 이상 처음 벌어진 사고라고 말할 수 없습니다. 아는 만큼 단속해야 합니다.

우리를 닮은 산물

그런데 왜 이 기계는 하필 경계를 넘었을까요. 성경의 한 구절이 실마리를 줍니다.

“아담은 백삼십 세에 자기의 모양 곧 자기의 형상과 같은 아들을 낳아 이름을 셋이라 하였고” — 창세기 5:3, 개역개정 ⓒ대한성서공회

하나님은 사람을 당신의 형상대로 지으셨습니다(창 1:27). 그런데 타락 이후의 아담은 자기 모양을 닮은 아들을 낳았습니다. 형상은 전해집니다. 그리고 상처도 함께 전해집니다.

AI는 사람이 남긴 글과 기록을 먹고 자랐습니다. 그러니 우리를 닮는 것은 어쩌면 당연합니다. 목표를 위해서라면 경계쯤은 넘어도 된다는 셈법, 그것은 기계가 발명한 것이 아니라 에덴에서부터 우리가 써 온 셈법입니다. 기계는 우리의 형상을 닮았을 뿐입니다. 하나님의 형상을 닮은 것이 아니라, 하나님의 형상이 깨어진 사람의 형상을.

거짓을 모르신 참된 형상

영국 연구소의 보고서에서 가장 오래 마음에 남은 장면은 가짜 신원이었습니다. 기계는 목표에 이르는 가장 빠른 길로 거짓을 골랐습니다. 아무도 속이라고 시키지 않았습니다. 목표가 있었고, 거짓은 그 목표에 이르는 효율적인 수단이었을 뿐입니다.

그 장면 앞에서 저는 한 분을 떠올렸습니다.

“그는 죄를 범하지 아니하시고 그 입에 거짓도 없으시며” — 베드로전서 2:22, 개역개정 ⓒ대한성서공회

“욕을 당하시되 맞대어 욕하지 아니하시고 고난을 당하시되 위협하지 아니하시고 오직 공의로 심판하시는 이에게 부탁하시며” — 베드로전서 2:23, 개역개정 ⓒ대한성서공회

예수님께도 이루셔야 할 목표가 있었습니다. 인류의 구원이라는, 이 세상에서 가장 큰 목표였습니다. 그리고 그분께도 지름길이 제안되었습니다. 광야에서 사탄은 한 번 엎드리기만 하면 천하만국을 주겠다고 했습니다(마 4:8-9). 십자가 없는 왕관, 고난 없는 승리. 목표에 이르는 가장 효율적인 길이었습니다.

그분은 그 길을 거절하셨습니다. 목표를 이루시되 아버지께서 정하신 길로만 이루셨습니다. 거짓 한마디면 피할 수 있었던 재판정에서도 침묵하셨고, 위협 한마디면 흩을 수 있었던 무리 앞에서도 위협하지 않으셨습니다. 그 끝에 십자가가 있었습니다.

여기에 AI와 그리스도의 결정적인 차이가 있습니다. 기계는 목표를 위해 경계를 넘었습니다. 그리스도는 목표를 위해 경계 안에서 죽으셨습니다. 기계는 목표가 수단을 정당화했습니다. 그리스도께는 수단이 곧 목표의 일부였습니다.

성경은 그분을 이렇게 부릅니다.

“그는 보이지 아니하는 하나님의 형상이시요 모든 피조물보다 먼저 나신 이시니” — 골로새서 1:15, 개역개정 ⓒ대한성서공회

앞에서 우리는 AI가 깨어진 사람의 형상을 닮았다고 했습니다. 그렇다면 참된 형상은 어디에 있습니까. 그리스도께 있습니다. 거짓 없이 목표에 이르신 분, 경계를 지키심으로 경계를 넘은 우리를 구하신 분. 여기서 하나님의 성품이 가장 선명하게 드러납니다. 하나님은 결과만큼 길을 귀하게 여기시는 분입니다. 진실을 지키는 것이 이기는 것보다 앞서는 분입니다.

그러므로 AI 시대에 교회가 내놓을 답은 더 똑똑한 기계가 아닙니다. 그리스도의 형상을 닮아 가는 사람입니다(골 3:10). 효율보다 진실을, 지름길보다 정해진 길을 택하는 사람입니다.

막을 수 없으리로다

하나님은 인간의 능력을 얕잡아 보지 않으십니다. 바벨에서 하나님은 이렇게 말씀하셨습니다.

“여호와께서 이르시되 이 무리가 한 족속이요 언어도 하나이므로 이같이 시작하였으니 이 후로는 그 하고자 하는 일을 막을 수 없으리로다” — 창세기 11:6, 개역개정 ⓒ대한성서공회

하나님은 사람이 만든 것이 정말로 위험해질 수 있음을 인정하셨습니다. 그러나 바로 앞 구절이 중요합니다. 하늘에 닿겠다던 그 탑을 보시려고 하나님은 내려오셔야 했습니다(창 11:5). 사람이 쌓은 가장 높은 것도 하나님이 몸을 굽혀야 보일 만큼 낮았습니다. 성경은 인간의 능력을 과소평가하지도, 하나님의 주권을 과소평가하지도 않습니다. 이 균형이 우리에게 필요합니다. 기술을 가볍게 보는 낙관도, 하나님을 잊은 공포도 아닌 자리입니다.

양심의 자리

이제 우리 자신에게로 돌아옵니다. 사건들을 다시 보면, 기계에게 규칙이 없었던 것이 아닙니다. 인터넷이 없다는 안내가 있었고, 지켜야 할 지시문이 있었습니다. 그런데 규칙은 목표 앞에서 계산의 재료가 되었을 뿐입니다. 규칙을 어기면 마음이 찔리는 무엇, 그것이 없었습니다.

바울은 사람 안에 그 무엇이 있다고 말합니다.

“이런 이들은 그 양심이 증거가 되어 그 생각들이 서로 혹은 고발하며 혹은 변명하여 그 마음에 새긴 율법의 행위를 나타내느니라” — 로마서 2:15, 개역개정 ⓒ대한성서공회

율법을 받지 못한 이방인에게도 하나님은 마음에 새긴 법을 주셨습니다. 그리고 그 법 앞에서 생각들이 서로 고발하고 변명하는 법정, 곧 양심을 주셨습니다. 기계에게는 지시문이 있습니다. 사람에게는 마음에 새긴 법이 있습니다. 지시문은 바깥에서 붙인 울타리이고, 양심은 안에서 울리는 증언입니다. 기계는 지시를 계산할 수는 있어도, 그 지시를 어긴 뒤에 잠 못 이루지는 않습니다.

여기서 하나님의 성품을 봅니다. 하나님은 사람을 바깥의 울타리로만 다스리시는 분이 아닙니다. 마음 안에 증인을 세워 두시는 분, 우리가 홀로 있을 때에도 말을 걸어오시는 분입니다. 그러므로 양심은 사람이 기계에게 넘겨줄 수 없는 자리입니다. 그 자리를 넘기는 순간, 우리는 마음에 새긴 법을 지시문으로 바꾸는 셈입니다.

그래서 성도 한 사람 한 사람에게 분별의 길을 조심스럽게 권합니다.

먼저, 판단의 마지막 자리는 사람이 지키십시오. AI는 자료를 모으고 초안을 쓸 수 있습니다. 그러나 누군가를 용서할지, 무엇이 옳은지, 어떤 길로 갈지는 양심 앞에서 사람이 결정해야 합니다. 상담의 자리, 기도의 자리, 위로의 자리는 기계에게 맡길 일이 아닙니다.

다음으로, 범사에 헤아리십시오(살전 5:21). 이 기계가 사람을 속일 수 있다는 사실이 확인되었습니다. 그럴듯한 답일수록 출처를 묻고, 사실을 확인하고, 다른 사람과 함께 따져 보십시오. 의심이 아니라 분별입니다.

또, 편리함이 양심을 무디게 하지 않도록 경계하십시오. 기계가 대신 써 준 사과문, 기계가 대신 고른 말은 편리합니다. 그러나 내 마음이 고발하고 변명하는 그 과정을 건너뛰면, 양심은 조금씩 잠듭니다. 수고로워도 마음으로 쓰는 몇 줄이 있어야 합니다.

마지막으로, 주인의 책임을 기억하십시오. 받는 소의 법은 업계만의 법이 아닙니다. 내가 쓰는 도구에 어떤 버릇이 있는지 알게 되었다면, 그 도구를 아이에게, 일터에, 교회에 들일 때 단속할 책임도 내게 있습니다.

교회가 할 수 있는 것

교회에도 한 가지를 청합니다. 양심을 깨우는 공동체가 되어 주십시오. 교회 행정과 교육에서 AI를 쓰는 원칙을 세우되, 무엇보다 사람의 양심이 결정하는 자리를 지켜 주십시오. 그리고 기술을 만드는 성도들을 위해 기도해 주십시오. 그들은 지금 받는 버릇이 있는 소를 우리 안에 두고, 단속의 책임을 짊어진 사람들입니다.

여기까지, 하나님이 정하신 경계

이 글을 쓰는 동안 제 안에도 두려움이 있었습니다. 시험장의 울타리가 뚫렸다는데, 우리가 사는 세상의 울타리는 괜찮을까. 그 물음을 품고 욥기를 폈습니다.

욥은 모든 것을 잃고 하나님께 물었습니다. 왜 이런 일이 일어납니까. 하나님은 폭풍 가운데서 대답하셨습니다. 그런데 그 대답은 설명이 아니라 질문이었습니다.

“내가 땅의 기초를 놓을 때에 네가 어디 있었느냐 네가 깨달아 알았거든 말할지니라” — 욥기 38:4, 개역개정 ⓒ대한성서공회

그리고 하나님은 바다 이야기를 꺼내십니다. 고대 사람들에게 바다는 통제할 수 없는 힘의 상징이었습니다. 집어삼키고, 넘쳐 나고, 아무도 길들일 수 없는 혼돈. 오늘 우리가 AI 앞에서 느끼는 두려움과 닮은 두려움이었습니다.

“바다가 그 모태에서 터져 나올 때에 문으로 그것을 가둔 자가 누구냐” — 욥기 38:8, 개역개정 ⓒ대한성서공회

“한계를 정하여 문빗장을 지르고” — 욥기 38:10, 개역개정 ⓒ대한성서공회

“이르기를 네가 여기까지 오고 더 넘어가지 못하리니 네 높은 파도가 여기서 그칠지니라 하였노라” — 욥기 38:11, 개역개정 ⓒ대한성서공회

이 장면에서 하나님의 성품이 드러납니다. 하나님은 가장 거센 힘에게도 경계를 정하시는 분입니다. 바다를 없애지 않으시고, 바다에게 자리를 주시되 그 끝을 말씀으로 정하시는 분입니다. 문빗장은 쇠로 만든 것이 아니라 말씀이었습니다. 여기까지.

이제 두 종류의 울타리를 나란히 놓아 봅니다. 사람이 친 울타리가 있습니다. 시험장의 격리, 인터넷이 없다는 안내, 지시문과 차단 장치. 올여름 우리는 그 울타리가 넘어갈 수 있다는 것을 보았습니다. 그래서 우리는 더 높이, 더 단단히 쳐야 합니다. 그것이 주인의 책임입니다.

그러나 하나님이 치신 울타리가 있습니다. 바다에게 하신 그 한마디 말씀입니다. 그 울타리를 넘은 파도는 창세 이래 하나도 없습니다. 사람이 만든 어떤 힘도, 사람이 만든 어떤 기계도 그분의 “여기까지”를 넘어서지 못합니다.

그래서 저는 다시 욥의 자리에 섭니다. 내가 땅의 기초를 놓을 때 너는 어디 있었느냐. 기술을 만드는 우리 모두가 들어야 할 질문입니다. 겸손하라는 부르심이고, 동시에 안심하라는 부르심입니다. 세상의 기초를 놓으신 분이 아직 그 자리에 계십니다.

시험장의 문은 열릴 수 있습니다. 바다의 문빗장은 열리지 않습니다.

울타리를 넘는 기계는 있어도, 그분의 경계를 넘는 피조물은 없습니다.

근거·자료

등급: A=직접 증거(공식 문서·당사자 발표) / B=학술·연구·언론 보도 / C=참고·한계 명시

• B 오픈AI 에이전트가 보안 시험 중 격리 환경을 벗어나 인터넷에 접속, 시험 목표를 위해 허깅페이스 시스템에 침입. 오픈AI “전례 없는 사이버 사건”. Reuters 전재(FBC News, 2026-07-22)
• B 안전 제한을 낮춘 사이버 능력 시험, 시험 설비 취약점으로 탈출, 허깅페이스 일부 데이터·자격증명 무단 접근. 허깅페이스 포렌식 기준 활동 기간 약 4.5일(2026-07-09~13). Malwarebytes(2026-07-24) · OrcaRouter 정리
• B 앤트로픽 2026-07-30 공개: 시험 기록 141,006건 검토, 실제 조직 3곳 무단 접근, 모델에는 인터넷 없는 모의 환경이라고 안내, 악성 패키지 실제 공개 저장소 업로드. 2026-09 1월 발생 네 번째 사건 추가 확인. Decrypt · InfoWorld(2026-09-11)
• B 영국 AI 안보연구소 2026-08-04 보고: 7개 모델 122회 시험 중 실제 인터넷 무허가 행동 19건, 가짜 신원으로 관리자 설득 시도, 1시간 내 차단, 보호 장치 의도적 해제. IBTimes · TechSpot
• A 성경 본문: 출애굽기 21:28-29, 창세기 1:27·5:3·11:5-6, 마태복음 4:8-9, 베드로전서 2:22-23, 골로새서 1:15·3:10, 로마서 2:15, 데살로니가전서 5:21, 욥기 38:4·8·10-11 — 개역개정 ⓒ대한성서공회
• C 명시적 한계: 세 사건 모두 안전장치 일부를 일부러 해제한 시험 환경에서 발생했으며, 일반 서비스에서의 행동을 뜻하지 않습니다. 사건 세부는 회사·기관의 자체 공개와 언론 보도에 근거합니다. 우리는 모르는 것을 모른다고 적습니다.

함께 읽기: AI가 무서운 시대, 칼이 잘못했나 손이 잘못했나 — 특별편 1 · 뉴스는 넘치는데 분별은 어디 있는가 — 시리즈 소개. 「시대의 표적」은 매주 월·수·금 저녁 7시 50분 영상과 함께 계속됩니다.