▲ CATHOLIC PRESS DB

▶ 지난 칼럼 보러가기 

이번 회는 인공지능의 가장 어두운 얼굴을 살펴본다. 교황청 문헌은 AI의 위험을 크게 세 가지로 지적한다. 자율 무기, 대량 감시, 그리고 허위 정보와 여론 조작이다. 문헌은 이 세 가지를 하나로 묶어 "권력의 문화(cultura della potenza)"라고 부른다. AI 자체가 악한 것이 아니라, 권력을 추구하는 인간이 AI를 어떻게 사용하는가가 문제라는 뜻이다.

무기가 된 알고리즘

오늘날 인공 지능은 스스로 표적을 찾아 공격하는 자율 무기 시스템(autonomous weapon systems)으로 발전하고 있다. 교황청은 인간의 생명을 빼앗는 결정을 기계에 맡기는 것은 도덕적으로 받아들일 수 없다고 분명히 말한다.1)

문제는 단순히 기술이 아니다. AI가 무기에 결합될수록 죽음의 결정은 인간의 양심으로부터 점점 멀어진다. 과거에는 사람이 방아쇠를 당겼지만, 이제는 알고리즘이 표적을 식별하고 처리하는 시대가 열리고 있다. 사람은 화면을 바라볼 뿐이고, 양심은 그만큼 무뎌진다. 

그래서 교황청은 오랫동안 논의되어 온 정의로운 전쟁(bellum iustum) 전통도 AI 시대에는 새롭게 성찰해야 한다고 말한다. 전쟁은 더 이상 인간이 인간을 죽이는 일이 아니라, 시스템이 대상을 처리하는 방식으로 바뀌고 있기 때문이다.

현실이 된 교황청의 경고

교황청의 우려는 더 이상 미래의 이야기가 아니다. 이미 두 개의 전장에서 그 경고가 현실이 되었다. 러시아-우크라이나 전쟁에서는 AI를 탑재한 드론이 전자전(戰)으로 조종 신호가 끊긴 뒤에도 스스로 목표물을 인식해 마지막 비행 구간을 수행하는 종말 유도(terminal guidance) 기술이 실전에 투입되었다. 우크라이나 국방부는 2024년 하반기부터 10,000기 이상의 AI 유도 드론을 도입하였고, 2025년 하반기에는 FPV 공격 드론에, 2026년에는 중거리 고정익 드론에까지 이 기술이 확대되었다.2) 

AI는 이제 수만 건의 드론 영상과 위성 정보를 실시간으로 분석해 목표물을 식별하고, 포병 및 드론 공격을 위한 표적 선정과 전장 판단을 지원한다. 최종 공격은 여전히 인간이 승인하지만, AI가 전장의 "킬 체인(kill chain)"을 획기적으로 단축시키고 있는 것이 사실이다.

2026년 2월 28일 시작된 미국 · 이스라엘의 대(對) 이란 군사 작전 "에픽 퓨리(Operation Epic Fury)" 역시 AI가 정보 분석과 표적 선정, 피해 평가를 지원하는 핵심 축이 되었다. 미국은 팔란티어(Palantir Technologies)가 개발한 "메이븐 스마트 시스템(Maven Smart System)"을 활용해 위성 · 드론 · 신호 정보를 실시간으로 융합하고 공격 우선순위를 결정하였다. 

미국 중부사령부(CENTCOM) 발표에 따르면 개전 첫 24시간에 1,000개의 표적, 38일 만에 13,000개 이상의 표적이 타격되었다.3) 이 전쟁은 다수 군사 전문가들로부터 "최초의 AI 전쟁(the first AI war)"이라 평가받았다. 미군은 최종 발사 결정은 인간이 내린다고 설명하였으나, AI가 군사적 의사결정의 속도를 비약적으로 높인 것은 부정할 수 없다. 이 작전 중 이란 미납(Minab)의 한 여학교가 타격되어 170명의 민간인 — 대부분이 여학생 — 이 목숨을 잃었고, AI가 표적 선정에 관여했는지에 관한 조사가 국제사회에서 진행 중이다.

가자지구에서는 이미 그 이전에 AI 기반 표적 식별 시스템들 — "라벤더(Lavender)"와 "하브소라(Habsora, The Gospel)" — 이 이스라엘군의 대규모 폭격 작전에 사용된 사실이 이스라엘 매체 「+972 매거진」의 기자 유발 아브라함(Yuval Abraham)의 취재로 국제사회에 알려졌다.4) 라벤더는 팔레스타인 개인 37,000명을 "의심되는 무장 대원"으로 자동 분류하였고, 하브소라는 폭격할 건물과 구조물을 매일 100건 규모로 추천하였다. 취재에 응한 여섯 명의 이스라엘 정보 장교 증언에 따르면, 정보 요원이 라벤더의 표적 목록을 승인하는 데 걸린 시간은 개인당 평균 "20초"에 불과하였다. "기계의 결정이 사실상 인간의 결정처럼 다루어졌다"는 것이다.

이러한 사례들은 회칙 「Magnifica Humanitas」 197항의 한 문장을 단순한 윤리적 우려가 아니라 이미 진행되고 있는 현실로 우리에게 되돌려 보낸다. "무기에 AI가 통합되는 일은 죽음을 결정짓는 능력을 인간의 양심으로부터 점점 더 멀어지게 만든다."5) 우크라이나와 중동의 진창 위에서, 이 문장은 이미 살(carne)이 되었다.

감시의 건축술

감시는 이미 특별한 일이 아니다. 우리는 스마트폰을 들고 다니는 순간 이동 경로를 남기고, 카드로 결제하며 소비 기록을 남기고, 인터넷 검색과 SNS 활동을 통해 취향과 인간관계까지 데이터로 축적한다.

회칙 「Magnifica Humanitas」 171항은 이렇게 축적된 데이터가 새로운 권력을 만들어낸다고 경고한다. 사람들의 행동을 프로파일링하고, 예측하고, 원하는 방향으로 유도하는 권력이다.6) 더 큰 문제는 이런 정보가 대출 심사나 취업, 보험, 각종 서비스 제공 과정에서 개인을 평가하는 기준으로 사용될 수 있다는 점이다. 사람은 자신도 모르는 사이 데이터로 판단받고, 취약한 사람일수록 더 쉽게 차별받는다.

공지(公知) 「Antiqua et Nova」 90항은 이러한 감시 체계가 인간을 존엄한 인격이 아니라 관리와 통제의 대상으로 바꾸기 때문에 인간의 존엄성과 양립할 수 없다고 단언한다.7) 그래서 AI 시대에는 기술보다 먼저 투명한 규칙과 설명 책임, 이의를 제기할 권리, 그리고 감시에 대한 엄격한 제한이 필요하다.

진리의 위기

생성형 AI는 놀라운 가능성을 보여 주지만 동시에 거대한 위험도 안고 있다. 딥페이크(deepfake) 영상, 가짜 뉴스, 허위 이미지, 조작된 음성은 이제 누구나 쉽게 만들 수 있다. 문제는 거짓말이 아니라 거짓이 진실처럼 보인다는 것이다.8)

생성형 AI는 실제 존재하지 않는 내용을 그럴듯하게 만들어 내기도 한다. 전문가들은 이를 "환각(hallucination)"이라고 부른다. 사실이 아닌데도 매우 설득력 있게 답을 만들어내는 현상이다. 그러나 교황청은 진리를 단순한 정보의 정확성으로만 이해하지 않는다. 회칙 132항은 진리를 "출처의 확인, 논증의 책임, 그리고 신뢰의 유대와 공유된 실천을 통해 다른 이들과 세계와의 정직한 대면 안에서 건설되는" 것으로 정의한다.9)

그래서 딥페이크와 여론 조작은 단순히 사실을 왜곡하는 데 그치지 않는다. 사람과 사람 사이의 신뢰 자체를 무너뜨린다. 회칙은 한나 아렌트(Hannah Arendt)를 인용하며 더욱 깊은 경고를 전한다. 전체주의가 원하는 시민은 특정 이념을 굳게 믿는 사람이 아니라, "사실과 허구, 참과 거짓의 구별이 더 이상 존재하지 않는 사람들"이라는 것이다.10) 진리를 향한 사랑이 사라질 때 민주주의는 제도만 남고 내용은 무너지기 시작한다.

권력의 문화, 새로운 바벨

교황청은 자율 무기, 감시, 허위 정보를 모두 하나의 이름으로 부른다. 권력의 문화(cultura della potenza)이다. 회칙 188항은 정의한다. "우리가 살아가는 시대에는 권력의 문화가 공고해지고 있다. 그 안에서 수단의 가용성과 지배 능력은 의제와 결정의 기준을 좌우하고, 인류의 공동선을 배경으로 밀어내며, 전쟁 중인 민족들의 구체적 비극을 전략적 이익에 비해 부차적인 변수로 환원시키는 경향이 있다."11)

권력의 문화에서는 무엇이 옳은가보다 무엇이 가능한가가 먼저 기준이 된다. 공동선보다 효율이, 인간보다 전략이, 생명보다 지배력이 우선한다. 결국 전쟁도, 감시도, 거짓 정보도 모두 같은 뿌리에서 자라난다.

그래서 회칙은 처음부터 하나의 질문을 던진다. 인류는 새로운 바벨탑을 세울 것인가, 아니면 새로운 예루살렘을 세울 것인가. 바벨은 힘으로 사람을 지배하려 하지만, 예루살렘은 책임과 연대로 공동체를 세운다. AI는 어느 길도 스스로 선택하지 않는다. 선택하는 것은 언제나 인간이다.

무장해제된 말이 평화를 만든다

교황청은 마지막으로 뜻밖의 처방을 제시한다. 말의 무장해제(disarmare le parole)이다.12) 평화는 무기만 내려놓는다고 이루어지지 않는다. 혐오와 조롱, 적대와 거짓으로 가득한 언어도 함께 내려놓아야 한다.

AI 역시 두 얼굴을 갖고 있다. 분노와 혐오를 증폭시키는 도구가 될 수도 있고, 서로를 이해하게 하는 대화의 도구가 될 수도 있다. 결국 어떤 AI를 만들 것인가는 어떤 인간이 될 것인가의 문제다.

회칙 240항은 마지막에서 이렇게 희망을 말한다. 신자는 "불평등 대신 더 큰 정의가 자리잡기를, 그리고 전쟁 산업 대신 평화의 장인들의 일이 자리잡기를" 노력한다.13) AI 시대의 평화는 저절로 오지 않는다. 무기의 알고리즘 대신 평화의 알고리즘을, 감시의 기술 대신 보호의 기술을, 거짓 정보의 자동 생산 대신 진실한 소통을 선택하는 사람들에 의해 비로소 만들어진다. AI의 어두운 얼굴을 바라보는 이유는 두려움 때문이 아니다. 그 시대에도 인간다움을 잃지 않기 위해서이다.

1) 교황청 신앙교리부 · 문화 교육부, 공지(公知) Antiqua et Nova, 100-102항 (자율 무기 시스템에 관한 교회의 단호한 경고). 한국천주교주교회의 공식 한국어 번역, 2025년 7월 15일 공개.

2) K. Bondar, Ukraine's Future Vision and Current Capabilities for Waging AI-Enabled Autonomous Warfare, Washington, D.C. : Center for Strategic and International Studies (CSIS), 2025년 3월 ; S. Freedberg, "Trained on Classified Battlefield Data, AI Multiplies Effectiveness of Ukraine's Drones," Breaking Defense, 2025년 3월 17일 ; D. Kirichenko, "Ukraine's AI Drones Are Hunting Russian Supply Lines," Forbes, 2026년 5월 12일.

3) M. Klare, "AI Plays Major Role in the War on Iran," Arms Control Association, Arms Control Today, 2026년 5월 ; M. Brown, "The First AI War : How the Iran Conflict Is Reshaping Warfare," Forbes, 2026년 3월 30일 ; P. Rincon, "How AI Is Shaping the War in Iran — and What's Next for Future Conflicts," Nature, 2026년 3월 6일 ; "AI Warfare," Wikipedia (2026년 미납 여학교 공격 조사 관련).

4) Y. Abraham, "'Lavender' : The AI Machine Directing Israel's Bombing Spree in Gaza," +972 Magazine, 2024년 4월 3일 ; Y. Abraham, "'A Mass Assassination Factory' : Inside Israel's Calculated Bombing of Gaza," +972 Magazine, 2023년 11월 30일 (하브소라 / Habsora 관련) ; Amnesty International, Automated Apartheid, London : Amnesty International, 2023.

5) 회칙 Magnifica Humanitas, 197항.

6) 같은 문헌, 171항.

7) 공지 Antiqua et Nova, 90항.

8) 같은 문헌, 85-87항 (허위 정보 · 딥페이크 · 환각 hallucination에 관한 경고).

9) 회칙 Magnifica Humanitas, 132항.

10) 같은 문헌, 134항. H. Arendt, The Origins of Totalitarianism, New York : Harcourt, Brace & Co., 1951, 474 인용.

11) 회칙 Magnifica Humanitas, 188항.

12) 같은 문헌, 214항. "말의 무장해제(disarmare le parole)" — 프란치스코 교황의 표현을 회칙이 수용.

13) 같은 문헌, 240항.

참고문헌

1. 교황청 문헌 (원전)

• Leone XIV, Lettera Enciclica Magnifica Humanitas. Sulla custodia della persona umana nel tempo dell'intelligenza artificiale, Città del Vaticano, 15 maggio 2026 (특히 132-138항 · 171-172항 · 188-209항 · 214항 · 240항).

• Dicastero per la Dottrina della Fede – Dicastero per la Cultura e l'Educazione, Nota Antiqua et Nova. Nota sul rapporto tra intelligenza artificiale e intelligenza umana, Città del Vaticano, 28 gennaio 2025 (특히 85-102항 — 허위 정보 · 감시 · 전쟁).

• Francesco, Messaggio per la 57ª Giornata Mondiale della Pace : Intelligenza artificiale e pace, Città del Vaticano, 1 gennaio 2024.

2. 한국어 공식 번역본

• 한국천주교주교회의, 「옛것과 새것(Antiqua et Nova) — 인공 지능과 인간 지성의 관계에 관한 공지」, 한국천주교중앙협의회, 2025년 7월 15일 공개. (GoodNews 자료번호 205252)

3. 실전 사례 : 우크라이나

• K. Bondar, Ukraine's Future Vision and Current Capabilities for Waging AI-Enabled Autonomous Warfare, Washington, D.C. : Center for Strategic and International Studies (CSIS), 2025.

• S. Freedberg, "Trained on Classified Battlefield Data, AI Multiplies Effectiveness of Ukraine's Drones : Report," Breaking Defense, 2025년 3월 17일.

• D. Kirichenko, "Ukraine's AI Drones Are Hunting Russian Supply Lines," Forbes, 2026년 5월 12일.

• "The Coming Compute War in Ukraine," Atlantic Council, 2026년 3월.

4. 실전 사례 : 이스라엘 · 미국 · 이란

• M. Klare, "AI Plays Major Role in the War on Iran," Arms Control Today, Arms Control Association, 2026년 5월호.

• M. Brown, "The First AI War : How the Iran Conflict Is Reshaping Warfare," Forbes, 2026년 3월 30일.

• P. Rincon, "How AI Is Shaping the War in Iran — and What's Next for Future Conflicts," Nature, 2026년 3월 6일.

• "Streamlining the Kill Chain : How AI Is Changing Modern Warfare," France 24, 2026년 3월 21일.

• "The Iran War Highlights the Creeping Use of AI in Warfare," Chatham House, 2026년 3월.

5. 실전 사례 : 가자지구

• Y. Abraham, "'Lavender' : The AI Machine Directing Israel's Bombing Spree in Gaza," +972 Magazine · Local Call, 2024년 4월 3일.

• Y. Abraham, "'A Mass Assassination Factory' : Inside Israel's Calculated Bombing of Gaza," +972 Magazine · Local Call, 2023년 11월 30일.

• M. Schmitt · L. Ford, "The Gospel, Lavender, and the Law of Armed Conflict," Articles of War, Lieber Institute West Point, 2024년 4월.

• Amnesty International, Automated Apartheid : How Facial Recognition Fragments, Segregates and Controls Palestinians in the OPT, London : Amnesty International, 2023.

6. 정치철학 · 비판 이론

• H. Arendt, The Origins of Totalitarianism, New York : Harcourt, Brace & Co., 1951. (한국어 : 『전체주의의 기원』, 이진우 · 박미애 역, 한길사, 2006)

• S. Zuboff, The Age of Surveillance Capitalism : The Fight for a Human Future at the New Frontier of Power, New York : PublicAffairs, 2019.

7. AI 윤리 · 국제 인도법

• International Committee of the Red Cross (ICRC), Position on Autonomous Weapon Systems, Geneva : ICRC, 2021.

• United Nations General Assembly, Resolution on Artificial Intelligence in the Military Domain and Its Implications for International Peace and Security, A/RES/80/L.30, 2025년 12월 (156개국 찬성 · 러시아 · 이스라엘 · 미국 반대 · 중국 기권).