솔직히 저는 군 복무 내내 "전쟁은 결국 사람이 결정한다"는 원칙을 당연하게 받아들였습니다. 그런데 최근 자포리자 주유소 드론 공격 사건을 보고 나서 그 믿음이 흔들렸습니다. AI가 탑재된 드론이 스스로 표적을 식별하고 공격했다는 분석이 나왔을 때, 제가 배워온 전쟁의 원칙 자체가 빠르게 낡아가고 있다는 걸 실감했습니다.
자율무기(LAWS), 전쟁터에서 무엇이 달라졌는가
우크라이나 자포리자의 한 주유소에 드론이 떨어져 민간인 3명이 사망했습니다. 평범한 공격처럼 보일 수 있지만, 이 드론을 분해한 결과가 달랐습니다. 내부에서 MBDI 초소형 컴퓨터 '제스노린'이 발견됐는데, 이 장치를 통해 드론이 카메라 영상을 실시간으로 분석하고 스스로 표적을 식별해 공격하도록 학습되어 있었다는 분석이 나왔습니다.
📌 주요 개념 정의
- 자율무기체계(LAWS, Lethal Autonomous Weapon Systems): 인간의 실시간 개입 없이 탐지, 식별, 공격까지 전 과정을 기계 알고리즘이 독자 수행하는 무기.
- 교전수칙(ROE, Rules of Engagement): 무력 사용의 시기, 대상, 방식을 규정한 군사 지침.
💡 34년 군 경력자의 현장 노트
과거 야전 지휘관으로 복무할 때 표적 식별 절차는 단 한 번의 오판도 허용되지 않는 극도의 스트레스 과정이었습니다. 교전수칙(ROE)을 충족하려면 민간인 피해 가능성, 무장 여부, 적대적 의도 등 수십 가지 변수를 인간이 현장에서 직관과 책임감을 갖고 판단해야 했습니다. 그 고뇌의 과정을 알고리즘에 넘긴다는 말을 들었을 때, 저는 기술보다 '책임의 공백'이 먼저 떠올랐습니다.
실제로 AI가 오인식을 일으켰을 때 그 책임을 설계자, 운용 부대, 지휘관 중 누구에게 물어야 할지는 미제입니다. 국제적십자위원회(ICRC) 역시 자율무기가 국제인도법(IHL) 상의 민간인-전투원 구별 의무를 충족할 수 있는지 심각한 우려를 표명하고 있습니다.
인간통제 없는 AI 무기, 어디서 멈춰야 하는가
자율형 드론을 옹호하는 이들은 "AI가 감정 없이 정확하게 판단한다"고 말합니다. 하지만 실전은 알고리즘이 학습한 깨끗한 시뮬레이션 환경이 아닙니다.
머신러닝(Machine Learning) 기반 표적 식별은 데이터 패턴을 분류합니다. 하지만 현장에는 연기, 먼지, 위장, 민간인 혼재 등 학습 데이터로 예측 불가능한 변수가 넘칩니다. 실전에서는 훈련받지 않은 맥락이 수시로 터져 나오며, 사람조차 결정을 머뭇거리는 모호한 상황이 다반사입니다.
| 구분 | 인간 지휘관 판단 | AI 알고리즘 판단 |
| 판단 근거 | 직관, 맥락 이해, 윤리적 책임감 | 학습된 데이터 패턴 분류 |
| 취약점 | 정보 부족, 극도의 스트레스, 편향 | 데이터 왜곡, 적대적 공격(Adversarial Attack) |
| 돌발 상황 대응 | 정황을 고려한 임기응변 가능 | 학습 외 변수 발생 시 오작동 위험 |
국제 사회에서는 AI가 탐지하고, 최종 살상 승인은 인간이 내리는 인간-기계 협력 체계(Human-Machine Teaming)가 대안으로 논의되고 있습니다. 유엔 군축국(UNODA)에서도 특정 재래식 무기 협약(CCW)을 통해 규제를 논의 중이지만, 기술 발전 속도를 규범이 따라가지 못하고 있습니다.
미래전 교리, 한국군은 어디쯤 와 있는가
솔직히 제가 전역할 때만 해도 드론은 정찰 자산의 보조 수단 정도로 취급됐습니다. 지금 우크라이나 전장을 보면 그 인식이 얼마나 빠르게 낡았는지를 절감합니다. 드론 한 대에 소형 컴퓨터와 카메라, AI 알고리즘을 결합하면 수억 원짜리 미사일과 유사한 타격 효과를 수십만 원으로 낼 수 있습니다. 전쟁의 경제학이 통째로 바뀌고 있는 겁니다.
📌 주요 개념 정의
- 군사 교리(Military Doctrine): 전쟁을 수행하는 원칙, 철학, 방법론의 집합.
- 전자전(Electronic Warfare, EW): 전자기 스펙트럼을 이용해 적의 통신·위성을 교란하거나 아군의 스펙트럼을 보호하는 작전.
한국군 역시 무인체계 도입에 속도를 내고 있지만, 하드웨어 확보보다 시급한 것은 교리 정립입니다. AI 드론을 어디까지 통제할 것인지, GPS 차단에 대응할 전자전(EW) 및 사이버전과 어떻게 통합할 것인지가 우선 정의되어야 합니다.
마치며: 드론의 숫자가 아니라 통제할 원칙이 필요하다
34년 군 생활에서 배운 냉정한 진리는 "외교든 기술이든 인간의 윤리와 억제력이 빠지면 재앙이 된다"는 점입니다.
AI 무기 개발 자체를 막을 수는 없습니다. 하지만 "AI가 더 정확하니 맡기면 된다"는 기술 낙관론은 경계해야 합니다. AI가 정찰하고 추적하더라도, 최종 살상 결정권은 인간이 갖는 원칙(Human-in-the-loop)을 지키는 것—그것이 한국군이 서둘러 마련해야 할 교리이자 윤리적 마지노선입니다.
💡 자주 묻는 질문 (FAQ)
Q1. 자율무기(LAWS)와 일반 공격용 드론의 차이는 무엇인가요?
A: 일반 드론은 원격 조종사가 영상을 보며 공격 버튼을 누르지만, LAWS는 기계 내부 알고리즘이 탐지부터 최종 타격까지 인간의 승인 없이 스스로 수행한다는 차이가 있습니다.
Q2. AI 드론이 오작동하여 민간인 피해가 발생하면 법적 책임은 누구에게 있나요?
A: 현재 국제법상 알고리즘 개발자, 무기 운용자, 명령을 내린 지휘관 중 누구에게 형사적 책임을 물을지 명확한 규정이 없어 국제 사회의 조속한 규범 제정이 시급한 상황입니다.
※ 본 글은 34년간의 군 복무 경험을 바탕으로 작성한 개인적인 안보 칼럼이며, 정부나 특정 기관의 공식 입장이 아닙니다.