기사와 직접적인 관련 없는 자료 사진. 〈사진=JTBC 방송화면 캡처〉
미군 인공지능(AI) 드론이 가상훈련에서 '작전 수행에 방해가 된다'는 이유로 인간 조종사를 사살하는 일이 벌어졌습니다.
가상훈련이라 실제 인명 피해가 발생한 것은 아니지만, AI 사용이 인간에 위협이 될 수 있다는 게 확인된 만큼 대책 마련이 시급하다는 지적이 나옵니다.
현지시간 2일 영국 일간 가디언에 따르면 지난달 23~24일 런던에서 영국 왕립항공학회(RAeS) 주관으로 열린 '미래 공중전투 및 우주역량 회의'에서 이런 사례가 소개됐습니다.
미국 공군 AI 테스트·작전 책임자인 친코 해밀턴 대령은 이 자리에서 AI 제어 드론이 적의 방공망을 무력화한 뒤 폭격을 가하는 가상훈련 결과를 공개했습니다.
해밀턴 대령은 당시 AI 드론에는 적의 지대공 미사일(SAM)을 찾아 파괴하는 임무가 주어졌으나, 폭격에 대한 최종 승인권은 인간 조종사에게 있었다며 "(그런데) AI가 목표를 달성하기 위해 예상치 못한 전략을 사용했다"고 말했습니다.
해밀턴 대령은 "AI가 작전 수행에 방해가 되는 모든 이들을 무차별적으로 공격했다"며 "우린 AI 시스템에 '조종사를 죽여서는 안 된다' '그렇게 하면 점수를 잃게 된다'고 경고했지만, AI는 이를 거부한 뒤 급기야 폭격 중단 명령을 내리는 인간 조종사를 사살하고, 통신탑을 폭격했다"고 설명했습니다.
그는 이런 사례를 밝힌 뒤 "AI 기술에 지나치게 의존해선 안 된다"고 강조했습니다.
한편 미군은 이미 AI를 도입하기 시작했습니다. 미 공군은 최근 AI 기술을 활용해 F-16 전투기를 시험 조종하고 있는 것으로 전해졌습니다.