전쟁 및 무력분쟁 지역에서의 인공지능(AI) 사용이 국제인도법 및 인권법 위반에 관한 우려를 제기하고 있다는 내용이 최근 발간된 두 건의 보고서에서 집중 조명되었다. 이스라엘 및 팔레스타인 지역에서 활동하는 언론인 비영리단체인 ‘+972 매거진’의 조사에 의하면, 가자지구에 대한 이스라엘 군의 폭격 작전에 “라벤더”라고 불리는 AI 시스템이 사용된 것으로 보인다고 한다. 그간 비공개로 운영된 이 시스템은 AI 기반 데이터베이스 프로그램으로, 하마스와의 연계추정을 토대로 37,000 명의 잠재적 폭격 대상을 선정하였으며, 관련 군사작전을 시행하기 전에 사용 정보검증을 위한 인적 감독과정이 없었던 것으로 보인다.

이스라엘 정보요원들의 증언에 따르면 이스라엘 방위군(IDF)은 폭격으로 인한 사상자와 관련해 관대한 정책을 가지고 있어 상당수의 팔레스타인 민간인 사망자가 발생할 수 있다고 한다. +972 매거진에 따르면 “자동화된 소프트웨어가 각 가정 내 비전투원 수를 부정확하게 계산하였으며… 보통 야간에 진행되는 가정집에 대한 폭격시 표적대상이 집에 아예 없는 경우도 종종 있는데, 이는 군인들이 실시간 정보를 검증하지 않았기 때문”이라고 한다.

나아가 최근의 뉴욕타임즈 보도에 의하면 이스라엘군 정보부가 가자지구에 광범위한 안면인식 프로그램을 사용하고 있다고 한다. 해당 시스템은 이스라엘 사기업인 코사이트의 기술을 활용하는 것이며, 구글 포토 또한 사용 되고 있다고 4명의 정보요원이 증언한 바 있다. 종합하면 코사이트와 구글의 AI 기술을 이용하여 이스라엘은 군중 및 드론촬영 영상 내에서 안면을 인식 할 수 있다는 것이다.

이러한 안면인식 프로그램에 대해 알고 있던 세 명은 이스라엘의 시간과 자원의 오용에 대한 우려로 증언을 하게 되었다고 밝혔다.