[영한 번역 기업과인권리소스센터 제공]

“오픈AI, 자사 서비스 챗지피티(ChatGPT)의 “군사 및 전쟁목적” 사용금지 관련조항 은밀히 삭제”

인공지능 연구재단인 오픈AI(OpenAI)가 금주 챗지피티 등 이미 널리 사용되고 있는 강력한 AI 도구의 사용과 관련한 자사 정책에서 ‘군사적 목적의 기술사용’을 명시적으로 금지하는 문구를 조용히 삭제한 것으로 알려졌다.

지난 1월 10일 이전까지 오픈AI의 “사용정책” 페이지는 “무기개발 및 군사전쟁”을 포함하여 “신체적 위해를 가할 위험이 높은 활동”을 금지하는 내용을 포함하고 있었다. 이렇듯 AI도구의 군사적 적용에 대한 금지조항을 명시함으로써 각 정부 국방부처 및 기타 군사조직의 공식적 (또한 매우 수익성있는) 사용을 금지하는 것으로 보였다. 그러나 최근의 새 정책페이지는 “자신 또는 타인을 해치기 위한 목적의 사용”을 금지하는 조항만을 유지하고 이에 “무기의 사용 또는 개발”을 예시로 들고 있으나 “군사 및 전쟁 사용의 목적”에 대한 포괄적 금지 조항은 사라졌다.

금번 수정조치는 관련 페이지의 대대적 수정과 함께 예고없이 이루어진 것으로, 오픈AI는 이 것이 관련 문서의 “가독성을 높이고 보다 명확하게”만들기 위한 조치의 일환이라고 밝히며 기타 주요 언어 및 서식의 수정을 포함한 것이었다고 밝히고 있다.

오픈AI의 대변인 니코 펠릭스(Niko Felix)는 팟캐스트기반 언론 더 인터셉트(The Intercept)에 송신한 이메일에서 “우리는 보다 기억하기 쉽고 적용하기 쉬운 보편적 원칙을 만들고자 한것”이라며, “’타인을 해치지 말라’는 원칙은 매우 포괄적이지만 또한 쉽개 이해될 수 있고, 다양한 맥락에서 관련성을 찾을 수 있다. 또한 개정된 원칙은 무기와 타인에 관한 상해를 금지의 명확한 예시로 들고 있다”고 밝혔다.

한편 펠릭스 대변인은 보다 모호하여진 “위해”의 정의가 모든 군사적 사용여부를 포함하는지에 대한 여부에 대한 답변을 거부하였으나, “군사적 목적을 포함하여 ‘자사의 기술을 [개발] 혹은 [사용]하는 것, 타인 혹은 자산에 [상해를 입히거나] 어떤 서비스 또는 시스템의 보안을 위한하는 무단 활동에 [관여]하는 모든 활동’을 허용하고 있지 않다”고 답변하였다.

머싱러닝 및 자율안전시스템 보안 전문가 하이디 클라프(Heidy Kjlaaf)는 이와 관련하여 “수정 전 사용정책의 내용은 무기개발이나 군사 및 전쟁과 관련한 사용이 허용되지 않는다는 점을 뚜렷이 명시한 반면, 수정 후의 내용은 유연성 및 법 준수를 강조하는 것으로써 양자간에는 명백한 차이가 있다”고 평하였다. 또한 “무기개발 및 군사, 전쟁과 관련한 활동을 수행하는 것은 다양한 범위에서 합법적이나 AI의 안전성에 대한 잠재적 영향은 상당하다. 대규모 언어 모델(LLM)에 존재하는 편향성 및 환각(할루시네이션, 데이터나 맥락에 근거하지 않는 잘못된 정보나 허위정보)에 대하여 잘 알려진 사례들이 많으며 전반적인 정확성이 부족함을 고려할 때, 이를 군사 전쟁에서 사용한다면 정확하지 않고 편향된 작전으로 이어져 피해와 민간인 사상자를 증폭시킬 수 있다.

수정된 정책이 가져올 현실적 결과는 현재로써는 불투명하다. 지난해 더 인터셉트는 오픈 AI가 미 국방부 및 정보부처의 관심이 높아짐에 따라 자사의 분명한 ‘군사 및 전쟁’ 금지 정책을 시행할지 여부에 대해 언급하기를 꺼리고 있다고 보도한 바 있다.

현재 AI의 사회적 영향에 관한 연구기관인 AI 나우 인스티튜트(AI Now Institute)의 관리자이자 미 연방무역위원회의 AI정책 분석가로 근무한 바 있는 새라 마이어스 웨스트(Sarah Myers West)는 이와 관련하여 “ 가자지구의 민간인 표적 공격에 AI 시스템이 사용되었던 것을 고려할 때, 오픈 AI의 사용정책에서 ‘군사 및 전쟁’이라는 단어를 삭제하기로 한 것은 주목할 만한 결정”이라고 하였다.

더인터셉트의 요청에 따라 금번 오픈AI의 정책변경을 검토한 전문가들은, 해당기관이 군부와의 거래를 지양하는 입장을 약화시키고 있는 것으로 보인다고 평하였다. 랭커스터 대학교의 과학기술인류학 명예교수 루시 서치먼(Lucy Suchman)은 이와 관련하여 “ ‘군사 및 전쟁’이라는 용어를 ‘무기’로 대체한 것은 관련 매우 좁게 정의된 무기개발과 직접적으로 연관되지 않는 한 오픈 AI가 그 운영주체를 지원할 수 있도록 하는 여지를 남긴다”고 평했다. “물론 개인적으로는 무기의 개발이나 사용에 관여하지 않는다고 주장하면서 군사활동 플랫폼에 기여할 수 있으리라고 생각하는 것은 사회기술 체계의 명백한 일부분인 무기 및 그 지시와 통제 인프라를 그 카테고리에서 배제하려는 시도로서, 정직하지 못한 태도라도 생각한다”고 덧붙였다.