미국의 인공지능 과다 의존이 이란 학교 공습의 참사에 일조했다.

블룸버그 통신은 금요일, 미 국방부 조사 관계자들을 인용해 인공지능(AI)에 대한 과도한 의존, 인력 감축, 그리고 서둘러 진행된 표적 설정 절차가 이란 미나브의 여학교에 대한 미국의 미사일 공격에 영향을 미쳤다고 보도했습니다.

2월 28일, 토마호크 미사일 두 발이 이란 남부의 샤자라 타이예베 초등학교를 타격하여 어린이 123명을 포함해 최소 157명이 사망했습니다. 이 공격은 미국과 이스라엘이 이란 전역에 걸쳐 감행한 공격의 첫 번째 물결 중에 발생했습니다. 해당 학교는 해군 기지 맞은편에 위치해 있었는데, 이는 공격 목표가 해군 기지였을 가능성이 높습니다.

미국 중부사령부(CENTCOM) 일부 관계자들은 팔란티어의 메이븐 스마트 시스템이 잠재적 목표물을 선정할 때 오래되거나 일관성이 없는 정보를 걸러낼 것으로 기대했던 것으로 알려졌습니다. 이전 보도에 따르면 군은 해당 학교를 기지의 일부로 잘못 묘사한 구식 위성 이미지에 의존했던 것으로 전해졌습니다.

블룸버그에 따르면, 메이븐을 사용하면 타겟 목록을 작성하는 과정을 단 몇 분으로 단축할 수 있다고 합니다.

팔란티어 대변인은 블룸버그 통신에 "회사는 기본 데이터나 정보 결함 식별에 대한 책임이 없다" 며 미나브 공습에서 자사 소프트웨어의 결함을 입증할 증거는 없다고 밝혔습니다.

AI 업계의 거물인 마이크로소프트는 메이븐을 업그레이드하여 "대상 선정에서 탈락 요인을 파악하고, 인간의 검토 과정에서 놓쳤을 수 있는 불일치 및 부정확한 정보를 표시하기 위해 기본 인텔리전스를 재검토"하도록 했다고 블룸버그 통신이 소식통을 인용해 보도했습니다.

조사관들은 또한 피트 헤그세스 국방장관의 지시에 따라 국방부가 민간인 피해 완화(CHM) 부서 대부분을 해체하고 직원 수를 약 90% 감축하여 20명 미만으로 줄였다는 점을 지적했다고 합니다. 중부사령부(CENTCOM)의 CHM 팀은 10명에서 1명으로 줄어들었고, 공격 전 미나브 부지를 검토한 CHM 담당자는 아무도 없었다고 합니다.

당시 유엔 인권 최고대표인 볼커 투르크는 학교 폭격이 "본능적인 공포를 불러일으켰다"고 말했습니다. 목요일, 유엔 진상조사단은 해당 공격이 전쟁 범죄에 해당한다고 믿을 만한 "합리적인 근거"가 있다고 밝혔습니다. 미국 국무부는 이 조사 결과를 거부하며 유엔이 "반미 수사와 반유대주의를 조장" 하고 "억압적인 정권"을 달래고 있다고 비난했습니다.

미국은 이번 공격에 대한 책임을 공식적으로 인정하지 않았으며, 도널드 트럼프 대통령은 미사일이 이란의 소행일 가능성을 시사했습니다. 그러나 미국 언론의 조사에 따르면 해당 미사일은 미국산인 것으로 나타났습니다.

원문: https://www.rt.com/news/646000-overreliance-on-ai-contributed-to/