캐나다의 한 기업이 인공지능(AI)을 이용해 범죄 발생을 예측하고 있습니다.

캐나다의 한 기업이 인공지능(AI)을 이용해 범죄 발생을 예측하고 있습니다.

이 캐나다 기술 기업은 미래 범죄 발생 위치를 예측할 수 있다고 주장하는 논란의 여지가 있는 AI 소프트웨어를 개발했습니다. 이 시스템은 방대한 양의 과거 범죄 데이터와 날씨, 시간대 등의 변수를 분석하여 범죄 발생 가능성이 통계적으로 높은 "핫스팟"을 식별합니다. 경찰은 이미 이 기술을 순찰 활동에 활용하고 있습니다.

예측 치안으로 알려진 이 AI는 사람이 놓칠 수 있는 미묘한 데이터 패턴을 찾아내는 방식으로 작동합니다. 예를 들어, 특정 지역에서 발생한 일련의 경미한 절도 사건과 인접한 지역에서 발생한 대형 절도 사건 사이의 상관관계를 파악할 수 있습니다. 목표는 경찰력을 보다 효율적으로 배분하고 범죄 발생을 사전에 예방하는 것입니다.

이 기술은 알고리즘 편향에 대한 격렬한 논쟁의 중심에 있습니다. 비판론자들은 이 AI가 과거 경찰 데이터에 기반하여 훈련되었기 때문에(이 데이터는 과거 경찰 활동의 편향으로 인해 왜곡될 수 있음) 소수 인종 및 저소득층 거주 지역을 불공평하게 표적으로 삼는다고 주장합니다. 이는 악순환을 초래합니다. 특정 지역에 경찰력이 더 많이 배치되면 체포 건수도 늘어나고, 이는 인공지능에게 자신의 판단이 옳았음을 "증명"하는 셈이 되어 과잉경찰력의 악순환을 지속시킵니다.

북미 전역의 지역사회는 이러한 현상에 대해 정의와 공정성에 대한 근본적인 의문을 제기하고 있습니다. 더 안전한 거리를 만들겠다는 약속은 매력적이지만, 많은 사람들은 우리가 사람들이 실제로 저지른 행동이 아니라 알고리즘이 예측하는 행동에 따라 심판받는 "사전 범죄" 단속의 미래를 만들어가고 있는 것은 아닌지 묻고 있습니다.

출처: 마셜 프로젝트, 여러 경찰서 보고서, 2024

출처: https://www.facebook.com/ItisaScience/posts/pfbid02CzazUzkJ9g4GvGQq9VnTyDTQGfD82ofr3A2yWdeCKeV38owU5ef15nSdWPkKmV8vl