서호주에서 실시간 얼굴 인식 기술을 활용한 시험이 진행되어 122명이 체포됐다. 이 시험은 5개월 동안 진행되었으며, 1,380,882개의 얼굴이 스캔됐다.
서호주 경찰은 이 기술이 43개 지역 및 도시에서 100차례 배포되었으며, 이 과정에서 9건의 잘못된 경고가 발생했다고 밝혔다. 체포된 122명 외에도 경찰은 146명의 등록 성범죄자와 접촉하고 10명의 복지 점검을 실시했다.
퍼스 로열 쇼에서 진행된 세 차례의 작전에서는 223,749개의 얼굴이 스캔되었고, 이로 인해 15건의 경고가 발생했으며, 3명이 체포되고 7명이 등록 성범죄자와 상호작용했다.
경찰 대변인은 이 시스템이 138만 건의 스캔 중 9건의 잘못된 경고를 발생시켰으며, 이는 0.00065%의 오류율에 해당한다고 설명했다. 서호주 경찰청장 콜 블랜치는 잘못된 경고에 대해 언급하며, 경찰이 각 개인과 상호작용을 했다고 밝혔다.
블랜치는 "잘못된 경고에 대해 매우 명확히 하고 싶다. 아무도 체포되지 않았고, 아무도 불만을 제기하지 않았다"고 말했다. 그는 경찰이 경고에 따라 대중과 상호작용하는 것이 중요하다고 강조했다.
그러나 시민 자유 옹호자들은 서호주 경찰의 오류율 설명 방식에 대해 비판했다. 시민 자유 호주 CEO 빌 롤링스는 경찰이 잘못된 경고율을 과장하고 있다고 주장하며, 체포된 122명의 재판 결과에 따라 잘못된 비율이 결정될 것이라고 말했다.
시험이 발표되었을 때, 서호주의 독립적인 개인정보 보호 감시 기관인 정보 위원회(OIC WA)는 이 시험에 참여하지 않았으며, "집단적인 개인정보 침해"에 대한 우려를 표명했다.
블랜치는 이번 시험이 위험을 초래하는 사람들을 식별하기 위해 현대 기술을 책임감 있게 사용하는 데 중점을 두었다고 밝혔다. 경찰 차량에 장착된 카메라는 지정된 공공 지역에서 얼굴을 스캔하고, 경찰 데이터베이스에서 경고 목록과 대조하여 작동했다. 경찰은 목록에 없는 사람의 이미지를 실시간으로 픽셀화하고 즉시 삭제했다고 설명했다.
이번 시험은 개인정보 보호 및 알고리즘 편향에 대한 우려를 불러일으켰으며, 전문가들은 이 기술이 이미 경찰 감시 목록에 과대표집된 소외된 집단에 불균형적인 영향을 미칠 수 있다고 경고했다. 현재 감시 차량은 공공 배치에서 제거되었으며, 경찰은 기술의 성과와 지역 사회에 미친 영향을 평가하고 있다.


Photo provided by : The Guardian


@호주코리안닷컴 보도국