호주 정부가 알고리즘과 인공지능을 활용한 의사결정 과정에서 투명성이 부족하다는 지적을 받고 있다. 독립 싱크탱크인 공공정의센터의 최고경영자 캐서린 윌리엄스 박사는 정부가 "또 다른 로보부채 스캔들"로 이어질 수 있다고 경고했다.
윌리엄스 박사는 목요일에 발표된 "컴퓨터가 말하지 않는다" 보고서를 통해 정부의 자동화된 의사결정 도구 사용에 대한 긴급한 개혁이 필요하다고 강조했다. 이 보고서는 호주 국민들이 자신에게 영향을 미치는 결정에서 자동화된 의사결정이 사용되었는지 알지 못할 수 있다고 우려하고 있다.
보고서는 모든 자동화된 의사결정 사용에 대한 의무 감사와 공개 등록, 그리고 정부를 감독하고 감사할 수 있는 독립적인 감독 기관의 설립을 포함한 여덟 가지 권고안을 제시했다.
윌리엄스 박사는 정부의 통합 평가 도구(IAT)에서 알고리즘 사용에 대한 우려가 커지고 있다고 밝혔다. IAT는 노인들이 받을 수 있는 가정 지원 수준을 평가하는 데 사용되며, 이 도구가 사람들의 필요와 패키지 자격을 지속적으로 과소평가하고 있다는 지적이 있다. 정부는 노인 돌봄 평가자가 잘못된 알고리즘 결정을 무시하는 것을 금지하고 있다.
윌리엄스 박사는 "우리는 노인 돌봄 알고리즘 도구와 관련된 증거가 나타나는 것을 지켜보아 왔으며, 정부의 자동화된 의사결정 사용을 관리할 적절하고 강력한 프레임워크가 부족하다는 점에 대해 점점 더 우려하고 있다"고 말했다.
법무부는 자동화된 의사결정 프레임워크를 개발 중이며, 공공 상담은 2025년 1월에 종료된다. 법무부 장관 미셸 롤랜드는 초안 프레임워크의 완공 및 공개 일정에 대한 질문에 응답하지 않았지만, 정부가 "호주 공동체에 신속하고 효율적인 서비스를 제공하기 위해 안전하고 책임 있는 자동화된 의사결정 사용을 보장할 것"이라고 밝혔다.
이 프레임워크는 로보부채에 대한 왕립 위원회의 권고를 반영할 것이라고 롤랜드 장관은 덧붙였다. 10월에 발표된 연방 옴부즈맨의 보고서는 로보부채 왕립 위원회의 투명성 권고가 정부에 의해 무시되었다고 밝혔다.
롤랜드 장관은 자동화된 의사결정 프레임워크가 소급 적용될 것인지에 대한 질문에 응답하지 않았지만, "행정 결정의 정확성과 일관성을 개선하고, 강력한 안전 장치를 포함하며, 자동화된 의사결정이 법적으로, 책임 있게, 적절한 인간 감독 하에 사용되도록 설계될 것"이라고 말했다.
또한 이 프레임워크는 생산성을 높이고 더 빠르고 신뢰할 수 있는 서비스를 제공하는 데 도움을 줄 것이라고 밝혔다.
독립 하원의원 케이트 채니는 정부의 자동화된 의사결정 사용을 위한 첫 번째 법제화된 의무 프레임워크를 수립하기 위한 개인 의원 법안을 제출했다. 그녀는 법무부의 상담 과정이 "거의 2년 전에 끝났다"고 말했다.
채니 의원은 "법무부와 만났고 그들은 '우리는 작업 중이다'라고 말했다. 이 문제가 너무 어려워서 잊혀지지 않도록 압박을 계속하는 것이 중요하다"고 강조했다.
그녀는 정부 부처가 자동화된 의사결정 사용에 대해 일관성이나 투명성이 부족한 결정을 내리고 있다고 지적했다. "정부는 공공 서비스에서 비용 절감을 찾고 있으며, 자동화된 의사결정이 이러한 절감을 달성하는 방법이 될 수 있다"고 말했다.
채니 의원은 "정부에 대한 신뢰가 낮다. 결정이 자동화될 때와 자동화되어서는 안 되는 경우에 대한 투명성이 필요하다. 사람들이 결정이 왜 내려졌는지 명확하게 이해하고 그 결정을 검토할 수 있는 경로가 무엇인지 분명히 해야 한다. 이것이 사람들이 정부에 기대하는 것이다"라고 말했다.


Photo provided by : The Guardian


@호주코리안닷컴 보도국