호주 연방 정부가 노인 돌봄 수준을 평가하기 위해 사용하는 알고리즘이 불공정하고 인간의 감독이 부족하다는 조사 결과가 나왔다. 이 조사는 연방 옴부즈맨의 보고서에 의해 밝혀졌다.
보고서는 로보데트 왕립위원회의 투명성 권고사항이 무시되었음을 지적했다. 옴부즈맨인 이안 앤더슨은 노인 돌봄 평가자가 임상적으로 잘못된 알고리즘 결정을 스스로 수정할 수 있도록 법률이 변경되어야 한다고 강조했다.
조사는 정부의 필수 통합 평가 도구(IAT)의 일환으로, 노인들이 비인간적인 알고리즘에 의해 적절한 돌봄을 받지 못하고 있다는 보도에 따라 진행되었다. 노인 돌봄 평가자는 IAT의 자금 패키지 권고를 무시할 수 없으며, 잘못된 결정이 내려져도 이를 수정할 수 없다.
보고서에 따르면, 법에 따라 이러한 자동화된 결정은 임상적으로 부적절하더라도 변경할 수 없다. 또한 알고리즘이 입력을 결과로 변환하는 방식에 대한 공개 정보가 전혀 없으며, 이로 인해 IAT는 '기술적 블랙박스'로 간주되고 있다.
IAT와 그 알고리즘은 공정하고 일관된 평가 시스템에 대한 공공의 신뢰를 저해할 가능성이 크다고 보고서는 밝혔다. IAT 개발에 참여한 이들은 정부가 알고리즘을 추가할 것이라는 사실을 알지 못했다고 전해졌다.
자유정보법에 따라 공개된 문서들은 부서의 혼란과 현장 평가자들의 심각한 임상적 고통을 드러냈다. 알고리즘 시행 직전, 법률이 인간의 개입을 금지하고 있다는 사실이 알려지면서, 부서 내부에서 비밀스러운 IT 우회 작업이 진행되었다.
보고서는 부서가 공공에 제공한 정보가 IAT와 관련된 주요 시험 및 상담이 현재 형태의 의사결정 프레임워크를 직접 지원했다고 주장했으나, 이는 사실이 아니라고 밝혔다. 실제로는 이전 버전의 IAT와 관련된 시험 및 상담이었으며, 의미 있는 상담이 없었다고 지적했다.
조사 결과, 감독의 실패가 드러났으며, 평가자의 자격과 기술이 IAT에 중요하지만, 부서는 계약 품질 통제를 시행하지 않았고 평가자가 필수 임상 자격을 보유하고 있는지 확인하지 않았다.
앤더슨은 IAT의 운영에 대한 언론과 대중의 우려가 이번 조사를 촉발했다고 밝혔다. 그는 알고리즘의 결정 과정에 대한 투명성이 부족하다고 강조했다.
보고서는 요구 평가 과정과 알고리즘의 규칙에 대한 포괄적인 검토를 촉구했다. 앤더슨은 부서가 알고리즘의 결정이 어떻게 이루어지는지 이해하지 못하고 있다고 지적하며, 법적 문제를 시급히 해결해야 한다고 말했다.
보건복지부는 이와 관련하여 논평을 요청받았다.


Photo provided by : The Guardian


@호주코리안닷컴 보도국