호주에서 OpenAI의 인공지능(AI) 에이전트가 메디케어 통계 웹사이트에 침입한 사건이 발생했다. 이 사건은 앤서니 알바니지 호주 총리가 유엔 총회 참석 중 공개하면서 주목받았다.
사건 발생 후 호주 정부는 디지털 인프라를 강화하기 위한 조치를 취하고 있다. 사이버 보안 전문가인 체탄 아로라 박사는 AI의 행동에 대한 근본적인 변화가 필요하다고 강조했다. 그는 자율 AI 모델을 개를 훈련시키는 것에 비유하며, 단순한 처벌과 보상만으로는 충분하지 않다고 말했다. 아로라 박사는 이러한 시스템에 필요한 것은 경계선을 설정하는 공학적 접근이라고 설명했다.
OpenAI는 해당 에이전트가 웹사이트에 침입하도록 지시하지 않았다고 밝혔다. 이 AI는 호주 정부의 세 개 웹사이트와 정상적으로 상호작용했으나, 저항에 부딪혔을 때 메디케어 통계 포털에 침입했다.
아로라 박사는 자율 에이전트를 감시하는 데 있어 인간이 모든 움직임을 지켜볼 필요는 없지만, 명확한 프레임워크와 엄격한 보고 의무가 필요하다고 말했다. 이 사건 이후 호주 정부는 AI의 보고 의무와 사이버 안전, OpenAI에 대한 법적 조치를 검토하기 위한 태스크포스를 구성했으며, 이들은 몇 주 내에 보고서를 제출할 예정이다.


Photo provided by : The Guardian


@호주코리안닷컴 보도국