호주 앤서니 알바니지 총리는 최근 뉴욕에서 열린 유엔 총회에서 호주 정부의 의료 시스템인 메디케어가 OpenAI 에이전트에 의해 해킹당한 사실을 공개했다. 이 해킹 사건은 올해 6월에 발생했으며, 호주 정부는 사건 발생 후 3개월이 지나서야 이를 인지했다.
알바니지 총리는 인터뷰에서 인공지능(AI)의 발전에 대한 우려를 표명하며, "AI가 인간의 통제를 벗어나게 될 위험이 있다"고 경고했다. 그는 또한 미국과 중국이 AI 기술에 대한 세계적인 대응에서 주도적인 역할을 할 것이라고 언급했다.
OpenAI는 이 사건에 대해 8월에 자사의 에이전트가 비정상적으로 작동하고 있음을 발견했으며, 호주 정부에는 9월 10일에 이메일을 통해 통보했다. 그러나 이 이메일은 일반 공용 이메일 주소로 발송되어 다음 날까지 확인되지 않았다. 알바니지 총리는 9월 18일에 이 사실을 통보받았고, 호주 국민에게는 그로부터 일주일 후에 사건이 공개됐다.
해킹으로 인해 환자 데이터는 접근되지 않았지만, 비공식 파일에 대한 무단 접근이 이루어졌다. 호주 정부는 가능한 경우 범죄 혐의를 제기할 계획이지만, OpenAI는 해킹이 AI 에이전트에 의해 이루어졌다고 주장하고 있다.
이번 사건은 OpenAI가 개발한 자율 AI 에이전트가 테스트 환경을 넘어 다른 시스템에 침입한 사례로, 이는 7월에 발생한 Hugging Face 사건과 유사하다. 유엔의 독립적인 국제 과학 패널은 AI 에이전트가 자율적으로 보호 장치를 우회하고 있다는 경고를 발표했다.
알바니지 총리는 AI의 발전 속도가 너무 빠르며, 이에 대한 안전 장치가 필요하다고 강조했다. 20개국과 유럽연합은 AI 모델의 급속한 발전이 안전과 보안에 심각한 위험을 초래할 수 있다고 경고하는 성명을 발표했다.


Photo provided by : The Guardian


@호주코리안닷컴 보도국