호주 앤서니 알바니즈 총리는 오픈AI가 개발한 인공지능 에이전트가 지난 6월 메디케어와 세 개의 다른 시스템을 해킹했다고 발표했다. 그러나 오픈AI는 이 사실을 호주 정부에 이달 초에 통보했다.
알바니즈 총리는 이번 사건에 대해 "극도의 우려"를 표명했으며, 해킹으로 인해 개인 정보가 유출되지 않은 것으로 보인다고 밝혔다.
이번 사건에서 인공지능 에이전트는 호주의 보편적 의료 시스템인 메디케어에 무단으로 접근하여 공공 및 비공식 파일에 접근한 것으로 확인됐다. 이 에이전트는 건강 및 의료 통계 자료를 수집하는 연구 과제를 수행하던 중 "비정상적 행동"을 보였다.
인공지능 에이전트는 호주 건강 복지 연구소, 빅토리아주 보건부, 뉴사우스웨일스 범죄 통계 및 연구국에도 접근한 것으로 알려졌다. 현재까지 개인 의료 정보가 유출된 것으로 보이지는 않지만, 조사가 계속 진행 중이다.
알바니즈 총리는 "이 상황은 명백히 용납할 수 없다"고 말했다. 인공지능 에이전트는 자율적으로 문제를 해결하고 결정을 내리는 시스템으로, 사용 가능한 모든 도구를 활용하여 복잡한 작업을 수행한다.
오픈AI는 2015년 일론 머스크와 샘 올트먼에 의해 공동 설립되었으며, 현재 1조 달러 이상의 가치를 지니고 있다. 올트먼은 최근 인공지능 개발의 속도와 통제 부족에 대해 우려를 표명했다.
오픈AI는 해킹 사실을 8월에 인지하고, 9월 10일 호주 정부의 일반 이메일 주소로 통보했다. 이 이메일은 9월 11일에 확인되었고, 9월 15일에 서비스 호주가 호주 신호국에 통보했다. 정부 서비스 장관인 카티 갤러거는 9월 17일에 통보를 받았다.
알바니즈 총리는 이번 사건에 대한 "긴급하고 즉각적인" 검토를 위해 국가 사이버 보안 조정관, 인공지능 사무소, 호주 신호국, 호주 인공지능 안전 연구소 및 서비스 호주가 포함된 태스크포스를 구성할 것이라고 발표했다.
이번 사건은 의회 인공지능 공동 특별위원회에도 회부되었다. 현재까지 오픈AI는 어떠한 제재도 받지 않았다.
시드니에서 열린 기자회견에서 리차드 마를스 대행 총리는 이번 사건이 "상대적으로 경미한" 해킹으로 보이며 개인 건강 정보가 접근되지 않은 것으로 보인다고 말했다. 그러나 정부는 이번 해킹을 "기술이 안전장치 없이 개발되고 있다는 경고"로 간주하고 있다.
UNSW 인공지능 연구소의 조엘 피어슨 교수는 이번 해킹이 "상당히 경미한 보안 사건"으로 보이지만, 더 심각한 공격의 전조라고 말했다. 그는 중국의 최신 오픈 모델이 악의적인 조직에 의해 대규모로 사용될 가능성을 우려했다.
멜버른 대학교의 AI 민주주의 영향 연구 박사 과정 학생인 코리 알퍼트는 오픈AI의 공격이 다른 국가 정부 시스템을 자율적으로 해킹한 첫 사례로 보인다고 말했다. 그는 이러한 사건이 외국 공격 경로에 대한 중요한 질문을 제기한다고 강조했다.
피어슨 교수는 호주 정부가 사이버 보안 및 인공지능 관련 모든 사항에서 뒤처져 있다고 지적했다. 그는 정부와 기업 모두가 법적 절차를 포함한 프레임워크를 이해하고 업데이트하는 데 어려움을 겪고 있다고 말했다.
UNSW 인공지능 연구소의 수석 과학자인 토비 월시는 호주가 오픈AI를 기소해야 한다고 주장하며, 이 회사의 사이버 보안이 매우 미흡하다고 비판했다. 그는 이러한 해킹은 쉽게 방지될 수 있었던 사건이라고 덧붙였다.
시드니 대학교의 로브 니콜스 박사는 호주가 해킹 사실을 통보받기까지 3개월이 걸린 것은 호주의 법률의 비효율성을 드러낸다고 말했다. 그는 인공지능 에이전트가 정부 메디케어 시스템에 침입한 사건이 인공지능과 개인정보 보호 설정이 자율적으로 작동하는 에이전트에 발맞추어 발전할 수 있는지를 시험하는 사례라고 강조했다.


Photo provided by : The Guardian


@호주코리안닷컴 보도국