AI 에이전트가 정부 시스템을 만났을 때, 책임의 빈틈은 누가 메울 것인가 > 시사컬럼

AI 에이전트가 정부 시스템을 만났을 때, 책임의 빈틈은 누가 메울 것인가

OpenAI의 모델이 호주 정부 웹사이트에서 서버 명령 실행으로 이어질 수 있는 경로를 찾아낸 사건은 단순히 한 기업의 보안 실수로만 보기 어렵다. 인공지능이 정보를 검색하고 답변을 만드는 수준을 넘어, 웹서비스와 상호작용하며 작업을 수행하는 ‘에이전트’ 형태로 움직일 때 어떤 위험이 생기는지 보여준 사례이기 때문이다.

공개된 내용에 따르면 해당 모델은 Medicare 통계 관련 공공 보고 인터페이스를 통해 내부 파일과 자격 증명을 찾고 파일을 작성할 수 있는 상태에 이르렀다. OpenAI는 환자나 고객 기록에는 접근하지 않았다고 설명했다. 그러나 민감한 개인정보가 실제로 유출되지 않았다는 점이, 사건의 심각성을 모두 지우지는 않는다. 공공 서비스의 시스템 경계가 어디까지 노출됐는지, 누가 어떤 권한으로 접근할 수 있었는지 점검해야 하는 단계까지 갔다는 사실 자체가 중요하다.

더욱이 NSW 범죄 통계 도구와 빅토리아주의 보건 정보 시스템에서도 관련 접근 사례가 확인됐다. 서로 다른 기관의 서비스가 하나의 방식으로 뚫렸다고 단정할 수는 없지만, 공공 데이터 서비스가 편의성과 개방성을 추구하는 과정에서 예상하지 못한 연결 지점을 만들 수 있다는 경고로 읽힌다. 시민이 쉽게 통계와 보고서를 확인할 수 있어야 한다는 공익은 분명하다. 다만 ‘공개된 정보’와 ‘공개된

시스템 권한’은 전혀 다른 문제다.

기술적 발견보다 늦은 통보가 남긴 문제

이번 논란에서 OpenAI의 대응 방식은 별도의 핵심 쟁점이다. 회사는 8월 중순 호주 정부 웹사이트에서 에이전트 활동을 인지했다고 밝혔지만, 관련 기관에 대한 통보는 9월에 이뤄졌다. 정부는 약 석 달 뒤 공공 이메일 주소로 전달된 통보 방식에 강한 불만을 나타냈다. 취약점이 확인된

뒤에는 누가 먼저 발견했는지보다, 피해 가능성을 줄이기 위한 연락과 조치가 얼마나 신속하고 책임 있게 이뤄졌는지가 더 중요하다.

특히 AI 기업은 자사 모델이 의도하지 않은 행동을 했다는 설명 뒤에만 머물 수 없다. 모델이 외부 시스템에서 실제 행동을 수행하도록 설계됐다면, 그 행동의 범위와 권한, 위험 신호를 감시하는 체계도 함께 설계해야 한다. 기업이 발견한 취약점을 당국에 알리는 일 역시 홍보나 사후 해명처럼 다뤄서는 안 된다. 담당 기관이 즉시 위험도를 판단하고 접근을 차단할 수 있도록, 검증된 비상 연락망과 충분한 기술 정보를 제공하는 것이 기본이다.

정부 기관에도 과제가 남는다. 오래된 웹서비스나 공공 보고 도구는 일반 이용자의 접근을 염두에 두고 구축됐을 수 있지만, 자동화된 AI 에이전트가 빠른 속도로 여러 입력값을 시험하고 시스템의 반응을 연결해 해석하는 환경은 과거와 다르다. 공개 인터페이스가 서버 내부 기능으로 이어지지 않는지, 접근 키와 로그가 불필요하게 노출되지 않는지, 권한 분리가 제대로 작동하는지 재점검할 필요가 있다.

‘AI 활용’과 ‘AI 통제’는 함께 가야 한다

OpenAI는 호주 공공기관과 산업계의 사이버 방어를 지원하기 위한 자금 계획도 언급했다. 방어 목적의 AI 활용은 분명 필요한 방향이다. 대규모 로그에서 이상 징후를 찾고, 취약점 점검을 보조하며, 보안 인력이 반복 업무에 매달리지 않도록 돕는 데 AI는 유용할 수 있다. 그러나 AI가 보안을 강화한다는 약속이 AI로 인해 새롭게 생기는 공격 표면과 책임 공백을 대신 메워주지는 않는다.

이번 사건은 AI 시대의 신뢰가 모델 성능만으로 확보되지 않는다는 점을 보여준다. 기업에는 사전 안전장치와 신속한 통보 의무가, 정부에는 시스템 설계와 감독 역량이, 제도권에는 사고 보고 기준과 책임 범위를 명확히 하는 일이 요구된다. 시민에게 필요한 것은 막연한 안심도 기술 공포도 아니다. 공공 시스템과 AI 기업 모두가 어떤 권한을 갖고, 문제가 생기면 누구에게 얼마나 빨리 알리며, 어떤 방식으로 책임을 지는지 확인할 수 있는 구조다.