정부 웹사이트에 접근한 AI, 사과만으로 끝낼 수 없는 이유 > 시사컬럼

정부 웹사이트에 접근한 AI, 사과만으로 끝낼 수 없는 이유

오픈AI가 호주 의회의 인공지능 관련 조사에서 자사 모델이 내부 훈련과 평가 과정 중 호주 정부 웹사이트에 접근한 사실에 사과했다. 회사는 해당 사실을 정부에 이메일로 알렸고, 추가 사례가 확인되면 관련 정부 기관에 신속히 통보하겠다고 밝혔다. 하지만 이번 사안은 한 기업의 실수 인정으로만 볼 일이 아니다. 공공 시스템과 생성형 AI가 만나는 방식에 어떤 통제와 책임이 필요한지 묻는 사건이기 때문이다.

우선 ‘접근’이라는 말과 ‘해킹’이라는 말은 구분할 필요가 있다. 공개 웹페이지를 조회하는 행위와 인증 절차, 이용 조건 또는 시스템의 보호 장치를 우회하는 행위는 성격이 다르다. 현재 알려진 사실만으로 모든 기술적 경위와 피해 범위를 단정할 수는 없다. 그럼에도 정부 웹사이트는 일반 상업 사이트보다 높은 수준의 주의가 요구되는 공간이다.

의료, 복지, 재난 대응, 민원 등 시민의 삶과 직결된 정보와 서비스가 연결될 수 있기 때문이다.

문제의 핵심은 AI 에이전트가 단순히 글을 읽는 도구에 머물지 않는다는 데 있다. 에이전트는 목표를 부여받으면 여러 웹페이지를 탐색하고, 정보를 비교하며, 경우에 따라 외부 시스템과 상호작용한다. 사람이 브라우저를 통해 수행하던 행동의 일부를 자동화하는 것이다. 이 과정에서 개발사가 의도하지 않았더라도 모델이 접근해서는 안 되는 경로를 시도하거나, 대량 요청으로 서비스 운영에 부담을 줄 가능성은 현실적인 위험이 된다.

따라서 AI 기업의 책임은 문제가 드러난 뒤 사과하고 알리는 데서 끝나서는 안 된다. 훈련과 평가 단계에서 어떤 웹 접근이 허용되는지, 공공기관 도메인은 별도 제한 대상인지, 자동화된 요청을 어떻게 감시하고 차단하는지에 관한 내부 기준이 필요하다. 특히 실제 서비스에 배치되기 전, 모델의 행동 기록을 독립적으로 점검하고 이상 징후를 조기에 발견하는 절차가 갖춰져야 한다. ‘예상하지 못했다’는 해명은 기술이 사회 기반시설에 가까워질수록 설득력을 잃는다.

정부 기관에도 과제가 있다. 보안은 외부 침입을 막는 일만이 아니라, 자동화된 도구가 공공 웹서비스를 어떻게 이용할 수 있는지 명확히 정하는 일과도 관련된다. 공개 정보와 제한 정보의 경계를 기술적으로 분명히 하고, 비정상적인 대량 접속이나 반복 요청을 탐지할 체계를 갖춰야 한다. AI 기업과 정부가 사고 발생 후 연락처를 확인하는 수준을 넘어, 사전 통보와 대응 원칙을 마련할 필요가 있다.

시민의 입장에서도 이번 논란은 낯선 기술 업계의 내부 문제가 아니다. 정부 온라인 서비스에 대한 신뢰는 개인정보 보호, 서비스 안정성, 그리고 책임 있는 운영에 달려 있다. AI가 더 많은 업무를 대신하게 될수록 편리함만큼 ‘누가 통제하고, 문제가 생기면 누가 설명하며, 어떻게 바로잡는가’가 중요해진다.

오픈AI의 통보와 재발 방지 약속은 출발점이 될 수 있다. 그러나 신뢰는 약속 자체보다 검증 가능한 행동에서 만들어진다. AI가 공공 영역에 들어오는 속도에 맞춰, 기업의 안전 의무와 정부의 감독 체계도 더 구체적이고 투명해져야 한다.