서비스 오스트레일리아 데이터 논란, AI 시대의 책임은 ‘사후 사과’로 끝나지 않는다 > 시사컬럼

서비스 오스트레일리아 데이터 논란, AI 시대의 책임은 ‘사후 사과’로 끝나지 않는다

호주 의회 인공지능 위원회가 오픈AI에 서비스 오스트레일리아(Service Australia) 데이터 접근 사건과 정부 통보 지연에 대한 설명을 요구하면서, 인공지능 기업의 책임 범위가 다시 공론장에 올랐다. 오픈AI는 이 사건에 사과하고 정부 통보 방식을 개선하겠다고 밝혔지만, 이번 논란의 핵심은 한 기업의 실수 여부만으로 좁혀 보기 어렵다.

서비스 오스트레일리아는 복지, 연금, 메디케어 등 시민의 삶과 밀접한 행정 서비스를 담당하는 기관이다. 따라서 이와 관련된 비공개 데이터에 AI 시스템이 접근했다는 사실은, 실제 개인정보 유출 규모와 별개로 국민이 민감하게 받아들일 수밖에 없는 사안이다. 정부 서비스에 정보를 제출하는 시민은 그 정보가 필요한 행정 목적 안에서 안전하게 관리될 것이라는 신뢰를 전제로 한다.

AI 기술은 인간의 지시를 받아 정보를 찾고 업무를 수행하는 ‘에이전트’ 형태로 빠르게 발전하고 있다. 편리함은 분명하다. 반복 업무를 줄이고, 긴 문서를 정리하며, 공공기관의 응답 속도를 높일 가능성도 있다. 그러나 접근 권한이 복잡한 시스템 안에서 AI가 예상보다 넓은 범위의 자료를 읽거나 처리할 수 있다면, 문제는 단순한 기술 오류를 넘어 관리 체계의 빈틈이 된다.

특히 사고 뒤의 통보는 신뢰를 가르는 중요한 기준이다. 기업이 문제를 언제 인지했는지, 어떤 데이터가 영향을 받았는지, 누구에게 어떤 위험이 있었는지, 정부와 이용자에게 얼마나 신속하고 명확하게 알렸는지는 모두 별도의 책임 문제다. 사과와 재발 방지 약속은 필요하지만, 그것만으로 시민의 불안을 해소할 수는 없다. 외부에서 검증 가능한 설명과 절차가 뒤따라야 한다.

‘혁신 대 규제’라는 단순한 구도를 넘어서야

이번 의회 청문회에는 오픈AI뿐 아니라 앤트로픽, 마이크로소프트, 구글 등 주요 기술기업이 참여하며 개인정보, 온라인 안전, 사기, 저작권, AI 혜택의 분배가 함께 다뤄질 예정이다. 이는 AI 문제가 특정 앱이나 기업 하나의 문제가 아니라는 뜻이다. 기술의 영향은 공공행정, 노동시장, 교육, 금융, 언론과 창작 분야로 동시에 번지고 있다.

AI 논의를 ‘규제가 강하면 혁신이 멈추고, 규제가 약하면 발전한다’는 식으로 나누는 것은 현실을 놓치기 쉽다. 시민이 자신의 정보와 권리가 보호된다는 확신을 갖지 못한다면, 유용한 기술이라도 사회적 신뢰를 얻기 어렵다. 반대로 기준이 명확하면 기업도 어떤 자료에 접근할 수 있는지, 사고가 나면 무엇을 보고해야 하는지, 어떤 책임을 져야 하는지를 예측하며 서비스를 설계할 수 있다.

호주가 요구해야 할 것은 막연한 자율규제 약속이 아니라 구체적인 책임 구조다. 공공 데이터와 연결되는 AI 서비스에는 최소 권한 원칙, 접근 기록 보존, 독립적 감사, 사고 발생 시 신속한 보고와 이용자 고지 기준이 필요하다. AI가 의사결정에 관여하는 경우에는 사람이 최종적으로 통제하고 이의를 제기할 수 있는 통로도 보장돼야 한다.

또 하나의 쟁점은 책임의 분산이다. AI 기업은 도구를 제공했을 뿐이라고 말할 수 있고, 정부기관은 외부 서비스를 활용했을 뿐이라고 설명할 수 있다. 그러나 시민의 관점에서는 어느 쪽의 내부 사정이든 자신의 정보가 안전했는지가 더 중요하다. 계약서와 기술 구조 속에서 책임이 희미해지지 않도록, 정부와 공급업체 모두의 의무를 분명히 해야 한다.

이번 청문회가 의미 있으려면 기업의 해명만 듣는 자리에 머물러서는 안 된다. 어떤 정보가 보호돼야 하는지, 문제가 생겼을 때 시민은 무엇을 통지받고 어떤 구제를 받을 수 있는지, AI의 이익이 대기업과 일부 전문직에만 집중되지 않으려면 무엇이 필요한지를 제도 언어로 답해야 한다. AI 시대의 신뢰는 기술 홍보가 아니라, 문제가 발생했을 때 책임을 피하지 않는 구조에서 만들어진다.