최근 국무회의에서 국정 책임자가 AI인 ‘제미나이(Gemini)’의 답변을 공개하며 자신의 주장을 뒷받침한 사례가 논란이 되고 있다. 이는 AI의 답변이 공적 판단의 근거로 받아들여지는 선례를 남겼으며, AI에게 권위를 부여하는 결과를 초래했다.
AI의 답변은 검증을 받아야 할 기준이 아닌, 오히려 판단의 기준으로 사용되고 있다. AI는 복잡한 자료를 빠르게 정리할 수 있지만, 그 결과물이 정확한 사실을 보장하지는 않는다. 구글은 자사 AI의 답변이 틀릴 수 있으며, 공식 견해가 아니라고 안내하고 있다.
AI가 제시한 법 조항이 실제 조문과 일치하는지, 해당 사안에 적용되는지를 면밀히 살펴야 한다. 공적 판단은 제도와 시민의 삶에 영향을 미치기 때문이다. 시민이 공적 결정에 의문을 제기할 때, 단순히 ‘AI도 그렇게 말했다’는 답변은 타당성을 검토할 수 있는 근거를 제공하지 않는다.
OECD의 AI 원칙은 AI의 결과로 불이익을 받은 사람이 그 결과를 이해하고 이의를 제기할 수 있도록 관련 정보를 제공하라는 권고를 하고 있다. 공적 판단이 국민의 신뢰를 얻으려면 충분한 설명과 함께 누구나 의문을 제기할 수 있어야 한다.
AI를 만들거나 사용하는 사람은 각자의 역할에 맞게 책임을 져야 하며, 문제가 발생했을 때 판단의 근거를 확인할 수 있어야 한다. AI의 답변을 검증하지 않고 중요한 결정을 내린 후 ‘AI가 그렇게 말했다’고 주장하는 것은 책임을 다하는 것이 아니다.
따라서 AI에게 어떤 질문을 했고 어떤 답을 받았는지, 관련 자료를 어디서 확인했는지를 기록하는 것이 중요하다. 이는 판단에 문제가 발생했을 때 원인을 찾고 바로잡기 위해 필요하다.
AI를 국정에 활용할수록 설명하는 사람의 목소리가 더욱 분명해야 하며, 자신의 판단을 설명하고 문제가 있다면 이를 인정하고 바로잡는 모습이 국민의 신뢰를 높일 수 있다. 이러한 문제는 공직자뿐만 아니라 교회와 그리스도인에게도 해당된다. AI에게 진실을 확인하려는 질문을 던지는 것이 아니라, 이미 정해진 결론을 지지받으려는 태도를 경계해야 한다.


사진제공 : 크리스천투데이


@호주코리안닷컴 보도국