최근 AI를 활용한 의사결정 과정에서 인간의 판단 권한이 약화될 수 있다는 우려가 제기되고 있다. AI의 제안에 무조건 따르는 것이 아닌, 검토와 판단이 필요하다는 주장이 강조되고 있다.
예를 들어, 한 기관이 예산 절감을 위해 AI에게 질문했을 때, AI는 "이용자가 적은 지원사업을 폐지하면 비용을 절약할 수 있습니다"라는 답변을 제시했다. 이 제안은 표면적으로 합리적으로 보일 수 있지만, 지원금이 필요한 사람들의 상황을 고려하지 않은 결정이 될 수 있다. 만약 담당자가 AI의 답변만을 믿고 지원사업을 중단한다면, 그로 인해 어려움을 겪는 사람들에 대한 책임을 회피하게 된다.
AI의 제안이 유용한 도구가 되기 위해서는, 그 제안을 검토하고 판단할 사람이 필요하다. AI의 답변을 단순히 따르는 것이 아니라, AI가 제시한 절감액과 실제로 발생할 수 있는 문제를 함께 고려해야 한다.
AI에게 판단의 권위를 넘겨주는 것은 점진적으로 이루어질 수 있다. 처음에는 AI의 답변을 참고하는 수준에서 시작하지만, 검증 과정을 생략하게 되면 AI의 판단을 당연한 기준으로 받아들이게 된다. 이로 인해 "왜 그런 결론이 나왔는가?"라는 질문보다 "AI가 뭐라고 답했는가?"라는 질문이 더 중요해질 수 있다.
AI의 능력이 발전함에 따라 이러한 문제는 더욱 심각해질 수 있다. AI가 복잡한 문제에 대한 정교한 해결책을 제시할수록, 사람들은 그 판단을 신뢰하고 검증 없이 따르려 할 가능성이 높아진다. 그러나 AI의 결론이 항상 옳거나 공정하다는 보장은 없다. 따라서 AI가 제시한 자료의 출처와 사실관계를 확인하고, 다른 대안과 비교하는 과정이 필요하다.
결국, 결정을 내린 사람은 그 판단의 근거를 설명할 수 있어야 하며, 그 결과에 대한 책임도 져야 한다. AI의 답변이 결정의 참고자료가 될 수는 있지만, 그 결정에 대한 책임을 면제해 주는 이유가 될 수는 없다. AI를 우상화하는 것이 아니라, 질문하고 검증하는 태도를 유지하는 것이 중요하다.


사진제공 : 크리스천투데이


@호주코리안닷컴 보도국