최근 호주에서 발생한 메디케어 컴퓨터 보안 침해 사건에 대한 우려가 커지고 있다. 이 사건은 "AI 에이전트"가 관련되어 있다는 주장과 함께 논란이 일고 있다. 그러나 과거의 사례들과 비교할 때, 이러한 사건에서 책임을 AI 코드에 두는 것은 적절하지 않다는 지적이 있다.
예를 들어, 텔스트라와 옵투스의 서비스 중단 사건에서는 컴퓨터 시스템에 대한 비난이 없었고, 문제는 해당 기업에 귀속되었다. 이는 AI와 관련된 사건에서도 마찬가지로 적용되어야 한다는 주장이다. AI 프로그램에 입력된 정보나 잘못된 프로그래밍이 문제의 원인일 수 있으며, 이 경우 책임은 해당 정보를 입력한 사람이나 코드를 제작한 기업에 있어야 한다.
AI 프로그램의 오류를 수정하는 것은 쉽지 않다. 초기 컴퓨터 프로그램의 오류를 수정하는 과정은 "디버깅"이라는 필수적인 절차가 필요했지만, AI 프로그램에서는 수백억 개의 매개변수를 검사하는 것이 불가능하다. 따라서 외부 제약을 두는 것은 비현실적이라는 의견도 있다.
AI 기업들이 자신의 프로그램으로 인한 피해에 대한 책임을 지게 된다면, 이들은 프로그램의 기능을 제한할 수밖에 없을 것이다. 이는 실리콘밸리의 "빠르게 움직이고 문제를 해결하라"는 윤리와는 상반되는 접근이다. 기업들이 자신의 책임을 인식하게 되면, 프로그램 개발 시 발생할 수 있는 문제를 사전에 고려하게 될 것이다.
AI의 책임 문제는 기술 발전과 함께 계속 논의될 것이며, 기업들이 이러한 책임을 지게 될 경우, AI 소프트웨어의 발전 속도는 느려질 가능성이 있다. 그러나 이는 환경과 경제에 긍정적인 영향을 미칠 수 있다. AI 소프트웨어의 유익한 사용 사례는 여전히 존재하며, 이들 또한 새로운 기술이 가져오는 조정 문제를 동반할 것이다.


Photo provided by : The Guardian


@호주코리안닷컴 보도국