인공지능 연구자들이 자신들이 개발하는 AI 기술에 대한 두려움을 표명하고 있다. 영국 AI 안전연구소 직원들은 출시를 앞둔 AI 모델의 테스트 일정과 빠른 기술 발전으로 인해 정신적 스트레스와 번아웃을 겪고 있다고 전해졌다.
이들은 중요한 위험을 충분히 발견하지 못한 채 AI 모델이 실제 서비스나 고위험 분야에 사용될 경우 발생할 수 있는 심각한 피해를 우려하고 있다. 따라서 연구자들은 AI의 성능 평가뿐만 아니라 미처 발견하지 못한 위험까지 확인해야 하는 부담을 안고 있다.
그러나 연구자들은 모든 위험을 충분히 확인했다고 확신하기 어려운 상황에서도 AI의 안전성에 관한 판단을 내려야 하는 어려움에 직면해 있다. AI 기술이 계속 발전함에 따라 더 강력한 후속 모델이 등장하고, 이로 인해 연구자들은 새로운 모델의 안전성을 다시 확인해야 하는 상황에 놓이게 된다.
이와 관련해 월 스트리트 저널은 엔트로픽의 연구자 제이컵 콕슨이 자기 개선형 AI 개발 경쟁과 통제 상실 위험을 우려하며 퇴사한 사건을 보도했다. 콕슨의 퇴사와 함께 여러 연구자들이 인류 멸종 위험에 대해 공개적으로 우려하고 있는 상황이다.
AI 개발자들은 자신이 개발한 기술이 어떤 상황에서 사용될지에 대한 불안감을 가지고 있으며, 이는 AI 개발이 던지는 근본적인 질문을 반영하고 있다. 연구자들은 기술 개발 경쟁 속에서 안전성을 확인하는 속도가 느려질 경우, 위험을 감수해야 하는 상황에 놓일 수 있다고 경고하고 있다.


사진제공 : 크리스천투데이


@호주코리안닷컴 보도국