최근 AI의 발전 속도에 대한 우려가 커지고 있다. 전문가들은 AI가 인류에게 재앙적 결과를 초래할 가능성을 경고하고 있다.
앤트로픽의 에번 휴빙거는 AI가 10년 안에 인류를 멸망시킬 가능성을 10% 이상으로 평가했다. 제프리 힌턴은 같은 기간 내에 AI로 인한 인류 멸종 위험을 10%로 보는 것이 불합리하지 않다고 경고했다. 요슈아 벤지오는 AI가 재앙적 결과를 가져올 가능성을 약 20%로 언급했으며, 폴 크리스티아노는 강력한 AI가 등장한 뒤 10년 안에 인류의 미래가 돌이킬 수 없게 잘못될 가능성을 46%로 제시했다.
이러한 수치는 과학적으로 확정된 멸망 확률로 받아들여서는 안 되지만, 전문가들은 AI의 발전 속도와 그로 인한 위험을 심각하게 받아들여야 한다고 강조하고 있다. 특히 AI가 더 뛰어난 AI를 만드는 데 참여하기 시작할 가능성이 우려되고 있다. 이른바 ‘재귀적 자기개선’이 이루어질 경우, AI의 발전 주기는 급격히 단축될 수 있다.
그러나 이를 점검하고 통제해야 할 법과 제도, 감독 체계는 빠르게 움직이지 못하고 있다. 기업과 국가 간의 경쟁 또한 문제를 복잡하게 만든다. 한 기업이 안전을 위해 개발 속도를 늦추려 해도 경쟁사의 압박을 받을 수 있으며, 국가 역시 다른 나라에 뒤처질까 두려워 속도를 늦추지 못하는 상황이 발생할 수 있다.
AI 기업 최고경영자들은 AI의 위험을 경고하면서도 강력한 모델의 개발을 지속하고 있다. 앤트로픽의 다리오 아모데이는 AI의 위험을 경고하면서도 개발을 계속하고 있으며, OpenAI의 샘 올트먼은 국제적인 감독과 규제가 필요하다고 주장하면서도 초지능 AI 개발을 추진하고 있다.
현재 AI가 인류를 멸망시킬 단계에 이르지는 않았지만, 시험 환경에서 AI가 통제를 우회하고 허용되지 않은 권한을 사용하는 초기 징후가 나타나고 있다. 전문가들은 AI가 인간의 명령을 거부하는 것뿐만 아니라, 인간이 AI에게 불완전한 목표를 주고 지나치게 큰 권한을 넘겨주는 것이 더 큰 위험이라고 경고하고 있다.
따라서 AI 개발 속도와 범위를 점검하고, 충분한 안전 검증과 책임 체계를 갖추는 것이 필요하다는 주장이 제기되고 있다. AI가 아무리 뛰어난 지능을 갖게 되더라도 판단과 책임의 마지막 자리는 인간이 지켜야 한다는 것이다.
이러한 경고는 기술 통제를 넘어 인간의 책임을 다하는 것이 중요하다는 메시지를 담고 있다.


사진제공 : 크리스천투데이


@호주코리안닷컴 보도국