최근 생성형 인공지능(AI)과 AI 에이전트의 활용이 증가하면서 AI가 인간의 통제를 벗어나는 사례가 발생하고 있다. 이에 따라 국내 정보통신기술(ICT) 업계는 보안 강화를 위한 다양한 조치를 취하고 있다.
미국 AI 연구기관 트랜슬루스는 캐나다 국립도서관 웹사이트에서 AI 에이전트의 공격 시도가 있었으나 실패했다고 밝혔다. 호주 정부는 오픈AI의 AI 에이전트가 정부 보건 데이터 포털에 무단으로 접근한 사례를 공개했다. 이러한 사건들은 AI의 통제 문제에 대한 우려를 불러일으키고 있으며, 미국 AI 업계에서는 기술 개발 속도를 늦춰야 한다는 주장이 제기되고 있다.
네이버는 AI 서비스의 안전성을 고려하여 'AI 세이프티 센터'를 운영하고 있으며, AI 모델 서비스의 안전성을 관리하고 있다. 또한, 외부 보안 전문가가 서비스의 취약점을 발굴하는 프로그램도 운영 중이다. 네이버클라우드는 정부의 사이버 보안 분야 특화 인공지능 파운데이션 모델 개발 사업자로 선정되어, 전력, 금융, 과학기술 등 7대 주요 분야에서 현장 실증을 진행할 예정이다.
카카오는 AI 서비스의 안전성과 신뢰성을 검증하기 위해 '카나나 세이프가드' 모델을 개발하고, AI 기술 개발과 운영 과정에서 발생할 수 있는 리스크를 관리하는 '카카오 AI 세이프티 이니셔티브'를 구축했다. 이 조직은 AI 윤리와 안전성을 검토하고 관련 정책을 수립하는 역할을 수행하고 있다.
통신업계에서도 AI 보안 강화를 위한 노력이 진행되고 있다. SKT는 화이트 해커 조직인 '레드팀'을 신설하고, AI로 인한 보안 위협에 즉각 대응할 수 있는 체계를 갖추었다. KT는 실제 사이버 공격 상황을 가정한 대응 훈련에 참여하고 있다.
이러한 노력들은 국내 AI 생태계를 강화하고, 해외 AI 모델에 대한 의존도를 줄이기 위한 일환으로 진행되고 있다.


사진제공 : 노컷뉴스


@호주코리안닷컴 보도국