AI가 고전적 웜을 더 빠르고 적응적인 위협으로 바꾼다

새로운 사이버보안 연구는 자율 악성코드와 최신 AI가 결합했을 때 벌어질 일을 경종으로 울리고 있다. 토론토 대학교 연구진은 공개적으로 접근 가능한 AI 모델로 구동되는 프로토타입 웜을 시연했는데, 이 웜은 알려진 컴퓨터 취약점을 악용하고, 테스트 네트워크에서 인간의 개입 없이 확산되며, 이동하면서 행동을 적응시킬 수 있다.

보통 특정 취약점을 노리도록 숙련된 프로그래머가 만드는 전통적 웜과 달리, 이 프로토타입은 Linux, Windows, IoT 기기를 포함한 다양한 시스템에 맞춰 공격을 맞춤화하도록 설계되었다. 확산하면서 데이터를 수집하고 비밀번호를 빼내며 네트워크 깊숙이 침투하는 데 도움이 되는 추가적인 약점을 찾아낸다. 한 경로가 패치되면 웜은 다른 경로를 시도할 수 있다.

연구팀은 해당 시스템을 보안이 유지되는 폐쇄 환경에서 구축했고, 광범위한 예방 조치와 함께 가중치가 공개된 AI 모델을 사용했다고 밝혔다. 그럼에도 불구하고 결과는 AI가 해제됐을 때 통제하기 어려운 규모로 자동화된 악용 도구로 전용될 수 있음을 보여주었다.

스스로 학습하며 진화하는 웜

연구진은 웜이 감염된 기기들로부터 처리 능력을 끌어와 스스로를 '먹여' 향후 공격을 위한 추론과 전략을 개선한다고 말한다. 이는 공격자가 발사 후에 더 이상 많은 시간이나 연산 자원을 들일 필요가 없는 새로운 형태의 위협 경제를 만들어낸다.

“해커들은 시간과 연산 자원이 제한돼 있어 보통 가장 가치가 높은 표적을 우선시할 수밖에 없었다,”라고 수석 저자 Nicolas Papernot는 말했다. “하지만 이제 웜이 발사되면 비용은 거의 0으로 떨어질 것이다.”

이 프로토타입은 여전히 한 가지 중요한 점에서 한계가 있다: 알려진 결함은 악용할 수 있지만 스스로 새로운 결함을 발견하지는 못한다. 그 때문에 기업이 이미 10,000개가 넘는 취약점을 찾아냈고 파트너사들의 버그 발견률을 10배 이상 끌어올렸다고 말하는 Anthropic의 Mythos 같은 AI 시스템보다는 덜 진보되어 있다.

그럼에도 연구진은 악의적 행위자가 이러한 능력들을 결합할 수 있다고 경고한다. 그런 시나리오에서는 AI 웜이 새로운 취약점을 찾아내고 악용할 수 있어 차단이 훨씬 더 어려워진다.

“상호 연결된 세계에서 어떤 시스템도 이 위협으로부터 면역이 아니다,”라고 Papernot는 말했다.

출처:

engadget.com