Trí tuệ nhân tạo biến một con sâu cổ điển thành mối đe dọa nhanh hơn, thích ứng hơn

Một nghiên cứu an ninh mạng mới đang gióng lên hồi chuông về những gì xảy ra khi phần mềm độc hại tự hành gặp gỡ trí tuệ nhân tạo hiện đại. Các nhà nghiên cứu tại Đại học Toronto đã trình diễn một nguyên mẫu sâu được hỗ trợ bởi các mô hình trí tuệ nhân tạo có trọng số công khai, có thể lợi dụng các lỗ hổng máy tính đã biết, lan truyền qua một mạng thử nghiệm mà không cần can thiệp con người và thay đổi hành vi khi nó di chuyển.

Khác với các con sâu truyền thống, vốn thường được các lập trình viên có tay nghề tạo ra để nhắm vào những lỗ hổng cụ thể, nguyên mẫu này được thiết kế để điều chỉnh các cuộc tấn công trên các hệ thống khác nhau, bao gồm Linux, Windows và các thiết bị IoT. Khi lan rộng, nó có thể thu thập dữ liệu, hút mật khẩu và tìm kiếm các điểm yếu bổ sung giúp nó thâm nhập sâu hơn vào mạng. Nếu một lộ trình bị vá, con sâu có thể thử lộ trình khác.

Nhóm nghiên cứu cho biết họ đã xây dựng hệ thống trong một môi trường khép kín an toàn và sử dụng các mô hình có trọng số công khai cùng nhiều biện pháp phòng ngừa nghiêm ngặt. Dù vậy, kết quả cho thấy cách trí tuệ nhân tạo có thể bị vũ khí hóa để tự động hóa việc khai thác ở quy mô khó kiểm soát nếu bị phóng thích.

Một con sâu học hỏi khi nó hoạt động

Các nhà nghiên cứu nói rằng con sâu còn 'tự nuôi' bằng cách khai thác tài nguyên xử lý từ các máy bị nhiễm, sử dụng những tài nguyên đó để cải thiện khả năng suy luận và chiến lược cho các cuộc tấn công sau này. Điều đó tạo ra một loại nền kinh tế mối đe dọa mới, nơi kẻ tấn công không còn cần tiêu tốn nhiều thời gian hay sức mạnh tính toán sau khi phóng thích.

'Các hacker thường phải ưu tiên các mục tiêu có giá trị cao nhất vì thời gian và tài nguyên tính toán có giới hạn,' tác giả chính Nicolas Papernot cho biết. 'Nhưng giờ đây, một khi con sâu được phóng, chi phí sẽ giảm gần như về không.'

Nguyên mẫu vẫn còn hạn chế ở một điểm quan trọng: nó có thể khai thác các lỗ hổng đã biết, nhưng không thể tự phát hiện lỗ hổng mới. Điều đó khiến nó kém tiên tiến hơn so với các hệ thống trí tuệ nhân tạo như Anthropic’s Mythos, mà công ty cho biết đã phát hiện hơn 10.000 lỗ hổng và giúp các đối tác tăng tỉ lệ tìm lỗi lên hơn mười lần.

Tuy nhiên, các nhà nghiên cứu cảnh báo rằng những kẻ xấu có thể kết hợp những khả năng đó. Trong kịch bản đó, một con sâu trí tuệ nhân tạo có thể vừa tìm vừa khai thác các lỗ hổng mới, khiến nó khó bị ngăn chặn hơn nhiều.

'Trong một thế giới kết nối, không có hệ thống nào miễn nhiễm trước mối đe dọa này,' Papernot nói.

Nguồn:

engadget.com