Anthropic kêu gọi chậm lại toàn cầu trong phát triển trí tuệ nhân tạo vì lo ngại hệ thống có thể tự tạo ra phiên bản kế nhiệm

Anthropic kêu gọi tạm dừng

Anthropic cảnh báo rằng trí tuệ nhân tạo đang tiến tới mức các hệ thống có thể giúp xây dựng phiên bản kế nhiệm của chính chúng, và công ty cho rằng khả năng đó nên thúc đẩy một sự chậm lại toàn cầu trong phát triển trí tuệ nhân tạo.

Trong một bài đăng blog, công ty nói rằng mặc dù trí tuệ nhân tạo có khả năng phát triển các hệ thống kế nhiệm có thể mang lại lợi ích lớn trong khoa học, chăm sóc sức khỏe và các lĩnh vực khác, nó cũng có thể làm tăng nguy cơ con người mất kiểm soát đối với các mô hình ngày càng có năng lực. Anthropic lập luận rằng một đợt tạm dừng hoặc chậm lại sẽ cho xã hội và nghiên cứu an toàn trí tuệ nhân tạo thời gian để bắt kịp.

Công ty nói rằng xu hướng này đang tiến nhanh đến mức cột mốc này “có thể đến sớm hơn mức hầu hết các tổ chức đã chuẩn bị,” mặc dù nó chưa xảy ra ngay bây giờ.

Việc xác minh sẽ là phần khó

Anthropic nói rằng bất kỳ việc chậm lại nào chỉ có thể hiệu quả nếu các phòng thí nghiệm trí tuệ nhân tạo lớn trên khắp thế giới đồng ý dừng hoặc giảm phát triển theo cùng các điều kiện. Công ty cũng nói rằng sẽ cần có những phương pháp đáng tin cậy để xác minh rằng các đối thủ thực sự đã tạm dừng, cảnh báo rằng nếu không một số tổ chức có thể tiếp tục tiến triển bí mật.

“Một sự chậm lại hoặc tạm dừng có ý nghĩa sẽ đòi hỏi nhiều phòng thí nghiệm có nguồn lực tốt ở rìa hoặc gần rìa của lĩnh vực, ở nhiều quốc gia, đồng ý dừng theo cùng các điều kiện,” công ty viết. “Nó cũng sẽ đòi hỏi mỗi bên có thể xác minh rằng những bên khác thực sự đã dừng.”

Đề xuất của công ty được dựa trên công trình từ Anthropic Institute, một bộ phận nghiên cứu mà họ ra mắt vào tháng Ba để nghiên cứu các thách thức nảy sinh khi các hệ thống trí tuệ nhân tạo trở nên tiên tiến hơn.

Sự hoài nghi theo sau cảnh báo

Lời kêu gọi của Anthropic cũng đã vấp phải sự hoài nghi. The Wall Street Journal lưu ý rằng các nhà phê bình xem những lời cảnh báo công khai của công ty như một chiến lược tiếp thị tiềm năng, nhằm khiến Anthropic có vẻ trách nhiệm hơn các đối thủ hoặc gợi ý rằng sản phẩm của chính họ là lựa chọn an toàn nhất.

Những nhà phê bình đó đã chỉ ra việc phát hành giới hạn mô hình an ninh mạng Mythos của Anthropic, mà công ty nói là bị hạn chế cho các đối tác được chọn vì khả năng tìm lỗ hổng của nó có thể gây hại nếu rơi vào tay kẻ xấu.

Trong khi đó, Anthropic là một trong những tên tuổi nổi bật nhất trong cuộc đua trí tuệ nhân tạo và theo báo cáo đang trên đà có quý đầu tiên có lợi nhuận. Họ gần đây đã nộp hồ sơ với Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) để lên sàn, có thể trước cuối năm.

Nguồn:

• engadget.com

Đọc thêm tin công nghệ trên Blog Doppler VPN.