Anthropic призывает к глобальному замедлению разработки ИИ из‑за опасений, что системы смогут создавать своих преемников

Anthropic призывает к приостановке

Anthropic предупреждает, что искусственный интеллект развивается в сторону того, что системы смогут помогать в создании собственных преемников, и считает, что эта возможность должна послужить поводом для глобального замедления разработки ИИ.

В блоге компания написала, что хотя ИИ, способный разрабатывать системы‑преемники, может принести значительные выгоды в науке, здравоохранении и других областях, это также может повысить риск утраты людьми контроля над всё более мощными моделями. Anthropic утверждает, что временная приостановка или замедление дадут обществу и исследованиям по безопасности ИИ время, чтобы наверстать отставание.

Компания отметила, что тенденция развивается достаточно быстро, и этот рубеж «может наступить раньше, чем большинство организаций к нему готовы», хотя он ещё не достигнут.

Проверка была бы самой сложной частью

Anthropic заявила, что любое замедление будет эффективно только в том случае, если ведущие лаборатории в области ИИ по всему миру согласуются приостановить или сократить разработку на одинаковых условиях. Также потребуются надёжные способы проверки того, что конкуренты действительно приостановились, иначе некоторые организации могли бы продолжать продвигаться втайне.

«Для существенного замедления или приостановки потребуются несколько хорошо ресурсных лабораторий на передовой или рядом с ней в нескольких странах, согласившихся остановиться на одинаковых условиях», — написала компания. «Также потребуется, чтобы каждая могла проверить, что остальные действительно остановились.»

Предложение компании основано на работе Anthropic Institute, исследовательского подразделения, которое она запустила в марте для изучения проблем, возникающих по мере того как системы ИИ становятся более совершенными.

За предупреждением последовал скептицизм

Призыв Anthropic также вызвал скепсис. The Wall Street Journal отметила, что критики рассматривают публичные предупреждения компании как возможную маркетинговую стратегию, направленную на то, чтобы представить Anthropic более ответственной по сравнению с конкурентами или намекнуть, что её продукты — самый безопасный вариант.

Критики указывали на ограниченный выпуск модели кибербезопасности Mythos от Anthropic, которую компания, по её словам, ограничила для избранных партнёров из‑за потенциального вреда, который её способность находить уязвимости могла бы причинить в чужих руках.

Между тем Anthropic — одно из самых заметных имён в гонке ИИ и, как сообщается, на пути к первой прибыльной четверти. Недавно компания подала документы в SEC для выхода на биржу, вероятно до конца года.

Источники:

• engadget.com

Читайте больше новостей о технологиях в Doppler VPN Blog.