Anthropic appelle à un ralentissement mondial du développement de l'IA par crainte que des systèmes puissent construire leurs successeurs
Anthropic demande une pause
Anthropic met en garde contre le fait que l'intelligence artificielle progresse vers un point où des systèmes pourraient être capables d'aider à construire leurs propres successeurs, et estime que cette possibilité devrait entraîner un ralentissement mondial du développement de l'IA.
Dans un billet de blog, la société a déclaré que si une IA capable de développer des systèmes successeurs pourrait apporter d'importants bénéfices en science, en santé et dans d'autres domaines, elle pourrait aussi accroître le risque que les humains perdent le contrôle de modèles de plus en plus puissants. Anthropic a soutenu qu'une pause temporaire ou un ralentissement donnerait à la société et à la recherche en sécurité de l'IA le temps de rattraper leur retard.
La société a indiqué que la tendance évolue suffisamment rapidement pour que ce jalon « puisse arriver plus tôt que ce que la plupart des institutions sont prêtes à affronter », même s'il n'est pas encore atteint.
La vérification serait la partie difficile
Anthropic a précisé qu'un ralentissement ne fonctionnerait que si les principaux laboratoires d'IA du monde entier acceptaient d'arrêter ou de réduire le développement selon les mêmes conditions. Elle a également indiqué qu'il faudrait des moyens fiables de vérifier que les concurrents s'étaient effectivement mis en pause, en avertissant que sinon certaines organisations pourraient continuer à progresser en secret.
« Un ralentissement ou une pause significative nécessiterait que plusieurs laboratoires bien dotés, situés à l'avant-garde et dans plusieurs pays, acceptent d'arrêter selon les mêmes conditions », a écrit la société. « Il faudrait aussi que chacun puisse vérifier que les autres se sont réellement arrêtés. »
La proposition de la société s'appuie sur des travaux d'Anthropic Institute, une division de recherche qu'elle a lancée en mars pour étudier les défis qui émergent à mesure que les systèmes d'IA deviennent plus avancés.
Le scepticisme suit l'avertissement
Protégez votre vie privée avec Doppler VPN
3 jours d'essai gratuit. Sans inscription. Sans journaux.
L'appel d'Anthropic a aussi suscité du scepticisme. Le Wall Street Journal a noté que des détracteurs voient dans les avertissements publics de la société une possible stratégie marketing, visant à faire paraître Anthropic plus responsable que ses rivaux ou à suggérer que ses propres produits sont l'option la plus sûre.
Ces critiques ont souligné la sortie limitée du modèle cybersécurité Mythos d'Anthropic, que la société a dit avoir restreint à des partenaires sélectionnés en raison du potentiel de préjudice que ses capacités de détection de vulnérabilités pourraient causer entre de mauvaises mains.
Anthropic, pour sa part, est l'un des noms les plus en vue dans la course à l'IA et serait, selon les rapports, en voie d'enregistrer son premier trimestre rentable. Elle a récemment déposé des documents auprès de la SEC en vue d'une introduction en bourse, probablement avant la fin de l'année.
Sources :
Lisez plus d'actualités tech sur le Doppler VPN Blog.