Anthropic pide una desaceleración global en el desarrollo de IA por temor a que los sistemas puedan crear a sus propios sucesores
Anthropic pide una pausa
Anthropic advierte que la inteligencia artificial avanza hacia un punto en el que los sistemas podrían ser capaces de ayudar a construir a sus propios sucesores, y sostiene que esa posibilidad debería impulsar una desaceleración global en el desarrollo de la IA.
En una entrada de blog, la compañía dijo que, si bien la IA capaz de desarrollar sistemas sucesores podría aportar grandes beneficios en la ciencia, la salud y otros campos, también podría aumentar el riesgo de que los humanos pierdan el control sobre modelos cada vez más capaces. Anthropic argumentó que una pausa temporal o una desaceleración daría a la sociedad y a la investigación en seguridad de la IA tiempo para ponerse al día.
La compañía dijo que la tendencia avanza lo suficientemente rápido como para que este hito “podría llegar antes de lo que la mayoría de las instituciones están preparadas,” aunque todavía no haya llegado.
La verificación sería la parte difícil
Anthropic dijo que cualquier desaceleración solo funcionaría si los principales laboratorios de IA de todo el mundo acordaran detener o reducir el desarrollo bajo las mismas condiciones. También afirmó que serían necesarias formas fiables de verificar que los competidores realmente se habían detenido, advirtiendo que de lo contrario algunas organizaciones podrían continuar avanzando en secreto.
“Una desaceleración o pausa significativa requeriría que múltiples laboratorios bien financiados en la vanguardia, en varios países, acordaran detenerse bajo las mismas condiciones,” escribió la compañía. “También requeriría que cada uno pueda verificar que los demás realmente se han detenido.”
La propuesta de la compañía se basa en el trabajo del Anthropic Institute, una división de investigación que lanzó en marzo para estudiar los desafíos que surgen a medida que los sistemas de IA se vuelven más avanzados.
El escepticismo sigue a la advertencia
Protege tu privacidad con Doppler VPN
3 días de prueba gratis. Sin registro. Sin registros.
El llamado de Anthropic también ha suscitado escepticismo. The Wall Street Journal señaló que los críticos ven las advertencias públicas de la compañía como una posible estrategia de marketing, destinada a hacer que Anthropic parezca más responsable que sus rivales o a sugerir que sus propios productos son la opción más segura.
Esos críticos han señalado el lanzamiento limitado del modelo de ciberseguridad de Anthropic, Mythos, que la compañía dijo que estaba restringido a socios seleccionados debido al daño potencial que sus capacidades para encontrar vulnerabilidades podrían causar en las manos equivocadas.
Anthropic, por su parte, es uno de los nombres más destacados en la carrera de la IA y, según informes, está en camino de obtener su primer trimestre rentable. Recientemente presentó documentación ante la SEC para salir a bolsa, probablemente antes de fin de año.
Fuentes:
Lee más noticias sobre tecnología en el Doppler VPN Blog.