Anthropic pede desaceleração global no desenvolvimento de IA por temores de que sistemas possam construir sucessores
Anthropic pede uma pausa
Anthropic está alertando que a inteligência artificial está avançando rumo a um ponto em que sistemas podem ser capazes de ajudar a construir seus próprios sucessores, e afirma que essa possibilidade deveria motivar uma desaceleração global no desenvolvimento de IA.
Em um post no blog, a empresa disse que, embora uma IA capaz de desenvolver sistemas sucessores pudesse trazer grandes benefícios para a ciência, saúde e outros campos, ela também poderia aumentar o risco de os humanos perderem o controle sobre modelos cada vez mais capazes. Anthropic argumentou que uma pausa ou desaceleração temporária daria à sociedade e à pesquisa em segurança de IA tempo para alcançar esse avanço.
A empresa afirmou que a tendência está se movendo rápido o bastante para que esse marco “possa chegar mais cedo do que a maioria das instituições está preparada”, embora ainda não tenha chegado.
Verificação seria a parte difícil
Anthropic disse que qualquer desaceleração só funcionaria se grandes laboratórios de IA ao redor do mundo concordassem em parar ou reduzir o desenvolvimento sob as mesmas condições. Também afirmou que seria necessário haver maneiras confiáveis de verificar se os concorrentes realmente pausaram, alertando que, caso contrário, algumas organizações poderiam continuar avançando em segredo.
“Uma desaceleração ou pausa significativa exigiria múltiplos laboratórios bem financiados na fronteira tecnológica, em vários países, concordando em parar sob as mesmas condições”, escreveu a empresa. “Também exigiria que cada um pudesse verificar que os outros de fato pararam.”
A proposta da empresa se baseia em trabalhos do Anthropic Institute, uma divisão de pesquisa que lançou em março para estudar os desafios que emergem conforme os sistemas de IA se tornam mais avançados.
Ceticismo segue o alerta
Proteja sua privacidade com o Doppler VPN
3 dias de teste grátis. Sem cadastro. Sem registros.
O chamado da Anthropic também suscitou ceticismo. The Wall Street Journal observou que críticos veem os alertas públicos da empresa como uma possível estratégia de marketing, destinada a fazer a Anthropic parecer mais responsável do que rivais ou a sugerir que seus próprios produtos são a opção mais segura.
Esses críticos apontaram para o lançamento restrito do modelo de cibersegurança da Anthropic, Mythos, que a empresa disse ter limitado a parceiros selecionados por conta do potencial de dano que suas habilidades de encontrar vulnerabilidades poderiam causar em mãos erradas.
Enquanto isso, a Anthropic é um dos nomes mais proeminentes na corrida pela IA e, segundo relatos, está no caminho para seu primeiro trimestre lucrativo. Recentemente, a empresa protocolou documentos na SEC para abrir capital, provavelmente antes do fim do ano.
Fontes:
Leia mais notícias de tecnologia no Doppler VPN Blog.