Anthropic propõe pausa global no avanço da inteligência artificial

A Anthropic publicou um post em seu blog defendendo uma desaceleração global no desenvolvimento da inteligência artificial. A justificativa central é a velocidade do avanço tecnológico. Para a empresa, os sistemas atuais podem abrir caminho para modelos capazes de desenvolver seus próprios sucessores — um cenário que, segundo o artigo, “pode chegar antes do que a maioria das instituições está preparada para enfrentar”.

No documento, a companhia reconhece que uma IA capaz de se aprimorar poderia “trazer enormes benefícios para o mundo” nas áreas de ciência e saúde, entre outras. Mas faz um alerta: sistemas desse tipo também poderiam “aumentar os riscos de os humanos perderem o controle sobre a IA”. A proposta de desaceleração serviria justamente para dar mais tempo às estruturas sociais e às pesquisas de alinhamento acompanharem a evolução da tecnologia.

Verificação como condição para qualquer acordo

Para que uma desaceleração seja efetiva, a Anthropic afirma que mecanismos de fiscalização precisam existir. Sem esse tipo de controle, algumas empresas poderiam continuar desenvolvendo tecnologia em segredo enquanto outras interrompem suas atividades.

“Uma desaceleração ou pausa significativa exigiria que múltiplos laboratórios bem financiados, na fronteira ou próximos dela, em múltiplos países, concordassem em parar sob as mesmas condições”, escreve a empresa em seu blog. “Também exigiria que cada um pudesse verificar que os outros realmente pararam.”

A comparação feita pela Anthropic é com os tratados de armas nucleares. A empresa usa esses acordos como exemplo de que uma coordenação internacional não seria impossível — embora admita que processos assim levaram décadas para serem construídos, algo difícil de conciliar com a velocidade atual do setor.

Nos próximos meses, a companhia pretende conversar com formuladores de políticas, pesquisadores e outras empresas de IA. A ideia é publicar os resultados dessas discussões futuramente.

Pesquisa interna e papel do Anthropic Institute

A proposta parte do trabalho desenvolvido pelo Anthropic Institute, divisão de pesquisa criada pela empresa em março. Na época do lançamento, o grupo afirmou que o objetivo do instituto seria “contar ao mundo” o que aprende sobre os desafios que surgem conforme empresas de IA desenvolvem sistemas mais avançados.

O instituto, em conjunto com colaboradores, conduzirá pesquisas sobre o que é necessário para “construir os sistemas que uma desaceleração ou pausa crível exigiria”.

Entre os principais pontos levantados pela Anthropic estão:

• risco de sistemas de IA evoluírem sem supervisão humana;
• dificuldade de criar regras globais que sejam respeitadas;
• possibilidade de impactos sociais e econômicos profundos;
• competição acelerada entre empresas e países;
• necessidade de ampliar pesquisas em segurança de IA.

Críticas à postura da empresa

O debate em torno da Anthropic também envolve críticas. Segundo reportagem do The Wall Street Journal, parte do setor vê os alertas feitos pela empresa sobre sua própria tecnologia como uma estratégia de marketing — seja para parecer menos problemática que as concorrentes, seja para reforçar a imagem de que seus produtos estão entre os mais avançados do mercado.

Um dos exemplos citados é o lançamento restrito do modelo de IA para cibersegurança Mythos. A Anthropic afirmou que liberou o sistema apenas para um grupo seleto de parceiros devido ao potencial de dano que sua capacidade de identificar vulnerabilidades rapidamente poderia causar em mãos erradas.

Leia mais:

• Anthropic alerta para risco de perda de controle da IA
• A IA que a Anthropic tem medo de lançar: o que você precisa entender sobre o Mythos
• Anthropic amplia acesso ao Mythos para 150 organizações

Nem todo mundo, porém, comprou essa justificativa. Parte das críticas interpreta a restrição como uma forma de gerar expectativa em torno do produto ou até de reservá-lo apenas para grandes empresas.

Na área financeira, a Anthropic também vive um momento importante. A empresa caminha para registrar seu primeiro trimestre lucrativo, algo que várias concorrentes ainda não conseguiram alcançar. Além disso, já protocolou documentos na SEC para abrir capital, com previsão de que isso aconteça antes do fim do ano.

O post Anthropic propõe pausa global no avanço da inteligência artificial apareceu primeiro em Olhar Digital.