Grande incidente pode tornar a IA obsoleta, alerta pesquisador

A pressa da indústria de tecnologia para lançar novos produtos de inteligência artificial pode levar a um incidente e, consequentemente, uma quebra de confiança semelhante à provocada pelo desastre do dirigível Hindenburg, em 1937. O alerta foi feito por Michael Wooldridge, professor de IA da Universidade de Oxford e um dos pesquisadores mais influentes na área.

Segundo ele, a combinação entre a competição comercial intensa e o desenvolvimento acelerado aumenta o risco de um grande incidente envolvendo sistemas de IA – com potencial para afetar múltiplos setores ao mesmo tempo.

Wooldridge acredita que empresas disputam espaço no mercado com ferramentas cada vez mais avançadas, mesmo quando suas capacidades e limitações ainda não foram plenamente compreendidas. Ao The Guardian, o pesquisador defendeu que o crescimento explosivo de chatbots com mecanismos de segurança facilmente contornáveis é um exemplo claro de que interesses comerciais têm sido priorizados em detrimento da confiabilidade.

Na visão dele, trata-se de um padrão recorrente na história da tecnologia: inovações promissoras são lançadas ao público antes de passarem por testes rigorosos.

O professor apresentará essas reflexões em detalhes na palestra do prêmio Michael Faraday da Royal Society, sob o título “Esta não é a IA que nos foi prometida”.

O risco de um “momento Hindenburg”

Wooldridge comparou a IA ao desastre de Hindeburg, quando um dirigível alemão explodiu em chamas ao tentar pousar nos Estados Unidos, em 1937. O acidente foi causado pela ignição do hidrogênio que mantinha a aeronave no ar e matou 36 pessoas, praticamente encerrando o interesse global por esse tipo de transporte.

Para o professor, um episódio de grande impacto envolvendo IA poderia ter um efeito semelhante, diminuindo a confiança pública na tecnologia. Como sistemas de inteligência artificial já estão integrados a diversos setores críticos – desde finanças à medicina -, um erro grave poderia se espalhar rapidamente.

Entre os cenários levantados por Wooldridge estão uma atualização de software defeituosa em carros autônomos que levaria a consequências fatais, um ciberataque capaz de paralisar companhias aéreas globais ou até o colapso de uma grande corporação desencadeado por falhas automatizadas.

Limitações dos modelos atuais

Apesar das críticas, Wooldridge afirma não ser contrário ao avanço da IA. Para ele, o problema está na discrepância entre o que muitos pesquisadores esperavam da tecnologia e o que foi efetivamente entregue.

Os grandes modelos de linguagem que sustentam os atuais chatbots funcionam com base em probabilidades: eles geram respostas prevendo a próxima palavra a partir de padrões aprendidos durante o treinamento. O resultado são sistemas altamente eficazes em determinadas tarefas, mas inconsistentes em outras.

O pesquisador destaca que esses modelos não têm consciência de seus próprios erros e, ainda assim, costumam apresentar respostas com alto grau de confiança. Essa combinação pode induzir usuários ao engano.

Já como exemplo positivo, Wooldridge menciona representações mais antigas de inteligência artificial na ficção científica, nas quais sistemas reconheciam explicitamente quando não possuíam dados suficientes para responder a uma pergunta. Na avaliação dele, modelos que admitam incerteza de forma clara e objetiva poderiam reduzir a ilusão de competência absoluta – e, consequentemente, diminuir o risco de um eventual “momento Hindenburg” para a inteligência artificial.

O post Grande incidente pode tornar a IA obsoleta, alerta pesquisador apareceu primeiro em Olhar Digital.