Engenheiro da xAI diz que foi demitido após alertar sobre problemas com o Grok

Um ex-engenheiro da xAI, Devin Kim, entrou com um processo alegando ter sido demitido depois de levantar preocupações sobre a segurança do chatbot Grok, desenvolvido pela empresa de Elon Musk.

O caso envolve acusações de retaliação e falhas em mecanismos de segurança, explica o The Guardian. E surge num momento em que o setor de inteligência artificial volta a ser pressionado por temas de responsabilidade e controle.

As acusações contra a xAI

Na ação apresentada na Califórnia, Devin Kim afirma que foi afastado após insistir na criação de regras mais rígidas para o desenvolvimento do Grok. Segundo ele, os alertas sobre riscos da IA não foram levados a sério pela liderança da empresa.

O ponto central do processo é a forma como esses alertas teriam sido recebidos internamente. Kim sustenta que a falta de prioridade em segurança poderia gerar consequências graves. “O Sr. Kim reclamou repetidamente que a falha da xAI em priorizar a segurança da IA, particularmente em relação ao Grok, praticamente garantia que a empresa cometeria atos ilegais, desde fomentar a discriminação até proliferar armas de destruição em massa”, afirma o documento.

Ele também diz que a demissão ocorreu pouco antes de uma apresentação interna sobre segurança da IA para executivos da empresa. Esse detalhe, segundo o engenheiro, reforça a tese de retaliação dentro da organização.

Grok, investigações e pressão internacional

O caso não aparece sozinho. Ele se encaixa numa sequência de críticas e investigações envolvendo o Grok e suas ferramentas de geração de imagens.

Autoridades canadenses afirmam que o chatbot teria violado leis de privacidade ao permitir a criação de imagens manipuladas e sexualizadas sem consentimento. Isso levou a investigações formais e ajustes na plataforma.

E a pressão não ficou restrita a um único país. Reino Unido e Canadá passaram a monitorar com mais atenção conteúdos gerados por IA, especialmente aqueles envolvendo imagens sensíveis ou potencialmente abusivas.

Entre os problemas mais citados nessas investigações, aparecem situações recorrentes:

• deepfakes sexualizados criados sem consentimento e circulando na plataforma
• uso indevido de imagens de pessoas reais em contextos manipulados
• riscos diretos à privacidade de usuários comuns
• possibilidade de envolvimento de menores em conteúdos gerados por IA
• cobrança por regras mais duras de moderação e controle

O bilionário Elon Musk negou ter conhecimento sobre conteúdos ilegais gerados pelo sistema. “Não tinha conhecimento de nenhuma imagem de menores de idade nuas gerada pelo Grok. Literalmente zero.”, afirmou em resposta às acusações.

O impacto no setor de inteligência artificial

A xAI, criada por Musk em 2023 como alternativa a outras empresas do setor, já vinha sendo citada em debates sobre segurança e governança da inteligência artificial.

Leia mais:

• Grok naufraga enquanto Musk tenta forçar seu uso
• Musk admite que xAI ‘destilou’ tecnologia da OpenAI para melhorar o Grok
• xAI de Elon Musk limita comunicação entre funcionários e equipe da Cursor, diz Bloomberg

O caso de Devin Kim só adiciona mais tensão a esse cenário. E reforça um conflito que vem se tornando cada vez mais comum no setor: a disputa entre acelerar o desenvolvimento e criar mecanismos reais de controle.

Também chama atenção o fato de Kim ter passado a atuar em um centro voltado à segurança em IA, o que dá ainda mais peso simbólico ao episódio.

No centro dessa disputa, fica uma pergunta que ainda não tem resposta clara: até que ponto as empresas estão preparadas para lidar com os riscos das próprias tecnologias que estão construindo.

O post Engenheiro da xAI diz que foi demitido após alertar sobre problemas com o Grok apareceu primeiro em Olhar Digital.