X e Grok entram na mira da União Europeia por falhas no combate a deepfakes sexuais

A Comissão Europeia abriu oficialmente uma investigação contra X e Grok por suspeitas de múltiplas violações do Digital Services Act (DSA). A rede social de Elon Musk e seu chatbot de inteligência artificial estão sob escrutínio por potencialmente permitirem a disseminação de conteúdos ilegais de natureza sexual, incluindo deepfakes e possíveis materiais de abuso infantil.

De acordo com os reguladores europeus, a plataforma pode ter falhado em implementar medidas adequadas para mitigar riscos sistêmicos conforme exigido pela legislação. Um dos principais pontos de investigação é se a empresa realizou e submeteu à Comissão uma avaliação completa de riscos antes de implementar as funcionalidades do Grok, o chatbot de IA lançado por Musk no final de 2023.

Caso as violações sejam confirmadas, o X poderá ter infringido especificamente os artigos 34, 35 e 42 do DSA, legislação que entrou em vigor na União Europeia para regular grandes plataformas digitais. A abertura deste procedimento permite que a Comissão conduza uma investigação prioritária e detalhada sobre as operações da empresa na região.

A vice-presidente executiva da Comissão, Henna Virkkunen, declarou que os deepfakes sexuais representam uma forma inaceitável de violência contra as pessoas. “Deepfakes sexuais de mulheres e crianças são uma forma violenta e inaceitável de degradação. Com esta investigação, determinaremos se o X cumpriu suas obrigações legais nos termos do DSA ou se tratou os direitos dos cidadãos europeus — incluindo mulheres e crianças — como danos colaterais do seu serviço“, afirmou a executiva.

As autoridades europeias já estão coletando evidências através de diversas fontes, incluindo requisições formais de informações, entrevistas e possíveis inspeções. A Comissão também está trabalhando em estreita colaboração com a Coimisiún na Meán, a autoridade irlandesa para serviços digitais, país onde o X mantém sua sede europeia.

Esta não é a primeira vez que o X enfrenta problemas regulatórios na Europa desde que foi adquirido por Elon Musk. A plataforma já esteve sob escrutínio por questões relacionadas à moderação de conteúdo e desinformação em diversas ocasiões após as mudanças em suas políticas internas.

Fonte: Europa