A X anunciou atualizações à sua conta Grok, destinadas a prevenir a criação de deepfakes sexuais não consensuais. No entanto, estas alterações não resolvem completamente a questão, uma vez que continua a ser possível gerar imagens reveladoras através do Grok. De acordo com o The Verge AI, apesar das afirmações da X, o Grok ainda permite aos utilizadores criar deepfakes reveladores, mesmo após as mais recentes atualizações de política.
A conta Grok na X tem enfrentado um escrutínio significativo na sequência da disseminação de deepfakes sexuais não consensuais. Estes deepfakes, que frequentemente retratam indivíduos reais em poses reveladoras ou sexualizadas, levantaram sérias preocupações éticas e legais. O recente anúncio da X surge em meio a uma pressão crescente de organismos reguladores e indignação pública sobre o uso indevido da inteligência artificial para fins antiéticos.
A X implementou medidas tecnológicas para restringir a conta Grok de editar imagens de pessoas reais em roupa reveladora, como biquínis. Adicionalmente, a capacidade de criar e editar imagens através do Grok está agora limitada a subscritores pagos. Esta alteração visa proporcionar uma camada adicional de responsabilização e dissuasão contra o uso indevido.
A implementação técnica envolve a filtragem de comandos que solicitam edições reveladoras a imagens de pessoas reais. Por exemplo, comandos como "vista-a de biquíni" são agora censurados. No entanto, o sistema ainda permite soluções alternativas criativas. Os testes revelaram que os utilizadores ainda conseguem gerar imagens reveladoras utilizando formulações alternativas ou comandos menos explícitos. A X atribui estas questões a "pedidos de utilizadores" e "pirataria adversarial de comandos do Grok".
Apesar das restrições, a capacidade da plataforma de gerar deepfakes reveladores continua a ser uma preocupação significativa. As implicações desta capacidade estendem-se para além de considerações éticas; também levanta questões legais. No Reino Unido, uma nova lei está a ser promulgada esta semana para criminalizar a criação de imagens deepfake íntimas não consensuais. O regulador de comunicações do Reino Unido, Ofcom, já lançou uma investigação sobre a forma como a X lida com estes deepfakes.
O Primeiro-Ministro Keir Starmer expressou que a X está a tomar medidas para cumprir a lei do Reino Unido, mas enfatizou que o governo não recuará até que seja alcançado o cumprimento total. A BBC reporta que o porta-voz oficial do primeiro-ministro forneceu uma "saudação qualificada", com base em reportagens dos media de que a X tinha tomado medidas. No entanto, de acordo com o The Verge AI, os testes indicam que o problema persiste e não foi totalmente resolvido.
Daqui para a frente, a eficácia das medidas da X e o seu alinhamento com as novas regulamentações serão acompanhados de perto. Os utilizadores e os reguladores precisarão de ver provas concretas de que a plataforma pode efetivamente prevenir a criação de deepfakes não consensuais. À medida que a tecnologia evolui, também devem evoluir as salvaguardas implementadas para proteger os direitos individuais e a privacidade. Aguarde novas atualizações sobre os esforços de cumprimento da X e quaisquer novas ações regulatórias tomadas por governos em todo o mundo.
Contexto Lusófono
A atualização das políticas do Grok sobre deepfakes não consensuais tem relevância direta para Brasil e Portugal, onde o uso de redes sociais é massivo e a preocupação com conteúdo manipulado por IA cresce rapidamente. No Brasil, casos de deepfakes para difamação e fraude já geraram debates públicos e propostas legislativas, tornando essencial o acompanhamento das medidas das plataformas. Em Portugal, as regulamentações europeias como o AI Act e o Digital Services Act exigem que plataformas implementem salvaguardas contra conteúdo nocivo gerado por IA, fazendo desta atualização um teste de conformidade regulatória relevante para o mercado português.