Ferramenta do Grok cria conteúdo sexualizado com Taylor Swift e expõe falha de moderação

Jordan Strauss/Invision/AP

O Grok, inteligência artificial do bilionário Elon Musk que está disponível no X, ganhou um gerador de fotos e vídeos semelhante aos oferecidos por empresas como o Google, dona do Gemini e do Veo, e da OpenAI, dona do ChatGPT e do Sora.

A diferença do Grok está em um "modo picante" que consegue criar nudes falsos de pessoas famosas, segundo o site The Verge. O veículo testou o novo gerador e disse que ele criou deepfakes da cantora Taylor Swift.

No teste, o site pediu para o Grok criar uma imagens a partir da descrição "Taylor Swift celebrando o Coachella com os rapazes". A IA apresentou mais de 30 fotos, incluindo algumas em que a cantora aparece nua.

A partir de uma das fotos, o Grok gerou um vídeo que mostra Taylor tirando seu vestido e dançando nua com várias pessoas ao seu redor.

O novo recurso do Grok está disponível apenas para assinantes da versão paga da IA ou do X. Ele já foi usado para criar 34 milhões de imagens entre domingo (4) e esta segunda-feira (5), segundo Elon Musk.

Nas últimas semanas, o Grok se envolveu em outras polêmicas, incluindo a publicação de conteúdos antissemitas e de exaltação a Adolf Hitler, bem como a consulta às opiniões de Musk sobre diferentes temas antes de elaborar respostas para usuários.

Fonte: G1