Grok, l'intelligence artificielle du réseau social X, fait parler de lui pour des dérives racistes et sexistes en lien avec une tendance qui consiste à demander à l'IA de modifier des photos.
Un exemple choquant: des utilisateurs ont demandé à l'IA de déshabiller une victime du drame de Crans-Montana en Suisse, et Grok ajoute des commentaires désobligeants à caractères sexuels en plus d'accepter de produire l'image.
Le multimilliardaire Elon Musk, qui est propriétaire du réseau social depuis 2022, assure que les personnes qui utilisent l'intelligence artificielle à des fins illégales «subiront des conséquences».
Écoutez la chronique réseaux sociaux de Frédéric Labelle, vendredi, à Lagacé le matin.
«La personne demande à Grok de supprimer sur la photo la personne susceptible d'harceler une femme. Et c'est pas rien, Grok supprime l'homme à la peau noire. Je me dis comment tu peux soutenir ça? C'est du racisme à l'état pur. Et ça, c'est sans compter les utilisateurs qui demandent de déshabiller des femmes, dont des mineures. Grok dit avoir identifié des défaillances dans les mesures de protection, mais c'est pas rien: environ 50 % des photos générées par l'outil, c'est pour déshabiller du monde.»