Ces images présumées de la ministre japonaise de la santé ont provoqué un tollé. Pourtant, elles ont été créées par une IA.
Oui, l'intelligence artificielle, lorsqu'elle est bien appliquée, peut simplifier de nombreuses tâches et profiter à un nombre infini de processus complexes dans différents secteurs. Le problème est que, comme toute autre technologie, entre de mauvaises mains, elle peut devenir une arme puissante au service du mal. Ces derniers jours, des images présumées du ministre japonais de la santé ont circulé sur l'internet. Elles sont devenues virales sur les réseaux sociaux et beaucoup ont pensé qu'elles étaient réelles.
Or, ces images sont totalement fausses. Une personne, qui se consacre à la création d'images sexuellement explicites à l'aide de l'intelligence artificielle, a pensé que ce serait une bonne idée de dire que sa prochaine création était un dirigeant important de l'île asiatique.
Lorsqu'il a publié ces images, ses partisans ont commencé à les faire circuler sur d'autres canaux médiatiques pour les commenter. La conversation n'a toutefois pas porté sur les capacités de l'IA, mais sur le joli décolleté de la ministre japonaise de la santé.
De toute évidence, la personne figurant sur la photo n'existe pas. Le secteur de la santé au Japon est dirigé par un homme, Katsunobu Katō.
Un problème supplémentaire dans cette situation est que, une fois de plus, les médias sociaux ont mis une éternité à mettre fin au canular. Lorsque Twitter, par exemple, a commencé à afficher l'alerte de faux contenu, il était trop tard. Les images avaient été partagées des dizaines de milliers de fois.
« Les images ont été générées par une intelligence artificielle. L'actuel ministre japonais de la santé est Katsunobu Kato« , indiquait le message sur Twitter.
Mientras tanto en Japón, ministra de Sanidad. pic.twitter.com/ohraBlrTlV
— Bakalaofresco (@bakalaofresco) May 10, 2023
Mais ce n'était que la réponse tardive de Twitter. Aujourd'hui, il est encore possible de trouver des groupes ou des pages Facebook où l'on suppose que les images sont réelles, et ce raisonnement est susceptible de prévaloir jusqu'à ce qu'ils tombent sur un message comme celui-ci.
Plusieurs points sont préoccupants dans cette situation. Tout d'abord, un outil d'intelligence artificielle, quel qu'il soit, est utilisé pour créer du faux contenu. Deuxièmement, il est de plus en plus inquiétant de constater que le public ne s'arrête pas pour vérifier l'authenticité d'un contenu avant de le partager. Ils sont publiés, puis font l'objet d'une enquête – dans le meilleur des cas.
Le « ministre de la santé » japonais rejoint Donald Trump et la papauté
Ce n'est pas la première fois qu'une image générée par l'IA fait sensation sur Internet. Il n'est même pas nécessaire de remonter très loin pour trouver un autre scandale.
En mars, une personne a utilisé Midjourney pour créer plusieurs images de Donald Trump arrêté par la police de New York. Lorsqu'elles se sont répandues en ligne, certains partisans du magnat ont cru qu'elles étaient réelles. Bien entendu, ils ont voulu descendre dans la rue pour protester contre une arrestation aussi mièvre.
Quelques jours plus tard, des images ont été diffusées montrant le pape François portant un manteau de style Balenciaga. Des milliers de religieux ont cru que l'Église catholique était désormais dirigée par une icône de la mode.
Ces deux affaires ont incité les responsables de Midjourney à mettre fin aux essais gratuits. Ils ont estimé que de nombreux utilisateurs abusaient de leur outil.
