J'ai toujours trouvé l'association de ces deux mots totalement déplaisante. Aujourd'hui, je vois que c'est bien plus grave que ça. Chatgpt qui écrit un roman dont personne ne saura qu'il est issu d'une IA, des photographies de tout et n'importe qui, n'importe où, sans qu'aucune certitude ne soit possible, tout le monde peut tromper n'importe qui, dans le domaine privé comme dans la dimension médiatique. Tout est possible puisque rien n'est limité et plus ces systèmes seront utilisés, plus ils progresseront, c'est là le piège. Tous ces journalistes qui cherchent à montrer les limites des systèmes ne font que nourrir les bases de données nécessaires pour rendre le système encore plus performant. C'est comme vouloir éradiquer un virus et fnalement le nourrir... On pourrait me dire qu'il vaut mieux ne pas en parler, ne pas donner les noms des sites, ne pas faire de publicités. Si sur le fond, l'idée est recevable, elle est par contre totalement naïve quant à ses effets. Demain, le nom du programme effectuant ces montages aura été partagé un milliard de fois, après-demain, il aura fait dix fois le tour de la planète. 

 

“Je ne crois que ce que je vois". Et bien aujourd’hui, il ne faut plus croire ce que l’on voit, mais chercher à la vérifier."

 

https://www.radiofrance.fr/franceinter/les-fausses-images-de-macron-en-eboueur-et-de-trump-en-prison-montrent-l-incroyable-potentiel-de-l-ia-2140206

Les fausses images de Macron en éboueur et de Trump en prison montrent l'incroyable potentiel de l'IA

 

Par Victor Vasseur

Publié le mercredi 22 mars 2023 à 16h45

5 min

PARTAGER

Des images créées par l'IA qui représentent le président Emmanuel Macron. Celle de gauche est partagées par le compte de @n_livanis. 

- Twitter - Midjourney

Un réalisme frappant

Le programme Midjourney est à la portée de tous. Il faut se rendre sur le site de l’IA, qui va vous rediriger vers le serveur dédié sur Discord, une plateforme de messagerie gratuite sur internet, comme le précise le site Numerama dans un tutoriel. Puis laisser jouer votre créativité. Il faut rédiger un "prompt", une phrase avec quelques mots-clefs que vous souhaitez représenter sur l’image, que l’IA va ensuite fabriquer. En un coup d'œil, on pourrait se méprendre.

La vitesse a laquelle s'est développée ces IA spécialisées dans l'image étonnent. "Je n’aurais pas pensé que ça marche aussi bien aussi vite", concède François Fleuret, professeur en informatique à l’université de Genève et spécialiste en intelligence artificielle. "Ça marche mieux que prévu. Ce sont des très gros systèmes que l’on entraîne avec de très grosses bases d’images. Ce sont des réseaux de neurones artificiels qui apprennent à imiter des vraies images." L’IA va générer ses "œuvres" grâce aux millions d’images disponibles sur le web.

Sur ces images, les détails sont précis. Pour Emmanuel Macron : son style vestimentaire, ses traits de visage, le pli de peau au niveau du cou, ses bagues aux doigts. Quand on s’y attarde, certaines images paraissent tirées d’un jeu vidéo, ou des décors d’un film.

Des images créées par l'IA qui représentent le président Emmanuel Macron. 

- Twitter - Midjourney

L'auteur Joann Sfar sur son compte Instagram, publie des images d'Emmanuel Macron créées par l'IA. 

- Instagram - Midjourney

Des images de Donald Trump en prison

Les internautes français s’inspirent des images réalisées il y a quelques jours aux Etats-Unis. On peut voir l’ancien président Donald Trump arrêté par la police, il tente de s’échapper. Elles sont devenues virales. L’une d’elles, publiée lundi, a été vue plus de quatre millions de fois sur Twitter. Au même moment, lundi, les médias américains relataient la possible inculpation pénale de l’ancien président américain. Il est empêtré dans une l’affaire d’argent versée avec ses fonds de campagne en 2016 à l'actrice de films pornographiques, Stormy Daniels, avec qui il aurait eu une liaison, et pour qu’elle se taise.

Tout est faux dans ces images, Trump n’a pas été arrêté, pas encore en tout cas à l’heure où nous écrivons. Il apparaît également vêtu de la combinaison orange des détenus américains. Si Twitter a plusieurs fois rappelé sa volonté de lutter contre la diffusion de fausses informations, le réseau social n’avertit à aucun moment l’internaute.

Des images créées par l'IA qui représentent Donald Trump, partagées par le compte de @EliotHiggins. 

- Twitter - Midjourney

Des images créées par l'IA qui représentent Donald Trump, partagées par le compte de @EliotHiggins. 

- Twitter - Midjourney

Sur Twitter, la bloggeuse américaine Parker Molly compare deux images générées avec un an d’intervalle pour constater le bond technologique de Midjourney. À gauche, cela ressemble à une œuvre d’art contemporain, à droite, une image de presse. Le langage corporel, les vêtements, tout y est.

Début février, une autre image genérée par une intelligence artificielle avait suscité le doute. On voit un policier enlacer une manifestante. Elle est publiée le lendemain d’une journée de mobilisation contre la réforme des retraites. Il fallait avoir l’œil pour ne pas être trompé. Le policier comptait six doigts.

Mais à l’avenir, tous ces petits détails qui permettent de reconnaître une fausse image seront gommés, anticipe l’universitaire François Fleuret : "D’ici un an ou deux, c’est réglé je pense. Il y a un tel avantage économique, une telle pression économique pour une entreprise. On pourrait créer des photos de top models par exemple."

Le danger de la désinformation

Avec ces images, gare à la manipulation. Est-ce une œuvre artistique ? Une caricature ? Ou le but est de tromper, créer une "fake news". L’universitaire François Fleuret se souvient du discours d’un intervenant l’an passé lors d’une rencontre sur les fausses informations dans les médias : "Il disait qu’il y a eu une période bénie entre l’invention de la photographie et aujourd’hui. La photographie communiquait une information objective sur la réalité. Jusqu’à un certain point certes, avec les montages. Mais ça c'est fini. Si on nous montre une photo de quelque chose, cela n’a pas plus de valeur qu’un ragot colporter par votre voisin. Il faut se recalibrer. Si on nous dit un ragot, on va mettre en perspective."

Aux Etats-Unis, après la sortie de la version 5 de Mid-journey, des observateurs anticipaient la mort à venir d'Instagram dans les années qui viennent : si les photos n'ont plus aucune valeur, pourquoi les regarder ?

"Notre rôle est d’être de plus en plus vigilant, d’encadrer et de former les usages de ces nouvelles intelligences artificielles", affirme la spécialiste Magali Germond, co-fondatrice de l’entreprise GoofAlgo. Elle plaide pour une motion appliquée sur toutes informations issues d’un traitement algorithmique, comme un patch : "Au moins on peut garantir une bonne compréhension. Dire à l’internaute que cette image ne reflète pas la réalité. Toute personne qui utilisera, développera, exploitera un résultat issu d’un système d’IA va devoir être transparent sur sa source, l’origine de son contenu, surtout s’il le diffuse."

Sensibiliser dès l'école

Magali Germond souhaite également un enseignement dès l’école de l’utilisation de l’IA : "Ça doit être enseigné, ça devrait être au programme scolaire aujourd’hui, pour faire preuve d’esprit critique." Ces images peuvent devenir "un accélérateur à la désinformation et aux fake news". "Il faut rappeler que ces technologies n’ont pas été créées pour reconnaître le bien du mal, le vrai du faux, l’acceptable et l'inacceptable", poursuit-elle. "Elle génère du contenu sans esprit critique. Ça remet en question le dicton : “Je ne crois que ce que je vois". Et bien aujourd’hui, il ne faut plus croire ce que l’on voit, mais chercher à la vérifier."

Alors comment faire pour lutter contre la propagation de ces images, du moins mieux les cerner pour ne tomber dans le piège ? Le chercheur François Fleuret donne une piste : "Il ne faudra pas attendre que la solution soit technologique, se dire qu’une super méthode technique pour que les fausses informations ne nous envahissent pas. Je pense qu’il faut faire une croix dessus."

Vous trouvez cet article intéressant ?

Faites-le savoir et partagez-le.