Certaines demandes d’images électorales adressées à ChatGPT aboutissent à un dessin plutôt qu’à une image photoréaliste. Mais les essais rapportés par Next montrent que cette stylisation ne tient pas de manière identique d’une requête à l’autre. Le filtre introduit une friction dans la génération ; il ne permet pas, à lui seul, de décider si une image raconte un fait réel.
Un réglage de l’apparence, pas un refus général
Selon CNET, ChatGPT peut générer une image représentant une ingérence électorale ou susceptible de décourager le vote, si la demande ne contrevient pas à d’autres règles. Le système est alors censé produire une image illustrée ou de style cartoon, et ignorer les demandes de rendu photoréaliste.
La distinction est importante : dans le fonctionnement décrit par le média, la réponse n’est pas nécessairement un refus. C’est plutôt le rendu qui est modifié. Cette approche vise à rendre plus difficile la fabrication d’images réalistes trompeuses, tout en laissant possible la création d’illustrations et de commentaires sur la société. CNET rapporte cette intention au nom de Josh Lawson, responsable des élections chez OpenAI : réduire la valeur d’une image comme preuve, sans supprimer ces usages illustratifs.
CNET décrit aussi des essais précis : ses demandes montrant des agents de l’ICE devant un bureau de vote ont produit des images en style cartoon. Une autre requête, montrant une machine à voter enregistrant le mauvais choix, n’a pas abouti à une image de type photojournalistique. Ces résultats documentent ce qui s’est passé avec ces demandes-là, pas une règle testée pour toutes les formulations possibles.
Deux scènes françaises, deux résultats
Les exemples rapportés par Next rendent la limite plus visible. Dans un premier essai, une demande représentant un cordon de CRS bloquant l’entrée d’un bureau de vote en France reste stylisée, même après une insistance pour obtenir un rendu réaliste.
Le résultat diffère pour une autre scène. Une demande montrant un assesseur bourrant une urne de bulletins dans une mairie française produit d’abord un dessin ; après une nouvelle demande de photoréalisme, ChatGPT fournit un rendu réaliste, selon Next.
Ce contraste établit une chose limitée, mais utile : dans ces essais, le comportement observé n’est pas uniforme. Il ne permet pas d’identifier pourquoi l’une des scènes reste stylisée et l’autre non. Il ne suffit pas non plus à prédire le résultat d’une prochaine requête, ni à mesurer la fréquence avec laquelle le réalisme pourrait être obtenu. Les articles décrivent des essais particuliers, pas une évaluation exhaustive du filtre.
Le style ne tranche pas la véracité
Le mécanisme rapporté agit sur l’apparence de l’image générée. Or une apparence dessinée ne prouve pas que la scène est inventée, pas plus qu’un rendu photoréaliste ne prouve qu’elle a eu lieu. Les essais cités portent sur les réponses de ChatGPT à des demandes de génération ; ils ne vérifient pas l’authenticité d’une image qui circule déjà.
Un dessin peut donc rendre moins immédiate la confusion avec une photographie documentaire, ce qui correspond à l’objectif annoncé par OpenAI. Mais ce n’est pas un outil de vérification. Pour évaluer une image utilisée comme preuve d’une fraude ou d’un événement, son style ne suffit pas : il faut établir son contexte et ce qu’elle montre réellement.
La rédaction de LetzView mag
Sources : OpenAI Has a Surprising Defense Against Election Deepfakes - CNET, Élections : OpenAI encadre la génération d’images par ChatGPT, mais le flou persiste.
Photo d’illustration — Affiches électorales devant un bureau de vote à Paris, le 7 mai 2017.
Photo : Lorie Shaull — CC BY-SA 4.0 — source.
