Une image de fumée noire s’échappant à côté d’un bâtiment d’apparence bureaucratique s’est répandue sur les réseaux sociaux lundi matin, avec l’affirmation qu’elle montrait une explosion près du Pentagone.

Les messages ont envoyé un bref frisson à travers le marché boursier et ont été rapidement repris par les organes de presse en dehors des États-Unis, avant que les responsables n’interviennent pour clarifier qu’aucune explosion n’a réellement eu lieu et que la photo était un faux.

Les experts disent que l’image virale présentait des signes révélateurs d’une falsification générée par l’IA, et sa popularité souligne le chaos quotidien que ces programmes désormais de plus en plus sophistiqués et faciles d’accès peuvent infliger.

Voici un examen plus approfondi des faits.

RÉCLAMATION: Une image montre une explosion près du Pentagone.

LES FAITS: La police et les pompiers d’Arlington, en Virginie, affirment que l’image n’est pas réelle et qu’il n’y a eu aucun incident au siège du département américain de la Défense de l’autre côté du Potomac depuis la capitale nationale.

Malgré cela, l’image et l’affirmation ont été diffusées par des médias tels que RT, une société de médias soutenue par le gouvernement russe anciennement connue sous le nom de Russia Today. Il a également été largement partagé dans les cercles d’investissement, y compris un compte portant la coche de vérification bleue signature de Twitter qui suggérait à tort qu’il était associé à Bloomberg News.

« Rapports d’une explosion près du Pentagone à Washington DC », a écrit l’agence de presse d’État russe dans un tweet supprimé depuis à ses plus de trois millions de followers.

Le moment de la fausse image, qui a semblé se répandre largement juste après l’ouverture du marché boursier américain à 9 h 30, a été suffisant pour envoyer une ondulation dans le monde de l’investissement.

Le S&P 500 a brièvement chuté d’un modeste 0,3% alors que les comptes de médias sociaux et les sites Web d’investissement populaires auprès des day traders ont répété les fausses affirmations.

D’autres investissements ont également évolué d’une manière qui se produit généralement lorsque la peur pénètre le marché. Les prix des bons du Trésor américain et de l’or, par exemple, ont brièvement commencé à grimper, suggérant que les investisseurs cherchaient un endroit plus sûr pour garer leur argent.

La propagation rapide de l’image a incité le service d’incendie du comté d’Arlington à se tourner vers les médias sociaux pour faire tomber les rumeurs.

« @PFPAOfficial et l’ACFD sont au courant d’un rapport sur les réseaux sociaux circulant en ligne concernant une explosion près du Pentagone », a écrit l’agence, faisant référence à l’acronyme de la Pentagon Force Protection Agency qui contrôle le Pentagone. « Il n’y a AUCUNE explosion ou incident survenu dans ou à proximité de la réserve du Pentagone, et il n’y a pas de danger immédiat ni de danger pour le public. »

Le capitaine Nate Hiner, porte-parole des pompiers, a confirmé que le tweet de l’agence était authentique mais a refusé de commenter davantage, s’en remettant aux forces de police du Pentagone, qui n’ont pas répondu aux messages électroniques et téléphoniques.

Les experts en désinformation disent que la fausse image a probablement été créée à l’aide de programmes d’intelligence artificielle générative, qui ont récemment permis à des visuels de plus en plus réalistes, mais souvent défectueux, d’inonder Internet.

Les incohérences dans le bâtiment, la clôture et la zone environnante sont des imperfections que l’on trouve généralement dans les images générées par l’IA, a noté Hany Farid, professeur d’informatique à l’Université de Californie à Berkeley, spécialisé dans la criminalistique numérique, la désinformation et l’analyse d’images.

« Plus précisément, l’herbe et le béton se fondent l’un dans l’autre, la clôture est irrégulière, il y a un étrange poteau noir qui dépasse de l’avant du trottoir mais qui fait également partie de la clôture », a-t-il écrit dans un e-mail. « Les fenêtres du bâtiment ne correspondent pas aux photos du Pentagone que vous pouvez trouver en ligne. »

Chirag Shah, codirecteur du Center for Responsibility in AI Systems & Experiences de l’Université de Washington à Seattle, a averti que repérer les contrefaçons ne sera pas toujours aussi évident.

La société devra s’appuyer davantage sur « le crowdsourcing et la vigilance de la communauté pour éliminer les mauvaises informations et arriver à la vérité » à mesure que la technologie de l’IA s’améliore, a-t-il soutenu.

« Se contenter d’utiliser des outils de détection ou des publications sur les réseaux sociaux ne suffira pas », a écrit Shah dans un e-mail.

Avant le canular de l’explosion, la plus grande intrigue de Beltway dans l’esprit de Wall Street lundi matin était de savoir si le gouvernement américain évitera un défaut de paiement désastreux sur sa dette.

Mais comme le marché devient de plus en plus réactif aux nouvelles qui font la une des journaux, la désinformation peut être particulièrement dommageable lorsqu’elle est partagée par des médias même vaguement considérés comme crédibles, a déclaré Adam Kobeissi, rédacteur en chef de The Kobeissi Letter, une publication de l’industrie.

« Beaucoup de ces mouvements se produisent à cause du trading à haute fréquence, du trading algorithmique, qui fait essentiellement les gros titres, les synthétise puis les décompose en un commerce à la milliseconde », a-t-il expliqué par téléphone, notant qu’une grande partie du marché est maintenant automatisé. « C’est comme si vous appuyiez sur la gâchette à chaque fois qu’un titre sort. »

—-

Les journalistes économiques d’Associated Press Stan Choe et Wyatte Grantham-Philips à New York ont ​​contribué à cette histoire.

——

Cela fait partie des efforts d’AP pour lutter contre la désinformation largement partagée, notamment en travaillant avec des entreprises et des organisations extérieures pour ajouter un contexte factuel au contenu trompeur qui circule en ligne. En savoir plus sur la vérification des faits chez AP