La prolifération de la haine et des mensonges sur les plateformes numériques et la menace que l’intelligence artificielle puisse devenir un « monstre » incontrôlé exigent une action mondiale coordonnée – à commencer par un code de conduite pour les gouvernements, les entreprises technologiques et les annonceurs qui promeut la vérité et protège les droits de l’homme , a déclaré lundi le chef de l’ONU.

Le secrétaire général Antonio Guterres a déclaré qu’il prévoyait de nommer un conseil consultatif scientifique dans quelques jours, et un conseil consultatif sur l’intelligence artificielle en septembre pour préparer les initiatives que l’ONU pourrait prendre. Il a déclaré qu’il réagirait favorablement à une nouvelle agence de l’ONU sur l’intelligence artificielle et a suggéré comme modèle l’Agence internationale de l’énergie atomique, qui est basée sur la connaissance et dispose de certains pouvoirs de réglementation.

António Guterres a déclaré lors d’une conférence de presse qu’il prévoyait de mener de larges consultations sur les principes du Code de conduite des Nations Unies pour l’intégrité de l’information sur les plateformes numériques, qu’il publiera avant le Sommet des Nations Unies sur l’avenir de l’année prochaine.

Il a exprimé l’espoir que le code sera largement soutenu, mais lorsqu’on lui a demandé si les gouvernements et les entreprises technologiques étaient disposés à prendre des mesures pour rendre l’espace numérique plus sûr, il a répondu : « C’est la question que je me pose ».

« Nous avons affaire à une entreprise qui génère des profits énormes, et nous avons aussi affaire dans certaines situations à des gouvernements qui ne respectent pas entièrement les droits de l’homme, c’est donc une bataille constante – et dans cette bataille constante, nous devons mobiliser tous ceux qui sont attachés à l’intégrité des informations sur les plateformes numériques », a-t-il déclaré.

Heidi Beirich, co-fondatrice du Projet mondial contre la haine et l’extrémisme, a convenu que même si c’est une étape positive que l’ONU appelle à des solutions internationales à ce problème mondial, son code de conduite ne sera probablement pas suffisant pour arrêter le torrent de informations fausses et haineuses en ligne.

« Le fait est que les codes volontaires, y compris les propres conditions de service des entreprises sur ces questions, n’ont pas réussi à les maîtriser », a déclaré Beirich. « Le problème pour l’ONU est qu’ils ne peuvent pas faire ce qu’il semble devoir faire pour régler ce problème, qui est essentiellement une législation. »

Guterres a déclaré que de nombreuses initiatives étaient en cours, notamment une loi et un code de conduite dans l’Union européenne pour ses 27 pays membres et un sommet britannique sur la sécurité de l’IA à l’automne. D’autres gouvernements étudient également des formes de réglementation. Mais il a dit qu’il existe une opinion selon laquelle la réglementation n’est pas facile parce que les choses évoluent très rapidement, et qu’une approche globale est donc nécessaire.

Guterres a déclaré qu’un problème clé est que le modèle commercial de l’entreprise technologique donne la priorité à l’engagement plutôt qu’à la confidentialité, à la vérité et aux droits de l’homme. Il a déclaré que les entreprises technologiques doivent comprendre que des profits massifs ne peuvent être créés « au détriment d’un modèle d’engagement qui passe avant toute autre considération ».

Le chef de l’ONU a déclaré que le code de conduite ne sera pas une solution, « mais il sera mondial » et il permettra aux gouvernements, aux entreprises technologiques, aux annonceurs et autres « de s’engager sur ce qui doit être fait pour garantir ou au moins pour promouvoir sérieusement l’intégrité de l’information sur les plateformes numériques. »

Les principes énoncés par Guterres pour le code de conduite comprennent des engagements « à s’abstenir d’utiliser, de soutenir ou d’amplifier la désinformation et les discours de haine à quelque fin que ce soit ».

Pour les gouvernements, il cherche à s’engager à ne pas répondre à la désinformation, à la désinformation et aux discours de haine en bloquant les commentaires légitimes, en fermant Internet ou en interdisant les plateformes ou les médias – et à garantir la protection des journalistes et des médias indépendants.

Pour les entreprises qui contrôlent les plateformes numériques, il cherche à s’engager à être transparents sur leurs algorithmes, leurs publicités et la manière dont ils traitent la désinformation, la désinformation et les discours de haine – et à éliminer les doubles standards qui permettent aux discours de haine et à la désinformation de prospérer dans certaines langues et certains pays. alors qu’ils sont prévenus plus efficacement chez d’autres. Les entreprises technologiques sont également invitées à donner aux gens un plus grand choix quant au contenu qu’ils voient et à la manière dont leurs données sont utilisées.

Guterres a déclaré qu’un engagement recherché des plateformes numériques comprend « des mesures urgentes et immédiates pour garantir que toutes les applications d’IA sont sûres, sécurisées, responsables et éthiques, et conformes aux obligations en matière de droits de l’homme ».

Il a déclaré que les Nations Unies « essaieront d’être au centre de tous les réseaux et mouvements qui seront créés » pour faire face à la technologie de l’IA au fur et à mesure de son développement. Mais il a dit que ce ne sera pas facile parce que les gouvernements et les organisations internationales n’ont pas suffisamment investi ces dernières décennies dans du personnel possédant les connaissances scientifiques et techniques nécessaires.

« Cela nécessite également l’engagement des plates-formes elles-mêmes et des créateurs d’IA eux-mêmes », a déclaré Guterres, « mais nous ferons de notre mieux pour être une plate-forme où tout le monde peut être ensemble afin de faire avancer cet agenda de manière positive ».

——

Ali Swenson a contribué à ce reportage depuis New York