Amazon, Google, Meta, Microsoft et d’autres sociétés qui dirigent le développement de la technologie de l’intelligence artificielle ont convenu de respecter un ensemble de garanties d’IA négociées par l’administration du président Joe Biden.

La Maison Blanche a déclaré vendredi qu’elle avait obtenu des engagements volontaires de sept entreprises américaines destinées à garantir la sécurité de leurs produits d’IA avant de les commercialiser. Certains des engagements appellent à une surveillance par un tiers du fonctionnement des systèmes d’IA commerciaux, bien qu’ils ne précisent pas qui auditera la technologie ou tiendra les entreprises responsables.

Une augmentation des investissements commerciaux dans des outils d’IA génératifs capables d’écrire des textes convaincants de type humain et de produire de nouvelles images et d’autres médias a suscité la fascination du public ainsi que des inquiétudes quant à leur capacité à tromper les gens et à répandre la désinformation, entre autres dangers.

Les quatre géants de la technologie, ainsi que le fabricant de ChatGPT OpenAI et les startups Anthropic et Inflection, se sont engagés à effectuer des tests de sécurité « réalisés en partie par des experts indépendants » pour se prémunir contre les risques majeurs, tels que la biosécurité et la cybersécurité, a déclaré la Maison Blanche dans un communiqué.

Les entreprises se sont également engagées à adopter des méthodes pour signaler les vulnérabilités de leurs systèmes et à utiliser le filigrane numérique pour aider à distinguer les images réelles des images générées par l’IA, appelées deepfakes.

Ils signaleront également publiquement les défauts et les risques de leur technologie, y compris les effets sur l’équité et la partialité, a déclaré la Maison Blanche.

Les engagements volontaires sont censés être un moyen immédiat de faire face aux risques avant une poussée à plus long terme pour amener le Congrès à adopter des lois réglementant la technologie.

Certains défenseurs de la réglementation de l’IA ont déclaré que la décision de Biden était un début, mais qu’il fallait faire davantage pour tenir les entreprises et leurs produits responsables.

« L’histoire indiquerait que de nombreuses entreprises technologiques ne respectent pas l’engagement volontaire d’agir de manière responsable et de soutenir une réglementation stricte », a déclaré James Steyer, fondateur et PDG de l’association à but non lucratif Common Sense Media.

Le chef de la majorité au Sénat, Chuck Schumer, DN.Y., a déclaré qu’il présenterait une législation pour réglementer l’IA. Il a tenu un certain nombre de séances d’information avec des représentants du gouvernement pour informer les sénateurs sur une question qui suscite l’intérêt des deux partis.

Un certain nombre de dirigeants de la technologie ont appelé à une réglementation, et plusieurs se sont rendus à la Maison Blanche en mai pour parler avec Biden, le vice-président Kamala Harris et d’autres responsables.

Mais certains experts et concurrents parvenus craignent que le type de réglementation en vigueur ne soit une aubaine pour les pionniers aux poches profondes dirigés par OpenAI, Google et Microsoft, car les petits acteurs sont évincés par le coût élevé de la fabrication de leurs systèmes d’IA. comme de grands modèles linguistiques adhèrent aux restrictions réglementaires.

Le groupe de commerce de logiciels BSA, qui comprend Microsoft en tant que membre, a déclaré vendredi qu’il saluait les efforts de l’administration Biden pour établir des règles pour les systèmes d’IA à haut risque.

« Les éditeurs de logiciels d’entreprise sont impatients de travailler avec l’administration et le Congrès pour promulguer une législation qui traite les risques associés à l’intelligence artificielle et promeut ses avantages », a déclaré le groupe dans un communiqué.

Un certain nombre de pays ont cherché des moyens de réglementer l’IA, y compris les législateurs de l’Union européenne qui ont négocié des règles radicales sur l’IA pour le bloc des 27 nations.

Le secrétaire général de l’ONU, Antonio Guterres, a récemment déclaré que l’ONU était « l’endroit idéal » pour adopter des normes mondiales et a nommé un conseil qui fera rapport sur les options de gouvernance mondiale de l’IA d’ici la fin de l’année.

Le chef de l’ONU a également déclaré qu’il se félicitait des appels de certains pays à la création d’un nouvel organe des Nations Unies pour soutenir les efforts mondiaux de gouvernance de l’IA, inspiré de modèles tels que l’Agence internationale de l’énergie atomique ou le Groupe d’experts intergouvernemental sur l’évolution du climat.

La Maison Blanche a déclaré vendredi qu’elle avait déjà consulté sur les engagements volontaires avec un certain nombre de pays.