Le chef de ChatGPT témoignera devant le Congrès alors que les inquiétudes grandissent quant aux risques de l’intelligence artificielle
Le chef de la société d’intelligence artificielle qui fabrique ChatGPT a déclaré mardi au Congrès que l’intervention du gouvernement « sera essentielle pour atténuer les risques de systèmes d’IA de plus en plus puissants ».
« À mesure que cette technologie progresse, nous comprenons que les gens s’inquiètent de la façon dont cela pourrait changer notre façon de vivre. Nous le sommes aussi », a déclaré le PDG d’OpenAI, Sam Altman, lors d’une audience au Sénat mardi.
Altman a proposé la création d’une agence américaine ou mondiale qui accorderait une licence aux systèmes d’IA les plus puissants et aurait le pouvoir de « retirer cette licence et d’assurer le respect des normes de sécurité ».
Sa startup basée à San Francisco a attiré l’attention du public après la sortie de ChatGPT à la fin de l’année dernière. ChatGPT est un outil de chatbot gratuit qui répond aux questions avec des réponses humaines convaincantes.
Ce qui a commencé comme une panique parmi les éducateurs à propos de l’utilisation de ChatGPT pour tricher sur les devoirs s’est étendu à des préoccupations plus larges concernant la capacité de la dernière génération d’outils « d’IA générative » à induire les gens en erreur, à répandre des mensonges, à violer les protections du droit d’auteur et à bouleverser certains emplois.
Et bien qu’il n’y ait aucun signe immédiat que le Congrès élaborera de nouvelles règles radicales sur l’IA, comme le font les législateurs européens, les préoccupations sociétales ont amené Altman et d’autres PDG de la technologie à la Maison Blanche au début du mois et ont conduit les agences américaines à promettre de sévir contre l’IA nuisible. produits qui enfreignent les lois existantes sur les droits civils et la protection des consommateurs.
Le sénateur Richard Blumenthal, le démocrate du Connecticut qui préside le sous-comité du Comité judiciaire du Sénat sur la vie privée, la technologie et la loi, a ouvert l’audience avec un discours enregistré qui ressemblait au sénateur mais était en fait un clone de voix formé sur les discours de Blumenthal et récitant un discours. écrit par ChatGPT après avoir demandé au chatbot de composer ses remarques liminaires.
Le résultat a été impressionnant, a déclaré Blumenthal, mais il a ajouté : « Et si je l’avais demandé, et si cela avait fourni, une approbation de la capitulation de l’Ukraine ou du leadership du (président russe) Vladimir Poutine ? »
Blumenthal a déclaré que les entreprises d’IA devraient être tenues de tester leurs systèmes et de divulguer les risques connus avant de les publier, et a exprimé une inquiétude particulière quant à la façon dont les futurs systèmes d’IA pourraient déstabiliser le marché du travail.
Pressé par sa pire peur à propos de l’IA, Altman a surtout évité les détails. Mais il a ensuite proposé qu’une nouvelle agence de réglementation impose des garanties qui bloqueraient les modèles d’IA qui pourraient « s’auto-répliquer et s’auto-exfiltrer dans la nature » – faisant allusion aux préoccupations futuristes concernant les systèmes d’IA avancés qui pourraient manipuler les humains pour qu’ils cèdent le contrôle.
Cofondé par Altman en 2015 avec le soutien du milliardaire technologique Elon Musk avec une mission axée sur la sécurité, OpenAI est passé d’un laboratoire de recherche à but non lucratif à une entreprise. Ses autres produits d’IA populaires incluent le créateur d’images DALL-E. Microsoft a investi des milliards de dollars dans la startup et a intégré sa technologie dans ses propres produits, dont son moteur de recherche Bing.
Altman prévoit également de se lancer dans une tournée mondiale ce mois-ci dans les capitales nationales et les grandes villes des six continents pour parler de la technologie avec les décideurs politiques et le public. À la veille de son témoignage au Sénat, il a dîné avec des dizaines de législateurs américains, dont plusieurs ont déclaré à CNBC qu’ils étaient impressionnés par ses commentaires.
Christina Montgomery, responsable de la confidentialité et de la confiance d’IBM, et Gary Marcus, professeur émérite à l’Université de New York, qui faisait partie d’un groupe d’experts en IA qui ont appelé OpenAI et d’autres entreprises technologiques à suspendre leur développement de modèles d’IA plus puissants pour six mois pour donner à la société plus de temps pour évaluer les risques. La lettre était une réponse à la sortie en mars du dernier modèle d’OpenAI, GPT-4, décrit comme plus puissant que ChatGPT.
« L’intelligence artificielle sera transformatrice d’une manière que nous ne pouvons même pas imaginer, avec des implications pour les élections, les emplois et la sécurité des Américains », a déclaré le républicain de rang du panel, le sénateur Josh Hawley du Missouri. « Cette audience marque une première étape cruciale vers la compréhension de ce que le Congrès devrait faire. »
Un certain nombre de leaders de l’industrie technologique ont déclaré qu’ils se félicitaient d’une certaine forme de surveillance de l’IA, mais ont mis en garde contre ce qu’ils considèrent comme des règles trop lourdes. Dans une copie de ses remarques préparées, Montgomery d’IBM demande au Congrès d’adopter une approche de « réglementation de précision » et n’est pas d’accord avec les propositions d’Altman et Marcus pour un régulateur axé sur l’IA.
« Cela signifie établir des règles pour régir le déploiement de l’IA dans des cas d’utilisation spécifiques, et non réglementer la technologie elle-même », a déclaré Montgomery.