"Elon Musk et des centaines d'experts réclament une pause dans l'IA, évoquant «des risques majeurs pour l'humanité»", 30 mars 2023

Elon Musk et des centaines d'experts mondiaux de l'intelligence artificielle ont signé...un appel à une pause de six mois dans la recherche sur les IA plus puissantes que ChatGPT 4, le modèle d'OpenAI lancé mi-mars, en évoquant «des risques majeurs pour l'humanité»... «Je n'ai pas envie d'une société dont le rythme est dicté par des géants de la tech. Il y a un enjeu démocratique», estime un...enseignant-chercheur en IA à l'université de Nantes...

...Les signataires réclament...un moratoire jusqu'à la mise en place de systèmes de sécurité, dont de nouvelles autorités réglementaires dédiées, «la surveillance et le suivi des systèmes d'IA hautement performants», «un financement public robuste pour la recherche technique sur la sécurité de l'IA », «un écosystème robuste d'audit et de certification», des techniques pour aider à distinguer le réel de l'artificiel et des institutions capables de gérer les «perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l'IA provoquera»...

... «Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus.»...

...Le patron d'OpenAI (ChatGPT)...a lui-même reconnu être «un petit peu effrayé» par sa création si elle était utilisée pour de «la désinformation à grande échelle ou des cyberattaques». «La société a besoin de temps pour s'adapter»...

La pétition réunit des personnalités qui ont déjà publiquement exprimé leurs craintes envers des IA incontrôlables qui surpasseraient l'être humain, dont Elon Musk...et Yuval Noah Harari... Les signataires comprennent aussi le cofondateur d'Apple.., des membres du laboratoire d'IA de Google DeepMind, le patron de Stability AI Emad Mostaque..., des ingénieurs cadres de Microsoft..., ainsi que de nombreux universitaires américains et européens...