"Ça va nous détruire !" : des experts demandent une pause dans le développement des IA

The Guardian rapporte que plus de 1 000 experts de l’intelligence artificielle ont lancé une alerte pour stopper le développement des technologies utilisant l’Intelligence Artificielle.

Publié le 01-04-2023 à 09h10

Des intelligences digitales de plus en plus puissantes que personne, pas même leur créateur, ne peuvent comprendre.

Les experts, incluant Elon Musk, pensent que cette pause devrait durer au moins 6 mois pour que les dangers de systèmes comme GPT4 puissent être étudiés et mitigés. Musk est un des co-fondateurs d'OpenAI, le laboratoire de recherche à l'origine de ChatGPT et de sa dernière version GPT4.

D'autres experts ont signé cette demande dont Emad Mostaque, fondateur de Stability AI et Steve Wozniak, l'un des créateurs d'Apple. Parmis les signataires on retrouve également de nombreux ingénieurs travaillant pour DeepMind, Microsoft, Meta, Google et Amazon.

«Ces derniers mois, les laboratoires d'intelligence artificielle se lancent dans une course pour développer et déployer des intelligences digitales de plus en plus puissantes que personne, pas même leur créateur, ne peuvent comprendre, prédire ou contrôler»a déclaré le Future of Life Institute avant de poursuivre : «Des systèmes aussi puissants doivent être développés seulement quand leurs effets sont considérés comme positifs et leurs risques gérables».

Les auteurs citent le co-fondateur d'OpenAI, Sam Altman, qui a affirmé en février 2023 : "À un moment, il sera important de recevoir des avis indépendants avant de commencer à entraîner les nouveaux systèmes et pour les modèles les plus avancés de limiter leurs taux de croissance». Les auteurs de la lettre issus du Future of Life Institute écrivent en réponse à Altman :"Nous sommes d'accord. Ce moment est venu."