IA: Musk et le cofondateur d’Apple appellent à ralentir l’entraînement de l’intelligence artificielle

Elon Musk
  • Auteur/autrice de la publication :
  • Temps de lecture :6 min de lecture
  • Post category:News

« Ne nous précipitons pas pour tomber sans être préparés », peut-on lire dans la missive signée par plus de 1 000 dirigeants et experts de l’IA.

Elon Musk, PDG de SpaceX, Tesla et Twitter, ainsi que Steve Wozniak, cofondateur d’Apple, ont signé une lettre appelant tous les laboratoires d’intelligence artificielle (IA) à « interrompre immédiatement » l’entraînement de systèmes d’IA plus puissants que le GPT-4 pendant au moins six mois.

« Les systèmes d’IA dotés d’une intelligence compétitive avec celle des humains peuvent présenter de graves risques pour la société et l’humanité, comme l’ont démontré des recherches approfondies et comme le reconnaissent les principaux laboratoires d’intelligence artificielle », peut-on lire dans la lettre signée par plus de 1 000 cadres et experts de l’intelligence artificielle.

Le document, publié mercredi par l’organisation à but non lucratif Future of Life Institute, dénonce le fait que l’intelligence artificielle avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre. Dans ce contexte, il appelle à « une planification et une gestion minutieuses avec les ressources correspondantes », car il affirme qu’un tel niveau de gestion n’existe pas.

IA rédige un texte

IA, une « course hors de contrôle »

Malgré le fait que les laboratoires d’intelligence artificielle se soient lancés ces derniers mois dans « une course hors de contrôle » pour développer et déployer des esprits numériques toujours plus puissants que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable, détaille le rapport.

Le 16 mars, Sam Altman, PDG d’OpenAI, a admis qu’il était « un peu effrayé » par la création de ChatGPT, ajoutant qu’il était « particulièrement préoccupé par le fait que ces modèles pourraient être utilisés pour la désinformation à grande échelle », faisant référence à GPT-4, la nouvelle version de ChatGPT qui « présente des performances de niveau humain sur un certain nombre de points de référence académiques et professionnels ».

openai logo

Le même jour, le moteur de recherche chinois Baidu a dévoilé son alternative chinoise à ChatGPT, le chatbot d’intelligence artificielle Ernie bot, dont les tâches comprennent la compréhension et la génération de langage, la conversion de texte en image, la composition de poèmes et la production audio dans les dialectes chinois. Il est également capable de créer des itinéraires de voyage et d’effectuer des diffusions en direct pour faire la publicité de produits.

digital-information-travels-through-fiber-optic-cables-through-network-data-servers-glass-panels-server-room-data-cente

« Ne nous précipitons pas pour tomber sans être préparés »

Les auteurs de la lettre demandent instamment s’il faut laisser les machines inonder nos canaux d’information de propagande et de mensonges. « Devons-nous développer des esprits non humains qui pourraient éventuellement être plus nombreux que nous, nous déjouer, nous rendre obsolètes et nous remplacer, devons-nous risquer de perdre le contrôle de notre civilisation ? », poursuivent-ils.

Ils demandent instamment que les systèmes d’intelligence artificielle soient développés lorsqu’il est certain que leurs effets seront positifs et que leurs risques seront gérables. Selon eux, les laboratoires d’intelligence artificielle et les experts indépendants devraient profiter de cette pause pour élaborer et mettre en œuvre conjointement des protocoles de sécurité communs pour la conception et le développement d’une intelligence artificielle avancée, qui seraient rigoureusement vérifiés et contrôlés par des experts externes indépendants.

Dans ce cadre, ils invitent les développeurs d’intelligence artificielle à collaborer avec les décideurs politiques pour « accélérer considérablement le développement de systèmes de gouvernance robustes » dans le domaine de l’intelligence artificielle, ce qui devrait inclure de nouvelles autorités réglementaires compétentes dédiées à l’intelligence artificielle.

Il est également expliqué que la société a déjà fait une pause sur d’autres technologies ayant des effets potentiellement catastrophiques sur l’humanité, telles que le clonage humain et d’autres domaines de la génétique. « Nous pouvons le faire ici », demandent-ils. « Ne nous précipitons pas pour tomber sans être préparés », concluent-ils.

IA

Article: ChatGPT: Que vaut cette IA développée par OpenAI ?

Philippe

Have a Passion about Technology, Photography and Writing. Codetahiche.com is my personal blog about WordPress Plugins, WordPress Themes, VPN and Web Hosting.

Laisser un commentaire