mettre l’IA sur pause, “un enjeu existentiel” ?

Elon Musk, Tesla Patron, Steve Wozniak, Apple Co-Founder, Andrew Yang, Former Democratic Candidate for President of the United States, Tu Encore du Pre Turing IA) : tous font partie des plus de 1 000 personnalités et scientifiques ayant signé une Lettre ouverte Appelant à une pauseurgente dans la création de modèles de langage comme ChatGPT, quelques heures après la mise en ligne de sa dernière version mercredi 29 mars.

“Il est vraiment temps de prendre un peu de recul, et de réfléchir aux implications de ces technologies que l’on met actuellement entre les mains de millions d’individus”, souligne Jaromír Janisch, spécialiste de l’intelligence artificielle à l’université polytechnique tchèque de Prague, et l’un des signatures du texte.

Une lettre aux Accent Apocalypse

We’re calling ChatGPT to discuss “agent conversations.” “Il faut immédiatement mettre en pause” […] le développement de systèmes plus puissants que GPT-4 [la dernière itération de l’algorithme qui permet à ChatGPT de fonctionner]”, peut-on lire dans ce document.

Un pas de plus dans cette direction pourrait amener l’humanité à “développer des consciences non humanines qui nous rendraient obsolètes et nous remplaceraient”, écrivent les auteurs du document. pour eux, ce qui est en jeu, c’est “la perte de control sur l’avenir de notre Civilization”.

The Des accent highlights the apocalypse at the stage of the Future Life Institute, le cercle de réflexion à l’origin de cette Initiative. Influential Silicon Valley and financier Elon Musk has established a Solutions Technology Lab to solve the “existing threats to humanity.”

L’approche de ce center repose sur une philosophie controversée, le “long-termisme”, qui a notamment inspiré Sam Bankman-Fried, le patron déchu de l’empire des cryptomonnaies FTXLes adeptes de cette pensée estiment qu’il faut protéger l’humanité à tout prix de ce qui pourrait la faire disparaître pour qu’elle puisse atteindre son plein Potential à très long terme. telle idéologie qui pourait justifier, par example, l’instauration de monitoring de masse afin de “protéger” l’Homme a son insu.

“Cette lettre ouverte est un bazar sans nom qui surfe sur la vague médiatique de l’IA sans aborder les vrais problèmes”, estime Emily M. Bender, chercheuse à l’université de Washington et coautrice d’un article de référence sur les risks de l’IA paru en 2020. SF. Ce n’est pas la peine de jouer sur les peurs d’un hypothétique futur alors que l’intelligence artificielle représente déjà un risk pour la démocratie, l’environnement et l’economie”, précise Daniel Leufer, spécialiste des technologies innovantes travaillant sur les défis sociétaux posés par l’AI pour l’ONG de défense des droits sur Internet Access Now.

La Pose Simpose

Ironically, the signatories of the French 24th secured a quantity of documents about philosophy. “La lettre n’est peut-être pas parfaite, mais il ne fait aucun doute que nous devons prendre le temps de la réflexion maintenant”, Carles Sierra, president de l’European Association for Artificial Intelligence (EurAI) et director de l ‘ unité de recherche sur l’IA de l’Université autonome de Barcelone.

Pour, pause. “Tout va trop vite dans l’adoption de ces technologies, alors qu’il n’y a pas de vrai débat au sein de la communauté scientifique sur le sujet”, juge Joseph Sifakis, director de recherche à l’université de Grenoble et seul détenteur français d’un prix Turing (reçu en 2007).

Tout se passe comme si les scientifiques avaient été pris de court par la vitesse à laquelle leur creation grandit. “L’explosion du ‘deep learning'” [ou ‘apprentissage profond’, c’est-à-dire la capacité des IA à tirer des informations d’une base de données et à créer des connections entre ces informations, NDLR] David Krueger, an intelligence technology expert at the University of Cambridge, affirms:

Les avancées en “deep learning” ont ensuite permis d’aboutir “il ya environment cinq ans aux premiers resultats pratiques impressionnants de génération de texte grâce aux modèles de langage” [comme ChatGPT, NDLR]”, complete Vincent Corrble, chercheur en informatique à l’université de la Solbonne.

Pour les auteurs de la lettre ouverte, GPT-4 représenterait un point de bascule. fare une pause. pour a particularavec GPT-4 on begin à en avoir”, explique Vincent Corrble.

L’IAG Correspondence Late Aune Machines Capable des fairs Aux Bien aux miu que roms dans la purpert des domaines Intellectueles, et pas seulement dans certaines tâches sécialisées comme battre un humain aux échecs ou reconnaître des viages sur une photo. GPT- 4, in addition to the similar car Deja, begins a tour of the son’s sac. Il est ainsi able à la fois de discuter et de Transformer des phrases en image.

Mais d’aucun estime qu’une Intelligence Artificielle Générale n’est qu’une chimère inatteignable. Autant se préocuper des menaces qui seraient dejà notre porte.

ChatGPT ne dit pas la vérité

“On n’a pas du tout encore réfléchi, par example, à des solutions pour compenser toutes les pertes d’emplois que le recours à l’IA va générer”, Grigorios Tumacus of Soulline, Specialist in Intelligent Technology, Aristote University home Thessaloniki.In addition, the $300 million Salary Dans Le Monde Poole Laent Paddle Rule Trabail a la Couse de Romatization des Tache, Tamashii la Banque Goldman Sachs dans une nouvelle etude publiée lundi 27 mars.

Ces IA mises ajourd’hui entre les mains de millions d’internautes comme autant de jouets numériques ne sont pas non plus des plus sûres. quelques mesures de securité mises en place sur ces systèmes. Que se passerait-il si des organization terrorists arrived emparer pour créer des virus, for example ?”, s’interroge Grigarios Tsoumakas.

Les risques liés à la Cybersécurité sont syntaxatiques d’un problème plus massive avec ces systèmes, d’après Joseph Sifakis. vraiment comment ces IA vont réagir”, juge cet expert.

Sans compter qu’il faudrait éduquer le commun des utilisateurs. Ça n’a rien à voir avec le vrai ou le faux”, assène Carles Sierra.

De quoi faire de ces outils de formidables armes de désinformation A lot. Details: “Il est emergency de se demander ce qui vase passer quand les gens vont beginer à prendre des de decisions qui auront un impact sur leur vie en fonction des réponses de ses IA”, ajoute Joseph Sifakis. Quid, par example, si un juge demande à GPT-4 quelle est la meilleure statement à prononcer dans une Affairse ?

Des Big Tech “Irresponsible”

Autant de raisons de faire une pause. Mais pour quoi faire ? increase.

Il faut donc s’en remettre aux guarantees de Meta (Facebook), Google or encore Microsoft (qui a Investmenti des milliards dans OpenAI, le créateur de ChatGPT). Pour eux and advertise fonctionne à merveille. “Mais ils sont entrés dans une phase de course poursuite qui fait que la sécurité des systèmes ne sera probablement pas leurpriorité face aux objectifs économiques”, estime Daniel Leufer, de l’ONG Access Now.

“Giant tech companies are doing the irresponsible act of témeraire and irresponsible technological development. course à l’IA”, juge David Krueger.

La lettre ouverte demande un moratoire de six mois sur la mise au point de nouvelle version de ces IA. qui existe. Une fois le délai passé, il sera toujours temps de le prolonger”, affirms Vincent Corrble.

Ces géants de la tech jurent qu’ils sontables de s’autoréguler. a être dissoutes lorsque ces entreprises cherchaient à réduire les effectifs”, souligne Grigarios Tsoumakas

Et puis ces grands groupes n’ont peut-être pas conscience des conséquences à long terme de leurs Innovations. aurait peut-être pu leur expliquer l’effet dévastateur que cela allait avoir sur la sante mentale de june face à cette pression des réseaux sociaux”, estime Carles Sierra.