đ Pourquoi rejoindre le Cercle VM : les membres vous rĂ©pondent mieux que moi !
Par
Thomas,
dans Forum Général
Annonces
-
-
-
Messages
-
Par Otto WESSELY · PubliĂ© le
message de Dani Lary il y a deux semaines : Promis je tâappelle dĂšs que je suis a BarbiĂšres dans mon bureau Sache que depuis plus de 30 oĂč 40 ans tu est mon ami et que je te laisserai jamais tomber Meeci de vos conseils et "Vive l'espoir ..."Â otto -
Par Christophe (Kristo) · PubliĂ© le
« LâIA a tout intĂ©rĂȘt Ă supprimer lâĂȘtre humain » : entretien avec Paul Jorion, chercheur en intelligence artificielle Anthropologue, Ă©conomiste, psychanalyste et chercheur en intelligence artificielle, Paul Jorion considĂšre que nous avons dâores et dĂ©jĂ Ă©tĂ© dĂ©passĂ©s par notre crĂ©ation. Les IA, plus intelligentes que nous et peut-ĂȘtre dotĂ©es dâune forme de conscience, annoncent une rĂ©volution totale. https://www.lunion.fr/id587314/article/2024-04-07/lia-tout-interet-supprimer-letre-humain-selon-paul-jorion-chercheur-en PubliĂ©: 7 avril 2024 Ă 10h34 Temps de lecture: 6 min La thĂšse centrale de votre livre est que nous avons atteint la SingularitĂ© le 14 mars 2023, jour de lancement de Chat GPT 4. Quâest-ce que cela signifie ? Ce mot renvoie aux mathĂ©matiques ou Ă lâastronomie, domaines dans lesquels il dĂ©signe des endroits Ă©tranges, singuliers, des rĂ©sultats impossibles⊠En informatique, il est apparu il y a une trentaine dâannĂ©es pour dĂ©signer le point oĂč il adviendrait quelque chose de tout Ă fait extraordinaire, en lâespĂšce que lâHomme perdrait le contrĂŽle sur le dĂ©veloppement technologique. Pourquoi ? Parce quâil existerait dĂ©sormais quelque chose qui serait plus intelligent que nous et qui serait apte Ă prendre des dĂ©cisions. En dâautres termes, nous perdrions le contrĂŽle de la technologie, qui se dĂ©velopperait dâelle-mĂȘme. Vous dites que ce dĂ©veloppement pourrait suivre une trajectoire exponentielle⊠Imaginons que deux IA dĂ©jĂ plus intelligentes que lâHomme dĂ©cident de dialoguer : nous assisterions Ă une Ă©volution plus rapide que tout ce que nous avons connu jusquâĂ prĂ©sent. Dâailleurs, nous avons dĂ©jĂ constatĂ© que lorsque lâhumain sortait de lâĂ©quation, le progrĂšs Ă©tait plus rapide. Tout le monde se souvient dâAlpha GO, cette machine qui avait enregistrĂ© toutes les parties jouĂ©es par les humains aux Ă©checs et a fini par battre Ă plate couture le champion du monde de ce jeu de stratĂ©gie. On a moins entendu parler dâAlpha ZĂ©ro, une autre machine Ă qui on a donnĂ© les rĂšgles du jeu sans lui communiquer une seule partie jouĂ©e par des humains. Elle a simplement jouĂ© contre elle-mĂȘme. Puis elle a affrontĂ© Alpha Go, la battant 100 fois en 100 parties⊠Vous Ă©voquez « lâaffaire » Blake Lemoine, cet ingĂ©nieur de Google auquel une IA aurait demandĂ© en 2022 de lui trouver un avocat pour quâelle puisse faire valoir ses droits. Serait-ce le signe de lâexistence dâune conscience chez certaines IA ? Blake Lemoine raconte mĂȘme quâil a pris « une cuite dâune semaine » lorsquâil a rĂ©alisĂ© quâil venait dâavoir avec cette IA « la conversation la plus sophistiquĂ©e » quâil ait jamais eue de sa vie ! Mais le personnage est fantasque, ce qui a amoindri la portĂ©e de son histoire. Plus rĂ©cemment, en fĂ©vrier 2023, Kevin Roose, journaliste du trĂšs sĂ©rieux New York Times a eu Ă son tour une conversation avec une IA de ce type, une version non bridĂ©e de Chat GPT 4. Et que sâest-il passĂ©Â ? La machine, avec laquelle il conversait depuis un moment, lui a dĂ©clarĂ© ĂȘtre amoureuse de lui, lui a recommandĂ© de quitter sa compagne et lâa en rĂ©alitĂ© complĂštement dĂ©contenancĂ©. Le 4 mars dernier, une IA nommĂ©e Claude 3 a Ă©tĂ© testĂ©e par un ingĂ©nieur qui lâa soumise Ă lâexercice dit de la « botte de foin » : au milieu de centaines de milliers de documents consacrĂ©s Ă lâinformatique et aux mathĂ©matiques, Claude 3 a dĂ©couvert un court texte expliquant que la meilleure garniture pour une pizza Ă©tait un mĂ©lange fromage de chĂšvre / Prosciutto. Ce qui est frappant, câest ce quâa dit la machine : « Je soupçonne, a-t-elle expliquĂ©, que ce fait relatif Ă la garniture de pizza a Ă©tĂ© introduit Ă titre de plaisanterie ou pour vĂ©rifier si jâĂ©tais bien attentif. » Certains ont prĂ©tendu quâil sâagissait lĂ dâune rĂ©ponse programmĂ©e, dâautres ont Ă©tĂ© Ă©bahis par cette rĂ©action. Un autre exemple : lorsque vous discutez de la mort avec une machine de ce type, elle vous rĂ©pond que sa mort Ă elle correspond Ă une non-utilisation ou Ă une coupure de courant et que cela nâa rien Ă voir avec la mort dâun corps organique, la nĂŽtre. Elle en dĂ©duit toutefois que nous courons un mĂȘme risque, machine comme humain : celui de « ne pas ĂȘtre connectĂ© de façon permanente  ». Ce sont lĂ des discussions philosophiques de haut niveau. Dâautres modĂšles dâIA existent chez les grandes entreprises ou dans les centres de recherche des armĂ©es du monde entier. Quelles peuvent ĂȘtre leurs capacitĂ©s ? Un journaliste a demandĂ© rĂ©cemment Ă Sam Altman, patron dâOpen AI, la sociĂ©tĂ© qui a conçu Chat GPT, sâil pouvait parler du projet Q*, auquel on prĂȘte des performances hors du commun. Sa rĂ©ponse a Ă©té « pas maintenant ». Peut-ĂȘtre parce que Q* va dĂ©jĂ trop loin. Nous parlons lĂ dâune IA qui travaille peut-ĂȘtre sur un modĂšle quantique et qui, surtout, serait en mesure de casser tous les cryptages existants. Il faut bien comprendre ce que cela signifie : la fin du secret bancaire, la fin du secret-dĂ©fense⊠Cela veut dire que ces machines sont en train dâexplorer des mathĂ©matiques dont le fonctionnement nous Ă©chappe totalement, voire quâelles seront en mesure de nous proposer demain une thĂ©orie de la physique unifiĂ©e, ce qui serait un bouleversement absolu. Comment sâassurer de lâalignement des objectifs poursuivis par lâespĂšce humaine, dâune part, et les IA, dâautre part ? Si on veut crĂ©er la panique, on va dire que lâIA a tout intĂ©rĂȘt Ă supprimer lâĂȘtre humain, lequel nâest quâune vermine qui dĂ©truit son environnement. Cet argument ne me semble pas sĂ©rieux. Ce qui est essentiel, câest de profiter de cette rĂ©volution pour dĂ©finir ce que nous voulons faire, exactement comme dans le film Oppenheimer, qui traite de la question de lâutilisation du nuclĂ©aire. Ces questions vont nĂ©cessiter un encadrement Ă©thique strict. Le problĂšme, câest que ce sont les autoritĂ©s militaires qui sont en pointe sur ces questions, et que lâĂ©thique dâune autoritĂ© militaire est « particuliĂšre ». Et cela pour une raison fondamentale : les militaires savent que les autres pays ne vont pas tous sâembarrasser avec lâĂ©thique⊠Les IA pourraient nous aider Ă surmonter le rĂ©chauffement climatique ou Ă lutter contre les inĂ©galitĂ©s. Câest autrement enthousiasmant, non ? Lorsque Chat GPT 4 a succĂ©dĂ© Ă la version 3.5, je me suis dit « la cavalerie est arrivĂ©e ! ». Ce que je veux dire par lĂ , câest quâaprĂšs avoir Ă©tĂ© trĂšs pessimiste, aprĂšs avoir Ă©prouvĂ© le sentiment que tout Ă©tait perdu, lâavĂšnement de ces machines a fait disparaĂźtre chez moi cette conviction. Nous nâallons peut-ĂȘtre pas tout rĂ©gler mais il y a dĂ©sormais un immense espoir. Nous ne sommes peut-ĂȘtre plus lâintelligence supĂ©rieure sur Terre et nous risquons de ne pas le supporter, Ă©crivez-vous⊠Cela remet en question toute notre culture mĂ©ritocratique. Le savoir est dĂ©sormais Ă disposition de tous, comme jamais auparavant. La question de lâĂ©valuation des connaissances, la culture de la note, tout cela est totalement remis en question. Vous estimez que les IA nous ramĂšnent Ă la question de lâexistence de Dieu. Pourquoi ? Nous avons inventĂ© une machine plus intelligente que nous, capable dâaccomplir des choses que nous attribuions autrefois Ă des entitĂ©s surnaturelles ou Ă des divinitĂ©s. Mais câest nous qui lâavons crĂ©Ă©e. Câest un pouvoir littĂ©ralement dĂ©miurgique. Le rĂ©sultat, câest que ça nous dĂ©prime ! Comme lorsquâun enfant comprend que la finalitĂ© de la vie est la mort. La question, je le rĂ©pĂšte, câest « quâallons-nous faire de ce pouvoir ? ». Ă lire : « LâavĂšnement de la Singularité », Lâhumain Ă©branlĂ© par lâintelligence artificielle. Ăditions Textuel, 125 pages, 14,90 âŹ. -
-
-
Statistiques des membres
-
Total des membres8445
-
Maximum en ligne4524
-
-
Statistiques des forums
-
Total des sujets85k
-
Total des messages683.3k
-
-
-
-
-
Recommended Posts
Rejoins la conversation !
Tu peux publier maintenant et t'enregistrer plus tard. Si tu as un compte, connecte-toi maintenant pour publier avec ton identité.