đ„ VM Live | tours, techniques, rencontres... ouverts Ă tous chaque semaine
Annonces
- Pas de pub non magique pour les membres du Cercle VM. Clique ici pour en savoir plus !
-
Messages
-
Par Christophe (Kristo) · PubliĂ© le
« LâIA a tout intĂ©rĂȘt Ă supprimer lâĂȘtre humain » : entretien avec Paul Jorion, chercheur en intelligence artificielle Anthropologue, Ă©conomiste, psychanalyste et chercheur en intelligence artificielle, Paul Jorion considĂšre que nous avons dâores et dĂ©jĂ Ă©tĂ© dĂ©passĂ©s par notre crĂ©ation. Les IA, plus intelligentes que nous et peut-ĂȘtre dotĂ©es dâune forme de conscience, annoncent une rĂ©volution totale. https://www.lunion.fr/id587314/article/2024-04-07/lia-tout-interet-supprimer-letre-humain-selon-paul-jorion-chercheur-en PubliĂ©: 7 avril 2024 Ă 10h34 Temps de lecture: 6 min La thĂšse centrale de votre livre est que nous avons atteint la SingularitĂ© le 14 mars 2023, jour de lancement de Chat GPT 4. Quâest-ce que cela signifie ? Ce mot renvoie aux mathĂ©matiques ou Ă lâastronomie, domaines dans lesquels il dĂ©signe des endroits Ă©tranges, singuliers, des rĂ©sultats impossibles⊠En informatique, il est apparu il y a une trentaine dâannĂ©es pour dĂ©signer le point oĂč il adviendrait quelque chose de tout Ă fait extraordinaire, en lâespĂšce que lâHomme perdrait le contrĂŽle sur le dĂ©veloppement technologique. Pourquoi ? Parce quâil existerait dĂ©sormais quelque chose qui serait plus intelligent que nous et qui serait apte Ă prendre des dĂ©cisions. En dâautres termes, nous perdrions le contrĂŽle de la technologie, qui se dĂ©velopperait dâelle-mĂȘme. Vous dites que ce dĂ©veloppement pourrait suivre une trajectoire exponentielle⊠Imaginons que deux IA dĂ©jĂ plus intelligentes que lâHomme dĂ©cident de dialoguer : nous assisterions Ă une Ă©volution plus rapide que tout ce que nous avons connu jusquâĂ prĂ©sent. Dâailleurs, nous avons dĂ©jĂ constatĂ© que lorsque lâhumain sortait de lâĂ©quation, le progrĂšs Ă©tait plus rapide. Tout le monde se souvient dâAlpha GO, cette machine qui avait enregistrĂ© toutes les parties jouĂ©es par les humains aux Ă©checs et a fini par battre Ă plate couture le champion du monde de ce jeu de stratĂ©gie. On a moins entendu parler dâAlpha ZĂ©ro, une autre machine Ă qui on a donnĂ© les rĂšgles du jeu sans lui communiquer une seule partie jouĂ©e par des humains. Elle a simplement jouĂ© contre elle-mĂȘme. Puis elle a affrontĂ© Alpha Go, la battant 100 fois en 100 parties⊠Vous Ă©voquez « lâaffaire » Blake Lemoine, cet ingĂ©nieur de Google auquel une IA aurait demandĂ© en 2022 de lui trouver un avocat pour quâelle puisse faire valoir ses droits. Serait-ce le signe de lâexistence dâune conscience chez certaines IA ? Blake Lemoine raconte mĂȘme quâil a pris « une cuite dâune semaine » lorsquâil a rĂ©alisĂ© quâil venait dâavoir avec cette IA « la conversation la plus sophistiquĂ©e » quâil ait jamais eue de sa vie ! Mais le personnage est fantasque, ce qui a amoindri la portĂ©e de son histoire. Plus rĂ©cemment, en fĂ©vrier 2023, Kevin Roose, journaliste du trĂšs sĂ©rieux New York Times a eu Ă son tour une conversation avec une IA de ce type, une version non bridĂ©e de Chat GPT 4. Et que sâest-il passĂ©Â ? La machine, avec laquelle il conversait depuis un moment, lui a dĂ©clarĂ© ĂȘtre amoureuse de lui, lui a recommandĂ© de quitter sa compagne et lâa en rĂ©alitĂ© complĂštement dĂ©contenancĂ©. Le 4 mars dernier, une IA nommĂ©e Claude 3 a Ă©tĂ© testĂ©e par un ingĂ©nieur qui lâa soumise Ă lâexercice dit de la « botte de foin » : au milieu de centaines de milliers de documents consacrĂ©s Ă lâinformatique et aux mathĂ©matiques, Claude 3 a dĂ©couvert un court texte expliquant que la meilleure garniture pour une pizza Ă©tait un mĂ©lange fromage de chĂšvre / Prosciutto. Ce qui est frappant, câest ce quâa dit la machine : « Je soupçonne, a-t-elle expliquĂ©, que ce fait relatif Ă la garniture de pizza a Ă©tĂ© introduit Ă titre de plaisanterie ou pour vĂ©rifier si jâĂ©tais bien attentif. » Certains ont prĂ©tendu quâil sâagissait lĂ dâune rĂ©ponse programmĂ©e, dâautres ont Ă©tĂ© Ă©bahis par cette rĂ©action. Un autre exemple : lorsque vous discutez de la mort avec une machine de ce type, elle vous rĂ©pond que sa mort Ă elle correspond Ă une non-utilisation ou Ă une coupure de courant et que cela nâa rien Ă voir avec la mort dâun corps organique, la nĂŽtre. Elle en dĂ©duit toutefois que nous courons un mĂȘme risque, machine comme humain : celui de « ne pas ĂȘtre connectĂ© de façon permanente  ». Ce sont lĂ des discussions philosophiques de haut niveau. Dâautres modĂšles dâIA existent chez les grandes entreprises ou dans les centres de recherche des armĂ©es du monde entier. Quelles peuvent ĂȘtre leurs capacitĂ©s ? Un journaliste a demandĂ© rĂ©cemment Ă Sam Altman, patron dâOpen AI, la sociĂ©tĂ© qui a conçu Chat GPT, sâil pouvait parler du projet Q*, auquel on prĂȘte des performances hors du commun. Sa rĂ©ponse a Ă©té « pas maintenant ». Peut-ĂȘtre parce que Q* va dĂ©jĂ trop loin. Nous parlons lĂ dâune IA qui travaille peut-ĂȘtre sur un modĂšle quantique et qui, surtout, serait en mesure de casser tous les cryptages existants. Il faut bien comprendre ce que cela signifie : la fin du secret bancaire, la fin du secret-dĂ©fense⊠Cela veut dire que ces machines sont en train dâexplorer des mathĂ©matiques dont le fonctionnement nous Ă©chappe totalement, voire quâelles seront en mesure de nous proposer demain une thĂ©orie de la physique unifiĂ©e, ce qui serait un bouleversement absolu. Comment sâassurer de lâalignement des objectifs poursuivis par lâespĂšce humaine, dâune part, et les IA, dâautre part ? Si on veut crĂ©er la panique, on va dire que lâIA a tout intĂ©rĂȘt Ă supprimer lâĂȘtre humain, lequel nâest quâune vermine qui dĂ©truit son environnement. Cet argument ne me semble pas sĂ©rieux. Ce qui est essentiel, câest de profiter de cette rĂ©volution pour dĂ©finir ce que nous voulons faire, exactement comme dans le film Oppenheimer, qui traite de la question de lâutilisation du nuclĂ©aire. Ces questions vont nĂ©cessiter un encadrement Ă©thique strict. Le problĂšme, câest que ce sont les autoritĂ©s militaires qui sont en pointe sur ces questions, et que lâĂ©thique dâune autoritĂ© militaire est « particuliĂšre ». Et cela pour une raison fondamentale : les militaires savent que les autres pays ne vont pas tous sâembarrasser avec lâĂ©thique⊠Les IA pourraient nous aider Ă surmonter le rĂ©chauffement climatique ou Ă lutter contre les inĂ©galitĂ©s. Câest autrement enthousiasmant, non ? Lorsque Chat GPT 4 a succĂ©dĂ© Ă la version 3.5, je me suis dit « la cavalerie est arrivĂ©e ! ». Ce que je veux dire par lĂ , câest quâaprĂšs avoir Ă©tĂ© trĂšs pessimiste, aprĂšs avoir Ă©prouvĂ© le sentiment que tout Ă©tait perdu, lâavĂšnement de ces machines a fait disparaĂźtre chez moi cette conviction. Nous nâallons peut-ĂȘtre pas tout rĂ©gler mais il y a dĂ©sormais un immense espoir. Nous ne sommes peut-ĂȘtre plus lâintelligence supĂ©rieure sur Terre et nous risquons de ne pas le supporter, Ă©crivez-vous⊠Cela remet en question toute notre culture mĂ©ritocratique. Le savoir est dĂ©sormais Ă disposition de tous, comme jamais auparavant. La question de lâĂ©valuation des connaissances, la culture de la note, tout cela est totalement remis en question. Vous estimez que les IA nous ramĂšnent Ă la question de lâexistence de Dieu. Pourquoi ? Nous avons inventĂ© une machine plus intelligente que nous, capable dâaccomplir des choses que nous attribuions autrefois Ă des entitĂ©s surnaturelles ou Ă des divinitĂ©s. Mais câest nous qui lâavons crĂ©Ă©e. Câest un pouvoir littĂ©ralement dĂ©miurgique. Le rĂ©sultat, câest que ça nous dĂ©prime ! Comme lorsquâun enfant comprend que la finalitĂ© de la vie est la mort. La question, je le rĂ©pĂšte, câest « quâallons-nous faire de ce pouvoir ? ». Ă lire : « LâavĂšnement de la Singularité », Lâhumain Ă©branlĂ© par lâintelligence artificielle. Ăditions Textuel, 125 pages, 14,90 âŹ. -
-
Par BenoĂźt CROCHET · PubliĂ© le
Ayant fait une grande partie de ma carriĂšre Ă lâAssurance Maladie (MSA) tout Ă fait dâaccord avec ce qui a Ă©tĂ© dit . Il faut aussi rajouter la prise en charge dans le cadre dâun accident de travail de complications ou de rechutes Ă©ventuelles.
-
-
Statistiques des membres
-
Total des membres8445
-
Maximum en ligne4524
-
-
Statistiques des forums
-
Total des sujets85k
-
Total des messages683.3k
-
-
-
-
-
(1).gif.65cf9433710b03a02e7253078af7c0c5.gif)
Recommended Posts
Rejoins la conversation !
Tu peux publier maintenant et t'enregistrer plus tard. Si tu as un compte, connecte-toi maintenant pour publier avec ton identité.