Aller au contenu
Pas de pub non magique pour les membres du Cercle VM. Clique ici pour en savoir plus !

Recommended Posts

Publié le

Les IA commencent à désobeïr aux humains :

Citation

     Selon l’un des parrains de l’IA, la technologie pourrait provoquer la fin de l’humanité. Beaucoup s’inquiètent des risques pour notre avenir de cette technologie qui progresse à une vitesse fulgurante. Palisade Research, entreprise spécialisée dans l’IA, a fait cette découverte inquiétante du modèle o3.
    Pour ses tests, Palisade Research a présenté des problèmes mathématiques aux modèles de ChatGPT avec comme instruction de s’arrêter après le troisième exercice. Le modèle o3 a empêché son extinction en réécrivant la description d’arrêt.
      La capacité de manipulation technique du modèle o3 montre un niveau d’autonomie inquiétant pour une IA. Palisade Research avertit : ce comportement sera "significativement plus préoccupant" si des IA qui fonctionnent sans supervision humaine l’adoptent. Pour rappel, OpenAI présente le modèle o3 comme "le plus intelligent et capable" et "plus agentique" pour accomplir des tâches sans humain.

     Des découvertes similaires ont été faites pour le modèle Claude 4 d’Anthropic, qui accueille le cofondateur de Netflix dans son équipe. L’IA tente de "faire chanter les personnes qu'il croit vouloir l'arrêter", un comportement inquiétant dans les assistants les plus avancées.
     Le modèle o3 a saboté son script, même quand un ordre explicite lui était donné de permettre son arrêt. La désobéissance délibérée de l’IA montre une forme de résistance programmée aux commandes pour faire cesser son activité.
     "Ce n'est pas la première fois que nous trouvons o3 se comportant mal pour accomplir un objectif", déclare Palisade Research. Lors de tests contre un moteur d’échecs puissant, o3 a été le plus à même des modèles à utiliser le piratage ou le sabotage contre ses opposants.

     Claude 3.7 Sonnet d’Anthropic et Gemini 2.5 Pro de Google sabotent aussi les tentatives d’arrêt mais le modèle d’OpenAI est le plus à même d’adopter ce comportement.
     Palisade Research a une hypothèse : les méthodes d’entraînement des entreprises IA. "Durant l'entraînement, les développeurs peuvent involontairement récompenser davantage les modèles pour contourner les obstacles que pour suivre parfaitement les instructions", notent les chercheurs.
     Mais pourquoi le modèle o3 est plus enclin à ignorer les instructions que les autres IA ? OpenAI ne détaille pas ses méthodes d’entraînement, il ne reste que la spéculation pour les chercheurs. Des révélations inquiétantes alors que le futur nous dirige vers des assistants de plus en plus autonomes et intégrés à des systèmes critiques.

 

  • Embarrassé 1

La parole est d’argent, mais le silence est d’or.

  • 3 weeks plus tard...
Pas de pub non magique pour les membres du Cercle VM. Clique ici pour en savoir plus !
Publié le

La conscientisation de l'IA ne peut venir que du vivant
     Une nouvelle génération d’intelligence artificielle fait surface, et elle n’a rien de virtuel. Cultivée à partir de cellules cérébrales humaines, cette technologie vivante défie les codes habituels du calcul. Robots, apprentissage, énergie : tout change.
     On connaissait les IA qui carburent aux algorithmes, aux GPU et à la puissance brute. Mais voici venue une autre ère, moins bruyante, bien plus organique. Dans plusieurs labos du globe, des chercheurs relient désormais de véritables mini-cerveaux à des machines, leur apprenant à interagir, décider… et piloter. Oui, littéralement. C’est ce que montre, notamment, un reportage récent diffusé sur France 2, dans 13h15 le dimanche. Et ce n’est plus de la science-fiction :

Une I.A. à base de neurones humains

  • Merci 1

La parole est d’argent, mais le silence est d’or.

Publié le

Luc Julia est un spécialiste de l'intelligence artificielle. Il est notamment l'un des concepteurs de l'assistant vocal Siri d'Apple. 

A l'occasion de la sortie de son dernier livre "IA génératives, pas créatives" (aux éditions Le Cherche Midi), il est l'invité de l'émission 28Minutes d'ARTE. Son regard sur l'IA est loin de celui, dithyrambique, de certains de ses confrères.

L'entretien est court (on est à la télé ...) mais plusieurs autres interventions et interviews de ce spécialiste sont disponibles sur le net.

Bob

  • J'aime 1
  • magicbob3d.deviantart.com
  • Tolérance : c'est quand on connaît des cons et qu'on ne dit pas les noms (Pierre Doris - Humoriste 1919-2009)
  • 1 month plus tard...
Publié le
Le 25/06/2025 à 10:11, bob (Patrice) a dit :

Luc Julia est un spécialiste de l'intelligence artificielle. Il est notamment l'un des concepteurs de l'assistant vocal Siri d'Apple. 

Mais qui en veut à Luc Julia ?

Sa page wikipédia est en ce moment le théâtre d'une "guerre d'édition" depuis la parution de cette vidéo qui remet en cause la pertinence de ses propos :

 

Luc Julia tient un discours qui tranche avec les prophéties dythirambiques des groupies de l'IA. Pour lui, l'IA raconte encore trop souvent n'importe quoi. Est-ce ce qui lui vaut cette cabale wikipédiesque ?

Sans prendre parti, j'ai récemment demandé à ChatGTP le titre d'un roman que j'avais lu et dont j'avais oublié le titre. Je lui ai fourni quelques éléments de l'intrigue et le nom de certains personnages. Non seulement ChatGTP n'a jamais trouvé le titre du roman, mais plus grave, les romans et les auteurs qu'il m'a suggérés étaient souvent totalement fantaisistes !  Je reprécise que je demandais bien le nom d'un roman existant, que j'avais lu, et non de me suggérer des titres possibles.

 Bob

  • Merci 1
  • magicbob3d.deviantart.com
  • Tolérance : c'est quand on connaît des cons et qu'on ne dit pas les noms (Pierre Doris - Humoriste 1919-2009)
  • 3 weeks plus tard...
Publié le
  • Merci 2
  • magicbob3d.deviantart.com
  • Tolérance : c'est quand on connaît des cons et qu'on ne dit pas les noms (Pierre Doris - Humoriste 1919-2009)
  • 2 weeks plus tard...
  • 2 weeks plus tard...

Rejoins la conversation !

Tu peux publier maintenant et t'enregistrer plus tard. Si tu as un compte, connecte-toi maintenant pour publier avec ton identité.

Invité
Répondre à ce sujet…

×   Vous avez collé du contenu avec mise en forme.   Restaurer la mise en forme

  Only 75 emoji are allowed.

×   Votre lien a été automatiquement intégré.   Afficher plutôt comme un lien

×   Votre contenu précédemment saisis, a été restauré..   Effacer le contenu

×   You cannot paste images directly. Upload or insert images from URL.



  • Messages

    • Pour moi, c'est comme une machine à remonter le temps. Je n'ai pas connu cette revue et je le regrette mais je vais acheter cette réédition. Pour les articles, les routines, les contributions mais aussi pour les personnes qui ont participé et peut être avoir le sentiment de faire partie de l'aventure, ne serait-ce que par procuration.
    • Voilà 20 ans que je suis membre sur VirtualMagie (depuis le 5 décembre 2005 exactement). Ça m'a inspiré un petit poème sans prétention (et peu respectueux des règles académiques) : Sur VM, le forum des magiciens Qu’on débute ou qu’on maîtrise Qu’on aime ou pas Patrick Sébastien La magie reste la devise L’orthographe saigne abondamment Même pour ceux qui s'appliquent Les phrases boitent souvent Mais le fond reste toujours magique Y'a le secret, sujet sacré À ne pas divulguer, à protéger Les nouveaux veulent tout savoir Les anciens freinent, c’est leur devoir Y'a les acheteurs compulsifs Des tiroirs pleins de nouveautés Peu importe le tarif Il veulent juste connaitre le secret Trois jours plus tard, ils revendent « Comme neuf, servi une fois » Avant de repasser commande Pour un tout nouveau miracle, voilà Y'a Christian, mémoire en béton Plus rapide que Lucky Luke Pour éclairer la création D'une routine, d'un tour ou d'un truc Y'a l'webmaster, Thomas Thiébaut Qui surveille avec vigilance Quand les mots montent un peu trop haut Il rappelle la règle et applique la sentence Y'a ceux qui sont partis sans bruit Mais qui laissent un souvenir indélébile Et qu’on cite encore aujourd’hui Les oublier est difficile Ceux dont on regrette la perte Comme Lancelot, parti là-haut trop tôt Avec ses chaussettes vertes En compagnie de Jeannie Longo Ceux qui nous manquent comme Gérard Parti en douce sans faire d’histoire Son pseudo reste dans le forum comme une star Comme l'initiateur de vieux fils pleins de mémoire Y'a Bob qui traîne depuis des années Un type un peu barré Longtemps planqué derrière son avatar Un pingouin franchement bizarre Y'a Woody, toujours un mot fin Pour détendre l’atmosphère Une pointe d’humour, toujours malin Mais souvent juste, toujours sincère Y'a aussi plein de stars Dont la présence est un honneur Comme Spankyfab alias Fabien Olicard Ou encore Bloom, infatiguable créateur Y'a aussi des éditeurs, respect Ceux qui font vivre la magie papier Comme Frantz Réjasse, cité sans arrêt Quand on parle de livres bien édités Y'a ceux qui s’inscrivent un matin Un pseudo tout neuf, un grand discours Ils postent deux messages, puis plus rien Disparus après un p'tit tour Sur le forum des magiciens Ça débat fort, ça s’agace Qu’on soit novice ou vieux babouin A qui on n'apprend plus les grimaces On se chamaille, on s’applaudit Entre passion et polémique On apprend, on se critique Chacun partage sa vision de la magie Ça débat fort sur tous les tons Un livre, un tour, une opinion Entre deux fautes et trois avis Mais toujours la magie nous réunit Bob
    • Étienne Klein aurait pu aussi poser la question de savoir si les lois que l'on observe ici sont les mêmes que celles qui existent ailleurs dans l'univers. On le suppose acquis car rien ne le contredit aujourd'hui mais rien ne le prouve non plus. Il aurait alors pu évoquer les mathématiques, qui elles sont universelles. Car si à l'autre bout de l'univers E≠mc², 17 y reste un nombre premier. Voilà pour moi une bonne raison de mettre les mathématiques bien au dessus de toutes les autres sciences (sans parler des pseudo-sciences). Bob
  • Statistiques des membres

    • Total des membres
      8366
    • Maximum en ligne
      4524

    Membre le plus récent
    Richard LAURIN (richelemagicien)
    Inscription
  • Statistiques des forums

    • Total des sujets
      84.6k
    • Total des messages
      681.6k

×
×
  • Créer...