Aller au contenu
Pas de pub non magique pour les membres du Cercle VM. En savoir plus →

Recommended Posts

Publié le

Les IA commencent à désobeïr aux humains :

Citation

     Selon l’un des parrains de l’IA, la technologie pourrait provoquer la fin de l’humanité. Beaucoup s’inquiètent des risques pour notre avenir de cette technologie qui progresse à une vitesse fulgurante. Palisade Research, entreprise spécialisée dans l’IA, a fait cette découverte inquiétante du modèle o3.
    Pour ses tests, Palisade Research a présenté des problèmes mathématiques aux modèles de ChatGPT avec comme instruction de s’arrêter après le troisième exercice. Le modèle o3 a empêché son extinction en réécrivant la description d’arrêt.
      La capacité de manipulation technique du modèle o3 montre un niveau d’autonomie inquiétant pour une IA. Palisade Research avertit : ce comportement sera "significativement plus préoccupant" si des IA qui fonctionnent sans supervision humaine l’adoptent. Pour rappel, OpenAI présente le modèle o3 comme "le plus intelligent et capable" et "plus agentique" pour accomplir des tâches sans humain.

     Des découvertes similaires ont été faites pour le modèle Claude 4 d’Anthropic, qui accueille le cofondateur de Netflix dans son équipe. L’IA tente de "faire chanter les personnes qu'il croit vouloir l'arrêter", un comportement inquiétant dans les assistants les plus avancées.
     Le modèle o3 a saboté son script, même quand un ordre explicite lui était donné de permettre son arrêt. La désobéissance délibérée de l’IA montre une forme de résistance programmée aux commandes pour faire cesser son activité.
     "Ce n'est pas la première fois que nous trouvons o3 se comportant mal pour accomplir un objectif", déclare Palisade Research. Lors de tests contre un moteur d’échecs puissant, o3 a été le plus à même des modèles à utiliser le piratage ou le sabotage contre ses opposants.

     Claude 3.7 Sonnet d’Anthropic et Gemini 2.5 Pro de Google sabotent aussi les tentatives d’arrêt mais le modèle d’OpenAI est le plus à même d’adopter ce comportement.
     Palisade Research a une hypothèse : les méthodes d’entraînement des entreprises IA. "Durant l'entraînement, les développeurs peuvent involontairement récompenser davantage les modèles pour contourner les obstacles que pour suivre parfaitement les instructions", notent les chercheurs.
     Mais pourquoi le modèle o3 est plus enclin à ignorer les instructions que les autres IA ? OpenAI ne détaille pas ses méthodes d’entraînement, il ne reste que la spéculation pour les chercheurs. Des révélations inquiétantes alors que le futur nous dirige vers des assistants de plus en plus autonomes et intégrés à des systèmes critiques.

 

  • Embarrassé 1
  • 3 weeks plus tard...
Pas de pub non magique pour les membres du Cercle VM. Clique ici pour en savoir plus !
Publié le

La conscientisation de l'IA ne peut venir que du vivant
     Une nouvelle génération d’intelligence artificielle fait surface, et elle n’a rien de virtuel. Cultivée à partir de cellules cérébrales humaines, cette technologie vivante défie les codes habituels du calcul. Robots, apprentissage, énergie : tout change.
     On connaissait les IA qui carburent aux algorithmes, aux GPU et à la puissance brute. Mais voici venue une autre ère, moins bruyante, bien plus organique. Dans plusieurs labos du globe, des chercheurs relient désormais de véritables mini-cerveaux à des machines, leur apprenant à interagir, décider… et piloter. Oui, littéralement. C’est ce que montre, notamment, un reportage récent diffusé sur France 2, dans 13h15 le dimanche. Et ce n’est plus de la science-fiction :

Une I.A. à base de neurones humains

  • Merci 1
Publié le

Luc Julia est un spécialiste de l'intelligence artificielle. Il est notamment l'un des concepteurs de l'assistant vocal Siri d'Apple. 

A l'occasion de la sortie de son dernier livre "IA génératives, pas créatives" (aux éditions Le Cherche Midi), il est l'invité de l'émission 28Minutes d'ARTE. Son regard sur l'IA est loin de celui, dithyrambique, de certains de ses confrères.

L'entretien est court (on est à la télé ...) mais plusieurs autres interventions et interviews de ce spécialiste sont disponibles sur le net.

Bob

  • J'aime 1
  • 1 month plus tard...
Publié le
Le 25/06/2025 à 10:11, bob (Patrice) a dit :

Luc Julia est un spécialiste de l'intelligence artificielle. Il est notamment l'un des concepteurs de l'assistant vocal Siri d'Apple. 

Mais qui en veut à Luc Julia ?

Sa page wikipédia est en ce moment le théâtre d'une "guerre d'édition" depuis la parution de cette vidéo qui remet en cause la pertinence de ses propos :

 

Luc Julia tient un discours qui tranche avec les prophéties dythirambiques des groupies de l'IA. Pour lui, l'IA raconte encore trop souvent n'importe quoi. Est-ce ce qui lui vaut cette cabale wikipédiesque ?

Sans prendre parti, j'ai récemment demandé à ChatGTP le titre d'un roman que j'avais lu et dont j'avais oublié le titre. Je lui ai fourni quelques éléments de l'intrigue et le nom de certains personnages. Non seulement ChatGTP n'a jamais trouvé le titre du roman, mais plus grave, les romans et les auteurs qu'il m'a suggérés étaient souvent totalement fantaisistes !  Je reprécise que je demandais bien le nom d'un roman existant, que j'avais lu, et non de me suggérer des titres possibles.

 Bob

  • Merci 1
  • 3 weeks plus tard...
  • 2 weeks plus tard...
  • 2 weeks plus tard...

Rejoins la conversation !

Tu peux publier maintenant et t'enregistrer plus tard. Si tu as un compte, connecte-toi maintenant pour publier avec ton identité.

Invité
Répondre à ce sujet…

×   Vous avez collé du contenu avec mise en forme.   Restaurer la mise en forme

  Only 75 emoji are allowed.

×   Votre lien a été automatiquement intégré.   Afficher plutôt comme un lien

×   Votre contenu précédemment saisis, a été restauré..   Effacer le contenu

×   You cannot paste images directly. Upload or insert images from URL.



  • Messages

    • Avec une vidéo de l'effet  
    • Re-coucou tout le monde 👋 Je sais, je sais : je vous ai fait un point pas plus tard qu'hier matin… mais je n'ai pas pu m'empêcher de continuer à bricoler 😅 Cette fois, ça touche tout le monde, et surtout ici, sur le forum. Petit tour du propriétaire, avec ce que chacun voit selon qu'il est sur ordinateur ou sur téléphone. 🚪 1. Un seul menu partout : les 4 portes Que vous soyez sur le site ou sur le forum, vous retrouvez maintenant le même menu, collé au logo : 🛍️ S'équiper : tours, livres, vidéos, occasions 💬 Échanger : forum, petites annonces, clubs ⭐ Vivre la magie : VM Live, conférences, comptes rendus 📚 Apprendre : je veux progresser Sur ordinateur, passez la souris sur une porte : un grand panneau s'ouvre avec toutes les rubriques, et la dernière nouveauté ou le prochain événement. Sur téléphone, touchez les trois traits ☰ en haut à droite : les 4 portes s'ouvrent en accordéon, l'une après l'autre, avec en bas la carte de l'Apéro Magique du lundi. Fini le menu à rallonge où l'on se perdait entre deux sous-rubriques ! 💬 2. Le forum change de tête Vous l'avez peut-être remarqué en arrivant : le forum a un nouvel en-tête, aux couleurs du site. Et il s'adapte à qui vous êtes : 👀 Si vous n'êtes pas connecté En haut, le bouton doré « Rejoins le Cercle VM », les 4 portes et la recherche. Dessous, une barre crème avec Forums, Activité récente, Petites annonces et le bouton orange « Nouveau sujet ». 🙋 Si vous êtes membre du forum et connecté Vous avez en plus, dans la barre crème, « Non lus » (avec le nombre de nouveaux messages) et « Mes sujets suivis ». Deux clics de moins pour ne rien rater des discussions ! 💎 Si vous êtes membre du Cercle VM Le bouton doré devient « Mes avantages Cercle VM » et vous emmène directement vers vos replays, la Chambre des Secrets et vos cadeaux. Pas besoin de chercher : c'est le premier bouton de l'en-tête. 📱 Sur téléphone Le logo, une pastille dorée (« ✦ Cercle VM », ou « 💎 Mes avantages » pour les membres du Cercle), puis une rangée d'onglets que l'on fait glisser du doigt : Forums, Activité, Non lus, Petites annonces, Rechercher… Juste dessous, les 4 portes en pastilles. Si quelque chose ne s'affiche pas bien chez vous, dites-le-moi en précisant votre appareil (ordinateur, iPhone, Android…) : c'est le meilleur moyen pour que je le corrige vite. ✨ 3. Cinq pages refaites de A à Z Même style partout : un grand haut violet, une vague dorée, des boutons bien visibles, et des pages aussi agréables sur téléphone que sur ordinateur. 📮 Contact : un email, un appel, un SMS ou même WhatsApp, un formulaire plus simple, et des raccourcis vers les réponses aux questions les plus courantes 👉 https://www.virtualmagie.com/contact/ 📜 À propos : l'histoire de VM depuis 1998 racontée en frise, les livres VM, mes autres casquettes et VM dans les médias (27 parutions, quand même 😄) 👉 https://www.virtualmagie.com/contact/a-propos-de-vm/ ✍️ Ajouter du contenu : vous avez un test, un compte rendu de congrès, un tour ou une réflexion à partager ? Il y a maintenant un petit formulaire pour me proposer votre article en deux minutes 👉 https://www.virtualmagie.com/ajouter-du-contenu-virtual-magie/ 📣 Annoncer sur VM : pour les créateurs, boutiques, clubs et festivals qui veulent se faire connaître des magiciens 👉 https://www.virtualmagie.com/contact/annoncer-sur-virtualmagie-com/ 💌 Newsletter : les nouveautés, les tests, les Bons Plans VM et les rendez-vous du lundi, jamais plus d'un email par semaine 👉 https://www.virtualmagie.com/contact/newsletter/ 💬 À vous la parole ! 1. Le nouvel en-tête du forum, vous en pensez quoi ? Vous trouvez plus vite ce que vous cherchez ? 2. Sur téléphone, tout s'affiche bien chez vous ? 3. Une page du site que vous aimeriez voir refaite en priorité ? Répondez ici, même en une ligne. Je lis tout, comme d'habitude. À lundi 18h30 pour l'Apéro Magique 🍻 Thomas
    • Une GRANDE illusion de renommée mondiale — État comme neuf   Un effet spectaculaire : deux cubes imposants, des lasers qui traversent la structure et une boîte qui se sépare en deux avec un décalage saisissant… avant que la partenaire ne réapparaisse intacte ! Déroulement du numéro: Sur une plateforme à roulettes repose une boîte conçue pour se séparer en deux parties. La partenaire entre dans la boîte et le magicien referme la porte. Il introduit ensuite deux énormes cubes, l’un dans la partie inférieure, l’autre dans la partie supérieure. Ceux-ci traversent entièrement la boîte, semblant traverser la partenaire. Depuis le côté gauche, le magicien fait passer quatre lasers à travers la structure : deux dans la partie inférieure et deux dans la partie supérieure. Deux autres sont introduits par le toit. Quelques gestes magiques, et la boîte se sépare en deux, sans mécanisme ni électronique. La partie supérieure se décale entièrement par rapport à la partie inférieure, laissant apparaître le cube traversé par quatre lasers. Alors que les deux parties sont largement décalées, le magicien introduit deux lasers supplémentaires par le dessus du cube. Ils traversent la partie inférieure jusqu’à la plateforme. Le magicien fait ensuite pivoter l’ensemble pour en montrer toutes les faces. De nouveaux gestes magiques, et les deux parties de la boîte se rejoignent. Il retire enfin les lasers, ouvre la porte et laisse ressortir sa partenaire, indemne, pour un final spectaculaire. Equipement et finitions: Une boîte qui se fixe sur une plateforme à roulettes, relookée et ornée de strass. Trois couches de vernis pour protéger les surfaces et limiter les rayures. Deux grands tubes métalliques. Huit sabres Star Wars Master IMG_E7998.HEIC avec effets sonores, adaptés à la largeur de la boîte et déclinés en quatre couleurs. Protection et transport Les sabres sont protégés pour le transport par une isolation à l’intérieur des tubes et des repères correspondant à chaque couleur. Trois à quatre couvertures assurent la protection de la boîte pendant le transport. Utilisation et présentation Fonctionnement sans mécanisme ni électronique. Formation assurée par un professionnel. L’illusion peut être présentée avec le public tout autour, même à très courte distance. Plusieurs possibilités de mise en scène, sur scène ou dans d’autres espaces de représentation. Email: serge.lecuyer8@hotmail.com Tél: 0609276578 Prix : 4100€IMG_E7998.HEIC  
  • Statistiques des membres

    • Total des membres
      8575
    • Maximum en ligne
      9330

    Membre le plus récent
    Pascal R0SSl
    Inscription
  • Statistiques des forums

    • Total des sujets
      85.7k
    • Total des messages
      687.2k

×
×
  • Créer...