ChatGPT dévoile les plus grands secrets de la magie

[Mickaël MCD]

il y a une heure, Patrick FROMENT a dit :

"Pour pratiquer le questionnement philosophique, il faut s'étonner de ce qu'on a l'habitude de voir"

Ce qu'on a l'habitude de voir c'est, par exemple, l'existence du monde, notre propre existence... S'étonner d'être et, même, s'étonner qu'il y ait de l'Être...

Cela, la machine ne sait pas le faire. Quand la machine est confrontée a un résultat inattendu elle ne s'étonne pas.  En général, elle produit un bug, c'est sa manière de s'étonner ! Et elle peut donc encore moins s'étonner de ce qu'elle a l'habitude de voir et de traiter.

Tout comme la conscience, l'étonnement est (jusqu'à preuve du contraire) une propriété du vivant.

Ça me fait penser à René Descartes et ses règles pour la direction de l'esprit (qu'on retrouve notamment dans Œuvres et lettres).

Alors l'axe est sensiblement différent, on est davantage dans la recherche d'explication et de vérité que dans l'étonnement mais globalement, ça revient à s'interroger sur le fonctionnement des choses.

Et, de mémoire, René compare 3 choses en essayant d'y trouver des similitudes :

• Un homme
• Un arbre
• Une horloge

Descartes considère que l'Homme est finalement comparable à une machine.

Il y a 1 heure, Patrick FROMENT a dit :

"Pour pratiquer le questionnement philosophique, il faut s'étonner de ce qu'on a l'habitude de voir"

Ou s'interroger, mais s'interroger et s'étonner, finalement ça revient au même

Chercher les causes sans rien admettre par défaut, par exemple ne pas se dire "l'herbe est verte, c'est comme ça" mais comprendre pourquoi, comprendre la photosynthèse, le réseau chlorophyllien et cætera...

Il y a 1 heure, Patrick FROMENT a dit :

Tout comme la conscience, l'étonnement est (jusqu'à preuve du contraire) une propriété du vivant.

Il y aura u moment où on arrivera à coder l'étonnement

Ou a coder quelque chose qui en donne l'illusion

 

Il y a 1 heure, Patrick FROMENT a dit :

Cela, la machine ne sait pas le faire. Quand la machine est confrontée a un résultat inattendu elle ne s'étonne pas.  En général, elle produit un bug, c'est sa manière de s'étonner ! Et elle peut donc encore moins s'étonner de ce qu'elle a l'habitude de voir et de traiter.

Globalement, j'adhère à tout ton message, mais je pense simplement que ça évoluera.

Je ne vois pas pourquoi la conscience ne pourrait pas émerger d'une forme de vie complétement métallique et artificielle.

Le vivant ou l'artificiel sont finalement composés le la même matière, des mêmes atomes. Agencés différemment.

Nos cellules et bactéries ont évoluées pendant des milliards d'années avant de faire émerger la conscience humaine.

L'intelligence artificielle n'a même pas 50 ans

• Et si nous étions nous-même (l'humanité) une "intelligence artificielle naturelle" qui se la pète un peu trop ?

[bob (Patrice)]

il y a 57 minutes, Mickaël MCD a dit :

Et si nous étions nous-même (l'humanité) une "intelligence artificielle naturelle" qui se la pète un peu trop ?

C’est tellement vrai !

Je suis effaré de constater l’étroitesse d’esprit de beaucoup (même chez certains penseurs respectables) dès qu’il s’agit de sujet comme l’intelligence, la conscience … etc. Cette étroitesse d'esprit qui consiste à toujours raisonner par comparaison à l’être humain, dans sa structure et ses capacités. Cela rappelle furieusement les temps où la terre était considérée comme le centre du monde …

Bob

Modifié 7 mars 2024 par bob (Patrice)
grrr... orthographe

[Patrick FROMENT]

L'étonnement c'est comme la joie, la tristesse, la colère, la peur, le dégoût... Cela fait partie du registre des émotions.

Les émotions sont le propre de l'être humain dit-on mais, oui, je suis intimement persuadé que certains animaux ressentent aussi des émotions (ça me semble évident pour une émotion comme la peur par exemple).

La question des derniers messages est un peu celle de savoir : Est-ce que la machine est potentiellement capable d'éprouver des émotions ? ...éprouver au sens de ressentir une émotion en première personne et non pas être programmée pour donner des signes de pseudos émotions. Ça certaines machines le font déjà très bien... si bien qu'un jour il sera, peut être, impossible de faire la différence entre un robot humanoïde et un être humain. La seule différence sera peut-être, justement, que le robot n'aura pas de conscience et d'expérience en première personne. Le zombie philosophique sera devenu une réalité.

[Mickaël MCD]

il y a 1 minute, Patrick FROMENT a dit :

Les émotions sont le propre de l'être humain dit-on mais, oui, je suis intimement persuadé que certains animaux ressentent aussi des émotions

Ah bah j'espère bien quand même que tu penses que les animaux ressentent des émotions !

• N'oublions pas que... nous sommes des animaux !

il y a 2 minutes, Patrick FROMENT a dit :

L'étonnement c'est comme la joie, la tristesse, la colère, la peur, le dégoût... Cela fait partie du registre des émotions.

Bah justement, j'avais plutôt l'impression, au travers de tes derniers messages, que tu voulais donner une définition de l'étonnement plus proche du questionnement que de l'émotion.

Mais je comprends, ce sont les deux

il y a 4 minutes, Patrick FROMENT a dit :

La question des derniers messages est un peu celle de savoir : Est-ce que la machine est potentiellement capable d'éprouver des émotions ?

• Pour moi avec le présent "est" ; la réponse est non, pas aujourd'hui.
• Pour le "potentiel" ; là, la réponse serait oui pour moi

Mais je suis persuadé que, si on ne s'autodétruit pas d'ici là, ça arrivera un jour !

il y a 5 minutes, Patrick FROMENT a dit :

éprouver au sens de ressentir une émotion en première personne et non pas être programmée pour donner des signes de pseudos émotions.

Moi je pense qu'on est programmé d'une certaine façon.

Je crois que c'est là qu'on peut trouver un vrai point de divergence (et c'est bien hein la divergence).

• Tu sembles penser que la machine ne sauras pas être aussi capable que le cerveau humain.
• Et moi je pense que le cerveau humain n'est rien de plus qu'une machine.

Et donc, que de la machine, peut émerger conscience : conscience de soi, philosophie, amour, haine, compassion et tout et tout.

C'est quoi l'amour ? C'est quoi la haine ?

On ne fait rien de plus que de traiter des informations qu'on a appris au fil de notre existence.

• On constate
• On enregistre
• On compare à nos expérience
• On en déduit des concepts.

Imaginons analyser le fait de frapper quelqu'un

• On est petit. On expérimente.
• Je frappe le chat.
• Je me rends compte qu'il a mal.
• Je me fais gronder par maman.
• J'enregistre dans ma mémoire et mes souvenirs que ce n'est pas à refaire.

Y a-t-il une si grande différence que ça avec ce qu'on apprendrait à une machine ?

Comment les enfants apprennent ?

Par mimétisme.

• On reproduit ce que l'on a vu.
• On apprend à parler en reproduisant ce que nos parents font.

Si la machine doit apprendre ou recevoir des lignes de code ou d'instructions pour appréhender un problème, on peut considérer que c'est similaire pour les humains non ?

il y a 28 minutes, Patrick FROMENT a dit :

Le zombie philosophique sera devenu une réalité.

Merci pour le concept, je ne connaissais pas, c'est très intéressant !

[Christian DELAMORINIERE]

il y a 33 minutes, Mickaël MCD a dit :

• On est petit. On expérimente.
• Je frappe le chat.
• Je me rends compte qu'il a mal.
• Je me fais gronder par maman.
• J'enregistre dans ma mémoire et mes souvenirs que ce n'est pas à refaire.

Y a-t-il une si grande différence que ça avec ce qu'on apprendrait à une machine ?

Citation

Similarités :

     Processus d'apprentissage par renforcement : L'exemple que vous avez donné illustre le principe de l'apprentissage par renforcement, où un individu (ou une machine) apprend à associer des actions à des conséquences. Dans l'intelligence artificielle (IA), l'apprentissage par renforcement est une technique où les agents apprennent à optimiser leur comportement dans un environnement donné pour maximiser une récompense ou minimiser une punition.
      Adaptation et correction : Tout comme une personne apprend de ses erreurs et ajuste son comportement futur, une machine peut être programmée pour ajuster ses algorithmes en réponse à des feedbacks, améliorant ainsi ses performances ou ses décisions au fil du temps.

Différences :

     Conscience et expérience subjective : Lorsqu'un enfant expérimente et apprend, il y a une expérience subjective associée à l'action et à ses conséquences, y compris la douleur émotionnelle ou physique, la culpabilité, et la prise de conscience morale. Une machine, en revanche, ne fait pas l'expérience de ces états subjectifs; elle traite l'information et ajuste ses algorithmes en fonction des données d'entrée, sans conscience ou ressenti.
     Complexité et généralisation : L'apprentissage humain est extrêmement complexe et ne se limite pas à des situations spécifiques. Les humains sont capables de généraliser à partir de peu d'expériences et d'appliquer leurs leçons apprises dans une large gamme de contextes différents. Les machines, bien qu'elles puissent être très performantes dans des tâches spécifiques, ont souvent du mal à généraliser au-delà des données sur lesquelles elles ont été entraînées.
     Motivation et éthique : La motivation derrière les actions humaines est souvent guidée par un mélange complexe d'émotions, de désirs, et de considérations morales. Les machines, cependant, suivent un ensemble d'instructions ou d'objectifs définis par leurs concepteurs, sans aucune considération morale intrinsèque. La question de l'éthique dans l'IA est donc extrêmement importante, car les décisions de la machine peuvent avoir des conséquences significatives sans que la machine ait une compréhension morale de ces actions.

 

il y a 33 minutes, Mickaël MCD a dit :

Comment les enfants apprennent ?

Par mimétisme.

• On reproduit ce que l'on a vu.
• On apprend à parler en reproduisant ce que nos parents font.

Si la machine doit apprendre ou recevoir des lignes de code ou d'instructions pour appréhender un problème, on peut considérer que c'est similaire pour les humains non ?

Citation

Parallèles entre l'apprentissage chez les humains et les machines

     Apprentissage par imitation : Tout comme les enfants apprennent par mimétisme, observant et répliquant les comportements de leur entourage, certaines formes d'intelligence artificielle, en particulier l'apprentissage par imitation ou l'apprentissage par démonstration, permettent aux machines d'apprendre à partir d'exemples fournis par des humains. Cela peut inclure des tâches complexes comme la conduite de véhicules, la manipulation d'objets, ou même des jeux stratégiques.
     Acquisition de langage : L'apprentissage du langage chez les humains à travers la répétition et l'imitation trouve un écho dans le développement de modèles de traitement du langage naturel (NLP) où les machines apprennent à comprendre et à générer du langage en analysant d'immenses volumes de texte. Les algorithmes de ces modèles s'ajustent en fonction des données linguistiques qu'ils "observent", d'une manière qui pourrait être vue comme analogique au mimétisme humain.
     Codage et instructions : De la même manière que les enfants reçoivent des instructions ou des conseils de leurs parents et enseignants, les machines nécessitent des algorithmes et des données pour guider leur apprentissage. Dans les deux cas, ces directives facilitent l'acquisition de nouvelles compétences et connaissances.

Distinctions importantes

     Cependant, malgré ces parallèles, il est essentiel de reconnaître des différences fondamentales dans la manière dont les humains et les machines traitent l'information et apprennent :
     Compréhension et conscience : Les humains comprennent et interprètent le contexte de ce qu'ils apprennent, souvent de manière intuitive et avec une conscience de soi. Les machines, en revanche, traitent des données et ajustent leurs paramètres selon des algorithmes sans conscience de leur action ou compréhension véritable du contexte.
     Flexibilité et adaptation : L'apprentissage humain est remarquablement adaptable et peut s'appliquer dans une grande variété de contextes, souvent avec une capacité d'abstraction et de généralisation que les machines ne possèdent pas encore. Les humains peuvent tirer des leçons d'une situation et les appliquer de manière créative à une autre, une flexibilité que l'IA s'efforce d'imiter.
     Motivations intrinsèques : Les enfants et, de manière générale, les humains, sont souvent motivés par la curiosité, le désir d'approbation sociale, ou d'autres motivations intrinsèques. Les machines, quant à elles, fonctionnent sur la base d'objectifs et de récompenses définis par leurs concepteurs, sans motivations propres.

Modifié 7 mars 2024 par Christian DELAMORINIERE

[Patrick FROMENT]

Il y a 3 heures, Mickaël MCD a dit :

Bah justement, j'avais plutôt l'impression, au travers de tes derniers messages, que tu voulais donner une définition de l'étonnement plus proche du questionnement que de l'émotion.

Mais je comprends, ce sont les deux

L'émotion (l'étonnement) nourrit le vertige métaphysique qui lui même nourrit le questionnement philosophique.

 

Il y a 3 heures, Mickaël MCD a dit :

C'est quoi l'amour ? C'est quoi la haine ?

On ne fait rien de plus que de traiter des informations qu'on a appris au fil de notre existence.

• On constate
• On enregistre
• On compare à nos expérience
• On en déduit des concepts.

C'est une vision de la psychologie très comportementaliste (je dirais presque pavlovienne). C'est une perspective valable mais il existe plein d'autres approches pour expliquer le comportement humain et elles sont toutes certainement valables de leur point de vue (autant que parcellaires).

 

@ Tous les intervenants : Cette discussion est très intéressante, Merci !

[Christian GIRARD]

Il y a 7 heures, Patrick FROMENT a dit :

si bien qu'un jour il sera, peut être, impossible de faire la différence entre un robot humanoïde et un être humain. La seule différence sera peut-être, justement, que le robot n'aura pas de conscience et d'expérience en première personne. Le zombie philosophique sera devenu une réalité.

Peux-tu me prouver que tu n’es pas toi-même un zombie philosophique ? Rien ne me prouve que tu as une conscience et de vraies émotions, peut-être que tout est feint à la perfection. 
(Je te rassure : j’ai déjà exprimé ailleurs que mon choix métaphysique est celui de croire en un monde extérieur à moi et à l’existence des autres plus ou moins semblables à moi-même. N’empêche…)

[Mickaël MCD]

Il y a 13 heures, Patrick FROMENT a dit :

C'est une vision de la psychologie très comportementaliste (je dirais presque pavlovienne). C'est une perspective valable mais il existe plein d'autres approches pour expliquer le comportement humain et elles sont toutes certainement valables de leur point de vue (autant que parcellaires).

En vérité je n'ai pas tellement de conviction dans un sens ou dans un autre sur ce thème-là.

J'ai peut-être cette vision ou peut-être pas. Je ne me suis pas formalisé cette question. Mais c'est fort probable on va dire

• Moi ce que je cherchais à défendre, ce n'est pas tellement une analyse de la/ma perception humaine des sentiments et des émotions.
• Ce que je cherchais à défendre c'est que la machine, l'intelligence artificielle mais surtout, le code informatique, peuvent faire naître la conscience, les sentiments et les émotions.

C'est à dire qu'il n'y a pas que l'organique et encore moins que l'humain qui serait en capacité de penser ou d'avoir peur.

On en est loin, je ne dis pas que c'est fait mais je dis que dans une cheminement d'évolution différent du nôtre, c'est possible.

La peur

Par exemple, la peur. Chui loin d'être un expert ou un spécialiste, je suis un lambda qui s'interroge et qui a une opinion, c'est tout, je ne prétends pas détenir quelque vérité que ce soi

Mais j'ai le sentiment que pour la peur par exemple :

• Ce n'est pas forcément inné.
• C'est l'expérimentation et l'apprentissage qui fait naître la peur.
• A ma naissance, je n'ai pas peur de la jolie porte du four toute lumineuse et qui sent si bon quand c'est allumé.
• Je touche la porte du four avec mes petites mains fragiles et inexpérimentées.
• Je me brûle et c'est une expérience traumatisante.
• J'ai maintenant peur de la porte du four quand elle est allumée.

Ce que je veux souligner c'est que cette peur a été injectée depuis l'extérieur. Elle ne vient pas de moi à la base ; puisque avant d'apprendre, je n'avais pas peur.

Je vois des différences avec l'apprentissage codé à destination d'un logiciel bien sûr. Mais pas tant que ça finalement.

On peut apprendre la peur à un logiciel. (mais là tu vas me dire : oui, la peur peut-être, mais pas l'angoisse ?)

• Il est plus que probable que certains sentiments ne puissent pas naître depuis un code source. Je pense par exemple à des spécificités comme la naissance d'un enfant après 9 mois de grossesse.
• En gros, tout ce qui a trait au corps humain (perte de cheveux, de dents, prise de poids, regards de la société sur notre corps et cætera...).

Alors l'angoisse par exemple pourrait être un fait animal.

Mais cet exemple-là ne veut pas dire qu'une intelligence artificielle ne pourrait pas avoir d'autres sentiments comme la peur. Peur de mourir par exemple.

[Patrick FROMENT]

il y a 40 minutes, Mickaël MCD a dit :

Peur de mourir par exemple.

D'autant plus que, selon certaines approches philosophiques et psychologiques, cette peur là est la peur-racine de toutes nos autres peurs et nos angoisses.

Dans certaines blessures existentielles comme la blessure d'abandon ou la blessure de rejet, c'est, en fait, la peut de mourir qui est à l’œuvre... Sachant que nous pouvons considérer que nous sommes déjà "morts" une première fois à la naissance par le deuil de la vie intra-utérine. Et qu'il, est probable, que nous portions une trace archaïque de ce deuil au plus profond de notre âme (âme n'est pas à prendre au sens spirituel ici mais, au sens du principe vital qui anime l'être humain (et les animaux et les plantes))? Et si tu as envie de dire que l'âme n'est que le principe vital qui résulte des propriétés de la matière, aucun souci pour moi .

En conjecturant beaucoup, on peut imaginer qu'une conscience artificielle ne porterait pas cette trace en elle et, du coup, ses angoisses (si elle a accès à une telle émotion) seraient certainement très différentes de nous autres, mammifères, qui sommes nés de la rencontre de deux gamètes, nous sommes développés dans le ventre d'une de nos congénères et sommes "morts" une première fois à la vie intra-utérine (vie intra-utérine dont la science a certainement encore plein de choses à découvrir).

 

Sur l'angoisse de mort : https://www.cairn.info/revue-etudes-sur-la-mort-2008-2-page-125.htm

 

[Mickaël MCD]

il y a 26 minutes, Patrick FROMENT a dit :

D'autant plus que, selon certaines approches philosophiques et psychologiques, cette peur là est la peur-racine de toutes nos autres peurs et nos angoisses.

Dans certaines blessures existentielles comme la blessure d'abandon ou la blessure de rejet, c'est, en fait, la peut de mourir qui est à l’œuvre... Sachant que nous pouvons considérer que nous sommes déjà "morts" une première fois à la naissance par le deuil de la vie intra-utérine. Et qu'il, est probable, que nous portions une trace archaïque de ce deuil au plus profond de notre âme (âme n'est pas à prendre au sens spirituel ici mais, au sens du principe vital qui anime l'être humain (et les animaux et les plantes))? Et si tu as envie de dire que l'âme n'est que le principe vital qui résulte des propriétés de la matière, aucun souci pour moi .

En conjecturant beaucoup, on peut imaginer qu'une conscience artificielle ne porterait pas cette trace en elle et, du coup, ses angoisses (si elle a accès à une telle émotion) seraient certainement très différentes de nous autres, mammifères, qui sommes nés de la rencontre de deux gamètes, nous sommes développés dans le ventre d'une de nos congénères et sommes "morts" une première fois à la vie intra-utérine (vie intra-utérine dont la science a certainement encore plein de choses à découvrir).

 

Sur l'angoisse de mort : https://www.cairn.info/revue-etudes-sur-la-mort-2008-2-page-125.htm

 

Merci pour ce retour et ces points de vue très intéressants !

Dans cette discussion, je pense que de ramener le concept de "première mort" lors de l'accouchement aurait plutôt tendance à brouiller les pistes.

On ne meurt pas à la naissance, pas biologiquement. C'est un renoncement forcé ; ou un changement considérable de notre environnement... Mais pas un décès, c'est même l'inverse en réalité

Ce que je voulais dire surtout c'est que le jour où une intelligence artificielle nous fera savoir qu'elle ne veut pas mourir, on aura franchi un énorme cap dans le développement des intelligences artificielles !

• Faudra penser à leur donner des droits d'ailleurs si ça arrive un jour