Deep learning

[Christian GIRARD]

J'ai assisté ce soir à un exposé sur le deep learning, "l'apprentissage profond", et je me dis qu'il serait temps d'ouvrir un sujet relatif à cette révolution qui pour le coup a beaucoup à voir avec cette magie qui nous intéresse tant sur ce forum, parce que question "magie", le deep learning va quand même autrement plus loin que tout ce que je peux voir en général dans le monde de l'illusionnisme et de la prestidigitation. 

 

Une mise en bouche :

 

La page Wikipédia  : https://fr.wikipedia.org/wiki/Apprentissage_profond

 

"Le deep learning — Science étonnante #27"

 

Quelques liens conseillés par David Louapre :

Fei-Fei Li · Computer scientist at Ted2015 :

Citation

When a very young child looks at a picture, she can identify simple elements: "cat," "book," "chair." Now, computers are getting smart enough to do that too. What's next? In a thrilling talk, computer vision expert Fei-Fei Li describes the state of the art -- including the database of 15 million photos her team built to "teach" a computer to understand pictures -- and the key insights yet to come.

https://www.ted.com/talks/fei_fei_li_how_we_re_teaching_computers_to_understand_pictures#t-898281

 

 

 

Yann Le-Cun, leçon inaugurale au Collège de France :

Citation

L'apprentissage profond : une révolution en intelligence artificielle

http://www.college-de-france.fr/site/yann-lecun/inaugural-lecture-2016-02-04-18h00.htm

 

Modifié 10 mars 2018 par Christian Girard

[Christian GIRARD]

 

AlphaGo :

Citation

 

AlphaGo est un programme informatique capable de jouer au jeu de go, développé par l'entreprise britannique Google DeepMind.

En octobre 2015, il devient le premier programme à battre un joueur professionnel (le français Fan Hui) sur un goban de taille normale (19×19) sans handicap. Il s'agit d'une étape symboliquement forte puisque le programme joueur de go est alors un défi complexe de l'intelligence artificielle. En mars 2016, il bat Lee Sedol, un des meilleurs joueurs mondiaux (9e dan professionnel). Le 27 mai 2017, il bat le champion du monde Ke Jie et sa retraite est annoncée.

L'algorithme d'AlphaGo combine des techniques d'apprentissage automatique et de parcours de graphe, associées à de nombreux entraînements avec des humains, d'autres ordinateurs, et surtout lui-même.

Cet algorithme sera encore amélioré dans les versions suivantes. AlphaGo Zero en octobre 2017 atteindra un niveau supérieur en jouant uniquement contre lui-même. AlphaZero en décembre 2017 surpassera largement, toujours par auto-apprentissage, le niveau de tous les joueurs humains et logiciels, non seulement au jeu de Go, mais aussi aux échecs et au Shōgi.

 

 

AlphaGo Zero et AlphaZero :

Citation

 

AlphaGo Zero est une version améliorée du logiciel de go AlphaGo produite par l'entreprise DeepMind introduite par un article dans la revue Nature du 19 octobre 2017. Il s'agit d'une version développée sans l'aide de données provenant de parties jouées entre humains, ni de connaissances autres que les règles du jeu, et plus forte que n'importe quelle version précédente. En jouant contre lui-même, AlphaGo Zero a dépassé la force de la version d’AlphaGo du match contre Lee Se-dol en trois jours en gagnant par 100 jeux à 0, a atteint le niveau d’AlphaGo Master en 21 jours, et a dépassé toutes les anciennes versions en 40 jours.

En décembre 2017, une version généraliste d'AlphaGo Zero, nommé AlphaZero, a battu une version d'AlphaGo Zero ayant 3 jours d'apprentissage à 60 parties à 40. Avec 8 heures de pratique, elle a surpassé la version d’AlphaGo lors du match contre Lee Se-dol sur l'échelle Elo, ainsi que le programme d'échecs de haut niveau Stockfish et le programme de shogi Elmo.

 

 

Citation

 L'IA est engagé dans l'apprentissage par renforcement, en jouant contre elle-même jusqu'à ce qu'elle puisse anticiper ses propres mouvements et l'incidence de ceux-ci sur le résultat du jeu. Dans les trois premiers jours, AlphaGo Zero a joué 4,9 millions de jeux contre lui-même en succession rapide. Il est apparu qu'il a développé les compétences requises pour battre les meilleurs joueurs humains en quelques jours, alors que les versions précédentes d'AlphaGo ont nécessité des mois de formation pour atteindre le même niveau.

Sources :

https://fr.wikipedia.org/wiki/AlphaGo

https://fr.wikipedia.org/wiki/AlphaGo_Zero

 

***

AlphaZero :

Citation

 

Il n'a pas calculé plus de variantes que Stockfish.

C'est même le contraire, en vérité : Stockfish examine 70 millions de positions par seconde, alors qu'AlphaZero se contente de 80 000 positions par secondes, soit un taux 99,89% inférieur. Cela me rappelle la remarque de Jonathan Rowson, après sa cuisante défaite face à Michael Adams lors d'un match en 1998 : "J'ai été impressionné par le peu qu'il voyait."

Les forts joueurs calculent en effet souvent moins de variations que les moins forts. Leur puissante intuition leur permet de se concentrer uniquement sur les lignes dignes d'attention. Et c'est exactement ce que fait AlphaZero. En apprenant à la manière d'un humain, le programme a développé une "intuition", chose qu'on avait jamais entrevu auparavant chez une machine. Il suffit ensuite de combiner ce savoir-faire à une excellente puissance de calcul, et le tour est joué...

 

 

Source : https://www.chess.com/fr/article/view/comment-fonctionne-alphazero

 

[Invité bénocard]

Il y a 1 heure, Christian Girard a dit :

En apprenant à la manière d'un humain, le programme a développé une "intuition", chose qu'on avait jamais entrevu auparavant chez une machine.

C'est n'importe quoi, comme d'habitude.

D'abord un humain n'apprend pas comme ça. Ensuite c'est pas de l'intuition, c'est une fonction d'évaluation.

On se prépare un beau 21° siècle, tiens. Spirituel ou ne sera pas, qu'ils disaient...

https://www.la-croix.com/Religion/nouvelle-religion-fondee-lintelligence-artificielle-suscite-inquietudes-2017-10-05-1200882222

Belle perf, ceci dit. Maintenant on veut voir des parties avec les meilleurs pros !

Modifié 11 mars 2018 par bénocard

[Christian GIRARD]

Hello Bénocard, bienvenue dans "Le futur c'est déjà maintenant" .  Il faut bien évidemment tempérer les propos cités qui ne sont pas de moi (comme ceux que je vais mettre en lien ci-dessous) mais bon, pour ce qui concerne le fond l'élan est déjà donné, pour ma part je choisis évidemment de jouir du nouveau paradigme qui est en cours (et j'en saisis aussi les dangers, mais je crois qu'on n'a pas le choix). 

Pour ce qui concerne l'intuition artificielle, je te laisse libre de ton rejet catégorique que j'imagine conséquemment encore plus fort pour ce qui concerne les algorithmes de conscience artificielle, on en parle ci-dessous dans une conférence que je conseille à tous car elle brosse un large tableau de ce qui est en cours via le deep learning (diagnostic médical, créativité, etc.). C'est génial de pouvoir vivre cette révolution je trouve... J'ai eu l'occasion il y a peu d'interagir (en anglais) avec l'assistant personnel intelligent Alexa d'Amazon qui est pourtant plutôt simple par rapport à ce qui existe, j'étais bluffé mais c'était fun, je suis preneur !  Il ne va pas falloir longtemps pour qu'une intelligence artificielle crée des tours de magie à profusion (ça existe peut-être déjà ?) mais, de toute façon, l'idée d'ensemble de tout ce qu'implique l'IA va déjà bien au-delà de la magie que l'on connaît.

"Stephane Mallard - L'intelligence Artificielle - A l'aube de la disruption ultime" :

Citation

De l'intelligence à la conscience artificielle, Stéphane Mallard, évangéliste digital chez Blu Age nous explique en quoi le monde d'aujourd'hui va être totalement bouleversé lors du séminaire consulting KPMG.

Encore une sacrée leçon d'humilité pour l'humanité... Je me demande dans quel domaine l'Homme ne sera pas complètement dépassé. 

Modifié 11 mars 2018 par Christian Girard

[Invité bénocard]

Oui enfin bon. Ce qu'ils appellent deep learning c'est jamais qu'un maxi réseau de neurones des années 80, hein. Avec des bons algos de rétropropagation. Je suis pas surpris par les résultats obtenus. Ca va seulement beaucoup plus vite que je l'avais cru.

Est-ce que pour autant le silicium acquiert plus de conscience que ma TI57 ? De créativité ? D'intuition ?

A partir de quel degré de complexité ça apparaît ?

Modifié 11 mars 2018 par bénocard

[Christian GIRARD]

il y a 59 minutes, bénocard a dit :

Oui enfin bon. Ce qu'ils appellent deep learning c'est jamais qu'un maxi réseau de neurones des années 80, hein. Avec des bons algos de rétropropagation. Je suis pas surpris par les résultats obtenus. Ca va seulement beaucoup plus vite que je l'avais cru.

Est-ce que pour autant le silicium acquiert plus de conscience que ma TI57 ? De créativité ? D'intuition ?

A partir de quel degré de complexité ça apparaît ?

Ah ah, donc tu as un côté sacrément Shiva, la conscience serait donc une sorte d'attribut métaphysique qui ne pourrait apparaître par émergence dans un réseau complexe ?...

Pour moi même un boulier a de l’intelligence. 

[Invité bénocard]

à l’instant, Christian Girard a dit :

Ah ah, donc tu as un côté sacrément Shiva, la conscience serait donc une sorte d'attribut métaphysique qui ne pourrait apparaître par émergence dans un réseau complexe ?...

J'ai pas dit ce que c'était que la conscience. J'ai dit que je pensais en avoir plus que ma TI57.

il y a 1 minute, Christian Girard a dit :

Pour moi même un boulier a de l’intelligence.

P'têt bien. S'il est arrivé jusque là c'est qu'il doit être un minimum débrouillard, en tout cas

[Christian GIRARD]

 

Une autre intervention de l'évangéliste digital Stéphane Mallard, en grande partie semblable à celle ci-dessus (mais la compréhension nécessite la répétition, donc ne pas hésiter à écouter à nouveau ce qu'il dit) mais avec néanmoins des nouveautés, on notera par exemple l'évocation du  "majordome digital" destiné à être tout à la fois un smartphone puissance mille, un conseiller, un bras droit etc. :

 

Citation

 

Conférence Stéphane Mallard - 5 juillet 2017 - La Machine à Innover

L'INTELLIGENCE ARTIFICIELLE : COMMENT VA-T-ELLE CHANGER NOTRE VIE ET CELLE DE NOS CLIENTS ?

 

 

[Christian GIRARD]

Il y a 19 heures, bénocard a dit :

Citation

En apprenant à la manière d'un humain, le programme a développé une "intuition", chose qu'on avait jamais entrevu auparavant chez une machine.C'est n'importe quoi, comme d'habitude.

D'abord un humain n'apprend pas comme ça. Ensuite c'est pas de l'intuition, c'est une fonction d'évaluation.

Qu'est-ce qui te dit que dans un cerveau il n'y a pas une sorte de "fonction d’évaluation" biologique  ? 

"Un humain n'apprend pas comme ça" dis-tu : Certes mais un avion ne vole pas comme un oiseau et pourtant il vole beaucoup plus vite. Je ne multiplie pas les exemples, tu auras compris l'analogie, ce qui compte c'est l'efficacité du résultat (l'IA peut ne pas penser comme un humain et être plus compétente, c'est d'ailleurs de plus en plus le cas). Une IA va développer des hyper compétences dans tous les domaines (dont l'intelligence pure, la mémoire, la créativité, l'organisation et la gestion, etc.) je ne vois pas comment on ne pourrait pas lui attribuer des fonctions analogues à l'intuition (une "intuition" souvent fausse chez les humains, précisons-le). Selon moi, une intuition est simplement une sorte de raisonnement d'arrière-fond formant peu à peu une pensée inconsciente qui a un moment donné passe le seuil de la conscience pour émerger "à nous" (d'où l'importance du lâcher prise mental pour éviter d'essayer de tout contrôler consciemment donc lentement et parfois inefficacement). Les IA font des "raisonnements" tellement complexes qu'on ne sait plus ce qui se passe en elles, ce qui sort en bout de course peut être une proposition proche de l'intuition dès lors qu'il ne s'agit pas d'une opération simple (un calcul, de base par exemple). 

Je ne me suis pas posé la question de savoir si je considère qu'il y a de l'intuition dans un boulier, tout aussi débrouillard soit-il... 

 

 

[Christian GIRARD]

Il y a 20 heures, bénocard a dit :

On se prépare un beau 21° siècle, tiens. Spirituel ou ne sera pas, qu'ils disaient...

Précisions :

Citation

Cette citation que l’on attribue à Malraux est paraphrasée, détournée ou déformée.
La paternité de ce bon mot est remise en question régulièrement, alors qui croire ?

Aucun écrit de Malraux ne comprend cette citation.

Dans une interview pour Le Point du 10 décembre 1975 Malraux déclare :

« On m’a fait dire que le XXIe siècle sera religieux. Je n’ai jamais dit cela, bien entendu, car je n’en sais rien.Ce que je dis est plus incertain. Je n’exclus pas la possibilité d’un événement spirituel à l’échelle planétaire ».

Source et détails ici : http://dicocitations.lemonde.fr/questions-reponses/question/qui-a-dit-le-xxieme-siecle-sera-spirituel-ou-ne-sera-pas/

 

L'événement spirituel à l'échelle planétaire (dont on supposait alors qu'il pourrait ne concerner que l'homme, évidemment) est peut-être bien plutôt celui d'une intelligence artificielle développant un esprit qui nous échappe. 

 

 

Modifié 12 mars 2018 par Christian Girard