ChatGPT dévoile les plus grands secrets de la magie

Christian DELAMORINIERE · 30 mars 2023

Il y a 8 heures, Christian DELAMORINIERE a dit :

Une menace même pour l'humanité :

Perturbations économiques et politiques dramatiques que l'IA provoquera

Yoshua Bengio, pionnier canadien de l'IA, a fait part de ses préoccupations lors d'une conférence de presse virtuelle à Montréal. “Je ne pense pas que la société soit prête à faire face à cette puissance-là, au potentiel de manipulation des populations, par exemple, qui pourrait mettre en danger les démocraties”, a-t-il alerté.
“Il faut prendre le temps de ralentir cette course commerciale”, a-t-il ajouté, appelant à discuter de ces enjeux au niveau mondial “comme nous l'avons fait pour l'énergie et les armes nucléaires”. Sam Altman, patron d'OpenAI, le concepteur de ChatGPT, a lui-même reconnu être “un peu effrayé” par sa création si d'aventure elle était utilisée pour de “la désinformation à grande échelle ou des cyberattaques”. “La société a besoin de temps pour s'adapter”, avait-il déclaré sur ABC à la mi-mars.
“Ces derniers mois ont vu les laboratoires d'IA s'enfermer dans une course incontrôlée pour développer et déployer des cerveaux numériques toujours plus puissants, que personne — pas même leurs créateurs — ne peut comprendre, prédire ou contrôler de manière fiable”, estiment les experts dans la pétition. Ils s'interrogent sur le potentiel de nuisance de ces IA, mais aussi sur l'automatisation à marche forcée de nombre d'emplois, au point d'évoquer l'éventualité d'une “perte de contrôle de notre civilisation”.

Les cols blancs en première ligne

Selon une étude de Goldman Sachs, les systèmes d’IA générative, à l’image de ChatGPT, pourraient entraîner des “perturbations importantes”, se traduisant par la perte de quelque 300 millions d’emplois à temps plein dans le monde.
Toutefois, l’impact de l’IA sur le marché du travail se fait d’ores et déjà ressentir avec environ deux tiers des emplois actuels exposés à un certain degré d’automatisation par l’IA, toujours selon Goldman Sachs. Cette dernière estime que l’IA générative pourrait remplacer jusqu’à un quart du travail actuel. Dès lors, les cols blancs seraient les plus susceptibles d’être touchés par les nouveaux outils nourris à l’IA.
source

Christian DELAMORINIERE · 31 mars 2023

Il y a 22 heures, Christian DELAMORINIERE a dit :

potentiel de manipulation des populations

Midjourney suspend son offre gratuite

Trop forte demande, préoccupation face à l'afflux de désinformation généré par son outil ? Peut-être un peu des deux. Midjourney, le laboratoire de recherche qui propose un outil éponyme de génération d'images, a fermé l'accès de son IA à ceux qui l'utilisaient de manière gratuite.
"En raison d’une combinaison de demandes extraordinaires et d’abus d’essais, nous désactivons temporairement les essais gratuits jusqu’à ce que nos prochaines améliorations du système soient déployées", a indiqué David Holz, le PDG de Midjourney, dans un message publié sur la communauté Discord de l'entreprise. S'il ne détaille pas ce qui se cache derrière la formule "abus d'essais", l'homme avait récemment déclaré, selon le Washington message, avoir du mal à assurer le respect des règles, "en particulier quand il s'agit de représenter de vraies personnes". Dans d'autres messages, le PDG expliquait que la société avait "bloqué un tas de mots liés à des sujets dans différents pays".

Les images ultraréalistes (mais trompeuses) pullulent en ligne

Plus préoccupant, Midjourney a récemment été utilisé en vue de la diffusion de nombreuses images ultraréalistes — mais fallacieuses — sur les réseaux sociaux.
Sur Twitter, une publication a déclenché un long débat pour déterminer si l'image avait été générée par une IA ou non. Elle montrait un manifestant âgé, en sang, encerclé par plusieurs membres des forces de l'ordre. Si certains indices permettent d'attester que cette image est créée de toutes pièces, seuls les plus aguerris dans ce domaine peuvent le remarquer (absence d'insignes des forces de l'ordre, forme étrange de la visière, etc.).

Christian DELAMORINIERE · 31 mars 2023

L'Italie vient d'interdire ChatGPT :

Michel DARLONE · 31 mars 2023

Ce type d'applis me parait nuisible pour l'intelligence humaine et les droits de propriété intellectuelle. Et le même type d'applis avec des images encore plus dangereux pour la désinformtion et les théories du complots (et cela vient de commencer comme vu plus haut...). On arrête pas le progrès "mais science sans conscience n'est que ruine de l'âme" et donc de l'homme...

Modifié 31 mars 2023 par Michel DARLONE

César CHALRET (16 art) · 31 mars 2023

il y a une heure, Michel DARLONE a dit :

Ce type d'applis me parait nuisible pour l'intelligence humaine et les droits de propriété intellectuelle. Et le même type d'applis avec des images encore plus dangereux pour la désinformtion et les théories du complots (et cela vient de commencer comme vu plus haut...). On arrête pas le progrès "mais science sans conscience n'est que ruine de l'âme" et donc de l'homme...

Je suis en premier lieu fasciné par cet élan médiatique sur l'I.A.

Je ne suis pas du tout référent dans le domaine. J'ai l'impression d'une évolution qui buzze plus auprès d'un public non initié (?)

Faut-il accueillir l'information et réfléchir à comment bien l'utiliser ?

Michel DARLONE · 31 mars 2023

il y a 4 minutes, César CHALRET (16 art) a dit :

Faut-il accueillir l'information et réfléchir à comment bien l'utiliser ?

Je crains que de toutes façons nous n'ayons pas d'autres choix...

Christian DELAMORINIERE · 1 avril 2023

Il y a 9 heures, Michel DARLONE a dit :

applis avec des images encore plus dangereux pour la désinformation et les théories du complots

Heureusement, les applis avec des vidéos ont encore beaucoup de chemin à faire :

Michel DARLONE · 1 avril 2023

Christian DELAMORINIERE · 1 avril 2023

Une menace aussi pour les artistes :

Christian DELAMORINIERE · 2 avril 2023

Comment obtenir des images (photo)réalistes avec Midjourney :

Vous devez demander (en anglais) au bot d'imaginer une scène qu'il s'efforcera de reproduire. Pour cela, vous passez par un prompt ou une ligne de commande. Les moins à l'aise avec la langue de Churchill pourront aisément se rabattre sur un traducteur en ligne tels que DeepL ou… ChatGPT.

ChatGPT comme un allié

Ainsi, à la simple commande “je souhaite en anglais un prompt pour Midjourney v5 sur le thème : une vue en hauteur d'un village en Corse avec la mer en fond”, ChatGPT donne une libre interprétation, plutôt ampoulée, de notre courte description : “A breathtaking aerial view of a charming Corsican village nestled among rugged mountains and overlooking the sparkling Mediterranean Sea. The village is a cluster of stone buildings with terracotta roofs and narrow streets that wind down to the sea. The clear blue water of the Mediterranean is dotted with small boats and yachts, while the coastline stretches out into the horizon. The surrounding hills are covered in lush greenery, with the occasional rocky outcrop jutting out into the sky. The sky is a clear, vibrant blue, with the sun casting long shadows across the village and sea. This picturesque view captures the essence of the beauty and tranquility of Corsica, and is a perfect representation of Mediterranean paradise. --v 5 --upbeta --ar 2:3.”

Midjourney permet également une chasse photographique tout en restant devant son ordinateur à aligner prompt après prompt…
source