« Chat Generative Pre-trained Transformer »… pour les nuls ! ?

« 

Pour en parler, doit-on être un expert abscons jargonnant, un journaliste ignorant, ou être accoudé au café du commerce ? En ma qualité de très vieux « geek », j’ose reprendre ma casquette de vulgarisateur  en entreprise  des « nouvelles » technologies … car le sujet me préoccupe.

Les « Chat Generative Pre-trained Transformer » (dont le ChatGPT développé par OpenAI) sont des logiciels qui conversent avec les humains pour offrir des réponses rédigées à leurs questions,  des photo-montages générés répondant à leurs suggestions, des morceaux de code informatique… etc

Alors, que font ces « logiciels » ?

Ils font un balayage de ce qui existe sur internet et analysent statistiquement tout ce qui semble correspondre à la question posée, mais dépassant les moteurs de recherche qui listent des liens vers des sites à consulter, ils restituent des réponses rédigées qui sont un agrégat de mots de multiples sources,  ordonnancés selon les règles de fréquence constatées dans la masse et la diversité des sources.

En premier résumé : si sur un sujet donné, internet offre une majorité d’informations et d’analyses orientées ou fausses, statistiquement le ChatGPT les sélectionnera pour « assembler » un texte qui en sera une sorte de synthèse, mais rédigé sans aucune « intelligence »

Mais dans GPT il y a « Pre-trained »  :  entraîné par apprentissage supervisé et apprentissage par renforcement  faisant notamment appel à des données créées par des humains pour que le système détecte des discours « inappropriés » (haine, racisme, violences sexuelles, etc)

Et il y a également des filtres avant la restitution au demandeur.

En second résumé : un système opaque, déjà orienté lors de l’entrainement, puis filtré dans ses réponses, qui donnera des restitutions dont on ne pourra pas vérifier les sources mais qui par leur qualité de rédaction pourront faire illusion  et diffuser une information biaisée ou fausse.

Une première question très préoccupante : Qui choisit les règles d’entrainement du système et les filtres avant restitution au demandeur ?  …une entreprise commerciale, un régime politique dictatorial, une société civile sous la pression de groupes religieux ou de lobbys de tous genres ?  

Quelques autres questions :

  • Comment protéger les droits des auteurs lorsque de multiples textes sont « pompés » sans que nous soient dévoilées les sources ?  La même question se pose pour les images générées en agrégeant des parties d’œuvres picturales (photographies, peintures…) et pour le code informatique généré à partir du travail d’informaticiens.
  • Quel sera l’impact sur l’emploi, lorsque ces outils seront utilisés par nombre d’entreprises pour rédiger des réponses à la majorité des questions/réclamations des clients, lorsque les avocats y trouveront une synthèse des jurisprudences…. Etc
  • Ajoutons les inquiétudes des enseignants pour juger du travail personnel de leurs élèves !

En conclusion :

Alors que nous constatons déjà l’effet d’internet (réseaux sociaux… sites de désinformation…)  pour faciliter et accélérer la manipulation de l’information et la vitesse de sa diffusion, les ChatGPT et leurs variantes améliorées à venir, nous rendent encore plus vulnérables, car même la volonté et l’effort de vérification de certains deviennent presque impossibles.

« 

Lectures :1800
31 Commentaires
Inline Feedbacks
View all comments
D. Furtif
Administrateur
D. Furtif
12 avril 2023 16 h 41 min

Bonjour
Je n’avais pas vu ta publication en raison de l’absence d’image mise en avant…
Et…….
j’étais complètement noyé par les travaux hydrauliques de l’antiquité chinoise …
Un truc que je n’arriverai jamais à rendre intéressant à ceux qui ne partagent pas l’arbitraire de mes choix …
Je reviendrai ce soir

arthes
Membre
arthes
12 avril 2023 18 h 41 min

oooops et moi je viens de voir la publication juste parce que j’ai aperçu l’avatar de ZX sur la page d’accueil en bas à droite.. Donc en cliquant dessus….En fait, je m’attendais à des photos du style exposées sur le jardin, mais ce ChatGPT…C’est d’actualité…Bon, comme je fais parti des nuls, ça me rassure, je me dis que c’est fait pour que le plus con comprenne, je vais bien y arriver donc.. et…Je ne suis pas si obtuse envers les geeks.

Arf, un truc marrant comme ça : Il y a quelques temps, je cherchais des info sur ChatGPT sur google, à chaque fois que je tapais le sigle ça me proposait (entre autre) des déclinaisons sur le thème , et littéralement comme suit, chat qui pète et qui pue, c’est tout le charme de ggogle.

D. Furtif
Administrateur
D. Furtif
12 avril 2023 19 h 50 min

Il y a quelques semaines ZXSpect m’a invité à tester ( à mon niveau) GPT et à lui dire ce que j’en pensais….
Je ne mis pas longtemps à être non pas déçu mais rassuré…
Un piètre moteur de recherche qui offre des réponses aux questions posées avec économie et en évitant de donner ses sources.
Une qualité => une langue correcte et sobre évitant les tournures ampoulées si affectionnées des générateurs de texte de Shawford….
Là, ma question attendait obligatoirement une mise en graphique ou en tableau …..Le bouzin eut l’honnêteté de m’indiquer que ces graphiques étaient la seule bonne réponse mais qu’il n’avait pas l’équipement…
.
On peut essayer pour voir si ses maîtres l’ont amélioré
.
=> Profil longitudinal du Fleuve Jaune?

Last edited il y a10 mois by D. Furtif
D. Furtif
Administrateur
D. Furtif
12 avril 2023 19 h 59 min

Heu……….
Attention ZXSpect
Ta question  » qui fait quoi  » n’est pas préoccupante …….Elle est interdite.
.
Car si Google te conduit aux sources pour que tu fasses toi même ton tri et ta sauce …
GPT fait ce tri selon ses règles à lui et pas question qu’il te donne ces règles .
Il est un peu comme le FAKIR citoyen qui t’invite à travailler à l’oeil pour lui et qui se réserve le droit de te censurer ou de t’interdire d’accès…

En échange tu as une réponse juste mais triée et mesurée à son goût

D. Furtif
Administrateur
D. Furtif
12 avril 2023 20 h 28 min

Pour les inquiétudes des enseignants = = > je me marre doucement…
Tout est dans la question posée au devoir écrit…

Donc …………
Qu’attend-on d’un devoir écrit quand il doit aller au delà du premier niveau

  1. Un écrit correct, convenable et lisible..

Et à ce simple niveau on rencontre des degrés différents …

  • Par exemple Rosemar est incapable d’établir un lien logique entre les phrases ….Elle procède par accumulation , juxtaposition alors que la pensée est un ruisseau qui coule de l’une à l’autre ….
  • On apprend à lier les phrases dès le cours moyen par apprentissage imitation et accumulation imprégnation de lectures…..

Pour ma part je n’ai jamais rien lu de plus mal torché que certains rapports de fouille…Les véritables et savants archéologues devraient ( pour certains) relire leurs notes avant de nous les restituer sans amélioration présentable

arthes
Membre
arthes
17 avril 2023 17 h 01 min

car même la volonté et l’effort de vérification de certains deviennent presque impossibles.

Je ne vois pas pourquoi?
Il suffit d’en avoir le désir, donc la volonté et de se bouger les neurones, , si il y a volonté, rien n’empêche , tant qu’il y a de la matière et des ressources pour faire des recherches et vérifier…,

A moins que tu veuilles dire que le système accéléré d’ aseptisation de la pensée Chat etc… ne vise qu’à tuer l’idée mm de volonté et d’effort à sa source.

Vovox en est un précurseur…, c’est stérile, ça tourne en rond, ça n’aboutit à rien , c’est neurasthénique et gonflette de l’égo…Et maintenant certain demande à ChatGPT de répondre à sa place, genre pour arbitrer ,face à un interlocuteur qui n’en sait pas davantage d’ailleurs (j’ai pas réussi le copié/collé) Christophe et Pemile sur Tocqueville et Popper.

Bref, un sujet pourrait être intéressant, mais le but est de tout pourrir , ainsi va vovox où le meilleurs ne vaut rien.

D. Furtif
Administrateur
D. Furtif
17 avril 2023 17 h 28 min
Reply to  arthes

La pensée vue par les marchands
Il y aura toujours une clientèle pour des produits de consommation courante.
Offrons au public ___ pas le processus qui produit et alimente ___ non ;……….
Mais une pensée toute faite , une pensée prête à porter, qui
Pas une pensée raffinée et riche de savoir faire…une pensée haute couture
Non…………
une pensée Tee Shirt fait en INDE….
Une pensée médicament générique
En attendant une pensée homéopathique qui n’aura aucun contenu mais qui pourra faire semblant et qui conviendra à tous ceux qui s’en satisferont
Une pensée village de Potemkine…
À peine entrevue et déjà oubliée pour un public qui n’en a rien à foutre
Un public qui va chercher de la reflexion et de l’argumentation chez HANOUNA ou FAKIRVOX
Un public qui prend la littérature pour de la ROSEMAR ou du Benet de La LOIRE…ou <=>
De la médecine chez Jean Lucien ou DoctorX

D. Furtif
Administrateur
D. Furtif
17 avril 2023 17 h 56 min
Reply to  ZXSpect

On pourrait même se demander………..
si l’encombrement absolu des canaux de la diffusion de la pensée par ces éléments de langage factice
en grosses ou petites quantités mais dans des essaims de milliards de messages
…..Ne va pas aboutir au même assombrissement obscurantiste qu’à une époque où ils manquaient quasi absolument…
Un âge sombre au milieu des spots lumineux tellement aveuglants ….

Ne va-t-il pas falloir envisager des ilots isolés et préservés de cette invasion stérilisante…
Comme des monastères perdus et protégés à l’écart …. où la pensée serait préservée et réservée à ceux qui ne la consommeraient pas mais ….
S’en construiraient / constitueraient pierre à pierre avec lenteur.

arthes
Membre
arthes
18 avril 2023 16 h 41 min
Reply to  ZXSpect

Mais comme l’information circule à grande vitesse, pour être lue superficiellement par le plus grande nombre, ce type de bouillie peut tromper et diffuser des discours fallacieux et orientés.

Dont le public est avide…
Alors….
C’est le principe de la marchandisation des idées dont parle Furtif plus haut, comme produit de consommation pour le plus grand nombre et l’accès à l’égalité par un nivellement par le bas…Sauf que ça marche mieux chez Hanouna que sur vovox .

Alors…
Chat GPT , quant à lui, semble être conçu pour précisément limiter l’accès à la connaissance en dirigeant les pensées et en déroutant jusqu’à la détruire la volonté de liberté.

Tu sais, rapport à cet échange de Christophe et Pemile sur Tocqueville et Popper , où l’un voulait défendre que les deux étaient antinomiques sur leur vision de la démocratie et le deuxième qu’ils ne l’étaient pas, sans que jamais aucun avance , je suis choquée.

Il y avait matière à tant dire, et simplement, et sans être spécialiste, sans Chat GPT (sauf à le citer pour faire comprendre ses limites) et sans prétendre non plus en retour : « Ah, moi qui connais bien » tout en balançant des poncifs et des superficialités vite lues et mal digérées sur ggogle …

C’est dégoûtant.

D. Furtif
Administrateur
D. Furtif
17 avril 2023 19 h 50 min
Reply to  ZXSpect

Ouafff 🙂
Passer sur Google en 1ère ligne alors là!!!!!!!
FakirBoss doit s’arracher sa minivague

D. Furtif
Administrateur
D. Furtif
17 avril 2023 19 h 59 min

je crois que c’est le bon moment pour révéler que je refuse systématiquement toutes les propositions de faire de la pub sur Disons..
Ma manière de dire Non est de laisser ces messages/ offres sans réponse…
Je n’ai pas de temps pour ça
Dernièrement j’ai reçu une relance un peu nerveuse exprimant une incompréhension un peu blessée ………
si la demande se renouvelle…
je la publierai pour rigoler ……..

Les questions d’honneur ne sont pas faites pour ce média et ce monde

D. Furtif
Administrateur
D. Furtif
17 avril 2023 21 h 02 min
D. Furtif
Administrateur
D. Furtif
18 avril 2023 19 h 51 min
Reply to  ZXSpect

Putain de Bordel de chiasse à cul………….
Pemile est têtu et obstiné comme un enseignant…..
Il rêve de convaincre un complotiste de la bande d’allumés qui arrivent comme par hasard en renfort au coup de sifflet parce que Pangloss a lâché le poste…
Piaget => super formulation
J’avais tant de mal à convaincre certains collègues et encore plus des élèves que le geste du graveur contenait autant d’intelligence que les prétentieux intellos dont ils ne supportaient pas la morgue
-Apprentissage
-Observation
-Imitation
-et on recommence….
Le stade définitivement au dessus étant la transmission aux autres

pemile
pemile
21 avril 2023 9 h 47 min
Reply to  ZXSpect

« et Pemile qui gâche son talent à ferrailler avec ces guignols ! »

Laisse moi occuper mon temps comme je l’entends et constater que tu suis toujours à distance avec assiduité (comme le fait le furtif) ce qui se passe sur AVox c’est pas un ambigu comme comportement ?

D. Furtif
Administrateur
D. Furtif
21 avril 2023 15 h 55 min
Reply to  pemile

Comme mon souhait est la destruction annihilation de FAKIR VOX...je passe souvent voir où ce site nuisible en est .
Rien à voir avec ceux qui, manifestement, espèrent encore y trouver quoi que ce soit de positif.
………

pemile
pemile
21 avril 2023 17 h 52 min
Reply to  D. Furtif

« Comme mon souhait est la destruction annihilation de FAKIR VOX »

Je sais, t’en fais une affaire personnelle que tu n’arrives pas à digérer, mais pas touche à AVox, moi j’adore !

D. Furtif
Administrateur
D. Furtif
21 avril 2023 18 h 09 min
Reply to  pemile

Oh mais je ne touche à rien ….
Ce machin produit lui même ce qui le détruit ….
Ce machin serait mort et disparu depuis longtemps sans la complicité le plus souvent involontaire ( hélas) de ceux qui se font aveugler par tous les mensonges et combines de la Direction de ce Machin Complotiste, refuge des Steineriens, des antivaccinistes, des partisans illuminés chemtrails , des défenseurs acharnés de la prophétie de Malachie, des cartomanciennes spiritistes, des mangeurs de Prana , des épiciers thérapeutes…….etc …. …des hologrammes d’avioçns , ces passagers et l’équipage d’un Boeing retenus en captivité quelque part ????????? du 11septembre des N_ukes et des Missiles sur le Pentagone ……
Ce site a été dénaturé dès l’origine par la volonté obstinée d’un patron complètement illuminé par ses propres apparitions/inspirations miraculeuses.
Le slogan originel (citoyen) n’a pas plus de valeur qu’un prospectus de réclame …….
_ rien à voir avec le sens réel de ce mot .
À part l’obstination la plus aveugle il n’y a plus ___ depuis plus de 15 ans __ aucune raison

morale et rationnelle

de défendre ce machin

pemile
pemile
21 avril 2023 21 h 17 min
Reply to  D. Furtif

Sur le fond, le naufrage d’un projet de journalisme citoyen, on ne peut effectivement qu’en pleurer (de rage) mais c’est un cas d’école sur les structures en ligne non modérées.

pemile
pemile
21 avril 2023 21 h 09 min
Reply to  ZXSpect

« m’ont convaincu d’insister pour obtenir la suppression de mes articles et de mes coms »

Je continue à t’en vouloir ! Car je ne comprends toujours pas la (pour plagier Furtif) raison morale et rationnelle de cette auto-censure !

D. Furtif
Administrateur
D. Furtif
18 avril 2023 20 h 21 min

Heu ZXSpect j’ai une petite chose à te dire peut-être à te redire….
je suis très loin de passer toutes mes heures sur FAKIR…
Très loin de prendre connaissance des dernières inventions du Gang et de l’état de son recrutement….
Aussi
Attends toi à ce que mes commentaires souffrent d’un manque de pertinence sur les considérations philosophiques du dernier FAKIR à la mode ….ou du dernier modèle sorti des bureaux du Brain trust du Soral Club .

D. Furtif
Administrateur
D. Furtif
20 avril 2023 22 h 12 min
Reply to  ZXSpect

C’est une sorte de confirmation de mon impression d’officine collective…

pemile
pemile
21 avril 2023 9 h 41 min
Reply to  D. Furtif

Tu penses que ce Christophe est « missionné » pour me « motiver » à « animer » ce site en ruine ??!!

D. Furtif
Administrateur
D. Furtif
21 avril 2023 15 h 56 min
Reply to  pemile

Je pense ………
Faut voir
C’est une hypothèse qui me parait plausible avant plus amples vérifications

pemile
pemile
21 avril 2023 21 h 15 min
Reply to  D. Furtif

Comme pour ton analyse sur Cyrus, je n’y crois pas une seconde.

AVox sombre et le « gestionnaire » se fout juste de ne plus héberger que des tarés tant que ça maintient un seuil de fréquentation.

Que Nono et moi nous participions à ce maintien te désespère mais à quoi bon tirer sur une ambulance psychiatrique ?

D. Furtif
Administrateur
D. Furtif
21 avril 2023 21 h 27 min
Reply to  pemile

Peut-on , comme vous le faites , continuer à fournir le carburant de cette ambulance?