(Oukee) - "Dialogue" avec ChatGPT

[Christof]

Il semble effectivement que l'algorithme apprenne avec les informations qu'on lui donne. J'ai eu plusieurs fois une "conversation" à quelques jours d'intervalles sur un même sujet. A chaque fois, je l'ai corrigé (façon de parler) lorsqu'il me répondait avec des erreurs.
Il semble donc vérifier ce qu'on lui "dit" et va alors faire des recherches dans les bases de données qu'il utilise (le problème, c'est que l'on ne peut jamais savoir les sources auxquelles il se réfère). En tous cas, si il trouve quelque chose qui correspond bien à ce qu'on lui a dit, il semble avoir "appris". Et donc quand on refait une même discussion sur un même sujet, à plusieurs jours d'intervalle, il "répond" beaucoup mieux.

En tous cas, cela a marché par exemple dans certains domaine scientifiques que je connais très bien.
Mais pour ce qui est de la musique, cela fait 10 fois que je lui donne par exemple la grille de Nardis (Bill Evans) [j'ai fait cela plusieurs jours de suite] et à chaque fois que je lui redemande, il me dit n'importe quoi.
Et pour ce qui est de la tonalité du morceau, il me répond parfois de façon exacte, parfois non....

Sinon, sur certains sujet, j'ai complètement été bluffé.

[nox]

.
Il semble donc vérifier ce qu'on lui "dit" et va alors faire des recherches dans les bases de données qu'il utilise (le problème, c'est que l'on ne peut jamais savoir les sources auxquelles il se réfère). En tous cas, si il trouve quelque chose qui correspond bien à ce qu'on lui a dit, il semble avoir "appris". Et donc quand on refait une même discussion sur un même sujet, à plusieurs jours d'intervalle, il "répond" beaucoup mieux.

Mais c'est fou que d'un côté sur ce qu'on lui dit il fasse ainsi le tri, alors que par ailleurs sur la base de ce qu'il trouve sur internet il dit n'importe quoi.
En gros si au lieu de lui dire n'importe quoi, je l'écris sur un site (et vu les c***** qu'il a débitées dans la discussion avec Oukee, j'ose espérer que ça ne vient pas de sites hyper fiables/hyper fréquentés) il le prendra en compte ?

En fait ce qui manque dans tout ça, c'est la construction progressive des connaissances, qui permet de forger un esprit critique tout en restant conscient de ses propres faiblesses.
Quand on apprend sur un sujet nouveau, au début on prend des précautions, on ne considère quelque chose comme sûr qu'on fois qu'on l'a mis à l'épreuve d'une certaine réalité. Ce qu'il ne fait manifestement pas (mais peut-il le faire ? Sujet intéressant...)

[axolotl]

c'est clair que le prochain travail -à mon avis il y a beaucoup de travail sur ce ChatGPT version 0 !- sera de citer les sources et établir un algorithme de vérification des sources.
Ce qui est vraiment très difficile à faire... Sur le plan théorique s'entend.
Si on n'est pas spécialiste d'un sujet, il est souvent difficile de distinguer le vrai du faux concernant une information, sans compter ce qui est source de débats encore à l'heure actuelle comme entre historiens.
...

[BM607]

Pas de politique STP. C'est un des pires trucs pour avoir des dérives.

Merci de corriger le message ci-dessus.

BM/Modo

[axolotl]

Oui je comprends: message corrigé

[BM607]

Merci.

BM

[floyer]

C'est quand même décevant...
J'attendrais d'une AI de ce niveau un minimum de capacité à pondérer ses informations en fonction de la fiabilité de leur source.

Là "il" assène avec conviction des choses complètement fausses et facilement vérifiables (le nocturne pour la main gauche, sérieusement......).

Il n’y a pas de moyen simple et efficace pour pondérer. Une manière de faire est de pondérer avec des notes de notoriété : un Wikipedia (qui est très surveillé mais pas infaillible), aura une note plus élevée. Mais des questions pointues n’ont pas de réponses sur ce media a priori… donc on se retrouve avec des pages quelconques sur le Web. Et il suffit qu’un quidam écrive que la comptine d’un autre été soit une des plus difficile au piano, au même titre que le boléro de Ravel (malheureusement, je n’invente rien : https://www.superprof.fr/blog/partition ... -au-piano/), et ce genre d’ânerie pourra être reproduite avec la même intelligence que celui de l’auteur de l’article. Avec ChatGPT, c’est la Valse d’Amélie Poulain qui est difficile à jouer parmi les pièces de piano utilisées dans des films……

Par contre, ChatGPT n’est pas franchement humble, il va juste faire la phrase la plus plausible possible (vrai ou fausse). Vu la conception, je trouve qu’il s’en sort pas mal.

[quazart]

Par contre, ChatGPT n’est pas franchement humble, il va juste faire la phrase la plus plausible possible (vrai ou fausse). Vu la conception, je trouve qu’il s’en sort pas mal.

En ce sens c'est le digne descendant de HAL9000 qui était verbeux à souhait avant de sombrer du côté obscur
Ce langage est induit par les lois de la robotique établies par Isaac Azimov... la machine doit montrer de la dévotion envers son créateur humain.

Par contre, pour pondérer, on pourrait imaginer un référencement des sites non fiables. Reste à trouver qui pourrait le mettre à jour..................

[bernard]

Et il suffit qu’un quidam écrive que la comptine d’un autre été soit une des plus difficile au piano,

il faut quand même oser

Et cette mélodie composée par l’un des meilleurs pianistes du monde Yann Tiersen est très difficile pour une raison particulière : c’est un morceau pour gaucher.

[axolotl]

Et il suffit qu’un quidam écrive que la comptine d’un autre été soit une des plus difficile au piano,

il faut quand même oser

Et cette mélodie composée par l’un des meilleurs pianistes du monde Yann Tiersen est très difficile pour une raison particulière : c’est un morceau pour gaucher.

c'est pour cela qu'il serait important que la prochaine version cite ses sources.
Comme ça on pourrait voir où il est allé chercher cela et modifier ou faire modifier la source. Ou lui faire attribuer une note inférieure concernant le jugement sur la difficulté d'une pièce de musique. Il y a des milliers voire des millions d'internautes qui se connectent à Wikipedia et tout ajout ou modification est soumise à approbation ou infirmée suivant le vote des internautes, pondéré d'une certaine façon.
Il m'est arrivé de voir sur Wikipedia certaines erreurs paraissant grossières et d'envoyer une modification qui sera éventuellement acceptée ou non.
Tout ce nouveau système de référencement de chat GPT -assez compliqué vraisemblablement à mettre en place- ne sera plus statique mais dynamique, donc pourra évoluer en fonction des réponses d'internautes aux réponses de ChatGpT. D'une certaine façon, il y aura un apprentissage de plus à faire pour cette machine.
Ça paraît totalement nécessaire pour des sciences en pleine évolution comme l'informatique.
La question de la difficulté d'une pièce est aporétique car certains nocturnes de Chopin ou Fauré sont difficiles à bien jouer. Des pièces de Scarlatti notamment pourront obtenir un jugement différent sur la difficulté si c'est Horowitz qui la joue ou Pogorelitch. Ce dernier le prend sur un rythme enjoué et rapide, gai et sautillant alors que les mêmes pièces de Scarlatti jouées par Horowitz sont tout en délicatesse et un brin romantiques. Avec un tempo plus lent que celui indiqué... Jouer la sonate K. 380 "comme" Pogorelitch s'avère assez difficile si on tient compte du tempo et du piqué sur toutes les notes.
On ne peut pas attribuer une note de difficulté globale à Chopin ou Liszt car chez ce dernier tout est difficile et donc c'est plus simple à estimer globalement que Chopin.

[floyer]

Citer les sources risque d’être compliqué. De ce que j’ai compris, ChatGPT établis des probabilités d’occurrence d’un mot dans un contexte donné. Ensuite, il déroule la réponse en prenant successivement les mots les plus probables.

En simplifiant à outrance, si ChatGPT voit une page avec « difficile » et « valse d’amélie » mis en relation, il va augmenter la probabilité d’occurence d’un mot dans le contexte où on voit l’autre mot. Au final, on a juste des probabilités ou des pondérations entre des occurrences de mots. Il est difficile de remonter aux sources.

[diez]

D'après ce que j'avais lu, il est même impossible de dire pourquoi une IA donne une réponse. Le processus de décision n'est pas traçable. Donc la réponse est supposée être la bonne. Mais la bonne avec quelles données ? c'est la bonne question. Une autre question est la bonne pour qui ? Une réponse peut-être bonne pour moi mais pas bonne pour quelqu'un d'autre, surtout au niveau artistique, mais aussi au niveau intellectuel. Ça dépend de la façon dont chacun se représente quelque chose.

Si une IA dit que l'étude OP 25.6 de Chopin est plus difficile que la OP 10.1. Certains trouveront que c'est vrai d'autres, non. Qu'importe les sources, le plus important n'est-il pas de savoir pourquoi ? et pour qui ? Il faudra poser des questions comme certains ont fait, dans leurs dialogues plus haut. Aujourd'hui les réponses paraissent (et sont) approximatives mais argumenter avec une IA va devenir de plus en plus compliqué (vu la masse de données qu'elle pourra fournir (et pas nous) et on sera amenés à lui faire confiance (ou pas). Comment argumenter par exemple si elle vous donne comme explication une formule mathématique de 4 pages ?

Fini les réponses venant de wikipédia ou d'une quelconque base de données. Les données viendront d'une base de donnée de l'IA qu'elle se sera créée au fur et à mesure avec les données ingurgitées au long des années. Données croisées et recroisées maintes fois, pondérées et repondérées. La pondération continuelle de toutes les infos devrait lui donner quelque chose de solide et invérifiable par quiconque. Ce que fait ChatGPT aujourd'hui est très très basique par rapport a ce qu'elle fera dans quelques années.

[axolotl]

Citer les sources risque d’être compliqué. De ce que j’ai compris, ChatGPT établis des probabilités d’occurrence d’un mot dans un contexte donné. Ensuite, il déroule la réponse en prenant successivement les mots les plus probables.

En simplifiant à outrance, si ChatGPT voit une page avec « difficile » et « valse d’amélie » mis en relation, il va augmenter la probabilité d’occurence d’un mot dans le contexte où on voit l’autre mot. Au final, on a juste des probabilités ou des pondérations entre des occurrences de mots. Il est difficile de remonter aux sources.

ChatGPT utilise les réseaux de neurones en copiant ce qui se produit pour notre intelligence mais surtout la part liée dans notre esprit à la cognition.
En psychologie cognitive, pour décrire le processus d'acquisition du langage et la symbolisation des objets environnants par le langage et les sens concernant le nourrisson, on parle d'apprentissage et de reconnaissance. Cette machine a ingurgité des tonnes de savoir pour pouvoir charger ses neurones informatiques en traduisant toute cette quantité gigantesque en information binaire, ou disons en octets élémentaires pour ses propres besoins.
ChatGPT ne comprend pas le sens des mots mais établit une relation probabilistique entre plusieurs mots et établit du coup la réponse la plus probable en puisant dans tout Wikipedia -et le reste- les pages où la fréquence de ces mots correspond le mieux, afin d’en tirer une réponse.
Par exemple si on pose la question "Quelles ont été les femmes présidentes de la république française ?", il se connectera à la page wikipedia avec les mots femme président république-française et il verra qu'aucune femme n'a été présidente chez nous. Il consultera ensuite toute la liste des présidents de la Vème et vérifiera qu'aucune femme n'a été élue présidente en France. À la sortie du réseau de neurones, la probabilité d'une réponse positive est nulle, d'où sa réponse négative à la question.
Ceci évidemment est une réponse à une question simple formulée sur le mode binaire donc proche du langage machine. Si la question est plus complexe, évidemment il pourra faire des erreurs...
Il faudrait consulter le chapitre de l'informatique appliquée aux sciences du langage pour se demander si notre compréhension verbale à nous d'une question -ou d'une situation à laquelle nous sommes confrontés- n'est pas tout bonnement aussi d'ordre probabilistique, avec à la base une superposition de nos pensées de façon quantique : dans chatGPT, les concepteurs ont reproduit ce schéma, celui de réseaux de neurones pilotés par l'IA. L’intelligence artificielle emploie des règles -ou si on préfère le terme méta-règles- qui vérifient si la réponse la meilleure est la plus adéquate à la question de façon probabilistique, en ayant éliminé au passage celle entrées dans du réseau de neurones et sorties avec une probabilité nulle ou proche de zéro. La condition nécessaire à notre cerveau pour produire ces règles et les faire fonctionner est intimement lié au fait d'avoir une conscience. Ce que la machine ne possède pas !
Notre pensée est en mode de fonctionnement constant même quand on dort et certains affirment que la pensée suit ou est comparable à un mode quantique de superposition: plusieurs pensées coexistent en même temps, se bousculent dans notre esprit pourrait-on dire et à l'aide de ces règles que l'IA s'efforce de reproduire nous choisissons la réponse la plus appropriée. Ou nous effectuons une action… Avec comme question subsidiaire mais importante, qu'advient-il pendant nos rêves où la conscience est en sommeil car c'est elle qui produit et stocke ces règles, momentanément ou non ce qui permet d’effectuer un choix lié au libre arbitre…
ChatGPT va faire faire un bond gigantesque aux sciences du langage et surtout à la médecine: peut-être cette IA aidera à comprendre une part du fonctionnement mental afin de permettre de soigner des lésions et des maladies psychosomatiques ou neuro biologiques qui provoquent des troubles du langage et de la compréhension comme l'aphasie. Avec l'arrivée prochaine des ordinateurs quantiques, on s'approchera vraisemblablement encore plus près du fonctionnement des pensées dans notre cerveau.
Du travail en perspective pour les programmeurs... 
Il faut réaliser que les réseaux de neurones des machines reproduisent le fonctionnement de nos neurones mais dans le cadre d’une simplification extraordinaire lié au binaire: dans le cerveau le neurone n'est pas une pure porte NAND mais fonctionne de façon analogique, sans compter qu'il y a AUSSI du magnétisme dans le cerveau et des réactions physico-chimiques comme avec les synapses. Il y a une régulation importante due à l’acétylcoline pour l’humeur et le sommeil mais elle joue aussi un rôle capital dans la contraction musculaire. Des troubles liés possiblement à la modification de la chimie de l'acétylcholine ont été associés à la maladie d'Alzheimer ainsi qu’à d'autres troubles cognitifs. Elle joue un rôle important dans la mémoire et l'apprentissage en régulant la plasticité synaptique et en favorisant la formation de nouvelles connexions entre les neurones.
La cigarette qu’on fume modifie le pH de l'acétylcholine. Cette activation n'est que provisoire et sitôt la cigarette finie, on a envie de re-fumer pour maintenir l'excitation momentanée du cerveau du au changement de pH: un dilemme bien connu des fumeurs et qui ne facilite guère l'arrêt du tabac! 

[Christof]

J'imagine qu'il utilise les réseaux bayésiens (et inférence bayésienne) et que c'est maintenant fondamental dans sa phase d'apprentissage après qu'Open AI ait livré cet algorithme sur la toile et que tout le monde s'amuse avec. Il a sûrement été mis à disposition sur le net pour faire venir des investisseurs (aux dernières nouvelles, la valeur de l'action Google se serait d'ailleurs pris 10% de baisse dans la figure), mais aussi pour mieux entraîner le système (notamment à la logique flou pour une meilleure compréhension des questions posées, qui peuvent être parfois mal formulées ou aussi pleines d'erreurs dans les mots clés qu'elle peut fournir).
Je suis à peu près sûr que la majorité des internautes qui s'amusent actuellement avec ChatGPT, l'interrogent dans des domaines dont ils ont une grande expertise. Du coup, cela peut être tout bénef pour Open AI (et gratuitement) [le système dit qu'il ne garde pas trace des "conversations" mais, finalement, personne n'en sait rien].

A une époque, mais dans un autre domaine, 20Q avait fait la même chose, pour entraîner son système
http://www.20q.net/

[axolotl]

J'imagine qu'il utilise les réseaux bayésiens (et inférence bayésienne) et que c'est maintenant fondamental dans sa phase d'apprentissage après qu'Open AI ait livré cet algorithme sur la toile et que tout le monde s'amuse avec. Il a sûrement été mis à disposition sur le net pour faire venir des investisseurs (aux dernières nouvelles, la valeur de l'action Google se serait d'ailleurs prise 10% de baisse dans la figure), mais aussi pour mieux entraîner le système (notamment à la logique flou pour une meilleure compréhension des questions posées (qui peuvent être parfois mal formulées ou aussi pleines d'erreurs dans les mots clés qu'elle peut fournir).
Je suis à peu près sûr que la majorité des internautes qui s'amusent actuellement avec ChatGPT, l'interrogent dans des domaines dont ils ont une grande expertise. Du coup, cela peut être tout bénef pour Open AI (et gratuitement) [le système dit qu'il ne garde pas trace des "conversations" mais, finalement, personne n'en sait rien].

A une époque, mais dans un autre domaine, 20Q avait fait la même chose, pour entraîner son système
http://www.20q.net/

Effectivement sur une video explicative, à la question "Quelles ont été les 3 femmes présidentes de la république française ?", il répondait au début Simone Veil en 79: maintenant il a corrigé heureusement. Je pense qu'il y a un certain correctif relativement aux questions qu'on pose et qui engendre chez lui de mauvaises réponses. Évidemment il ne faudrait pas que ça tombe aux mains de services de renseignements US ou autres, car le fichage serait total ou presque!