ChatGPT et la musique

Théorie, jeu, répertoire, enseignement, partitions
Répondre
Avatar du membre
Chtilli
Messages : 2885
Enregistré le : jeu. 12 juil., 2018 23:09
Mon piano : KAWAI ES8 + Pianoteq

Re: ChatGPT et la musique

Message par Chtilli »

J'ai essayé de lui demander son avis sur le degré de convictions politiques d'Olivier Dussopt et il a refusé de répondre... Bizarre...
Chopin - Rachmaninoff. Répéter.
Niccolò Messina
Messages : 375
Enregistré le : jeu. 15 oct., 2015 19:25
Mon piano : Roland HP 204
Contact :

Re: ChatGPT et la musique

Message par Niccolò Messina »

Bonjour, j'ai demandé à Chat GPT de me décrire le premier mouvement de la huitième sonate de Beethoven. Il m'a répondu quelque chose de vague et délayé évoquant le motif de quatre notes, le motif du destin. Je l'ai corrigé en lui faisant faire la différence avec la Cinquième symphonie et je lui ai donné le nom des quatre notes avec le rythme. Il m'a remercié.
Je me demande s'il prend pour argent comptant tout ce que chaque internaute lui dit et lui ai demandé ses sources, mais il y a eu un message d'erreur.
Je lui ai demandé un sonnet sur le Mont Saint-Michel qui n'était pas mal.
Est-ce qu'il se sert de Wikipédia ? De toutes les pages du web ?
Avatar du membre
Chtilli
Messages : 2885
Enregistré le : jeu. 12 juil., 2018 23:09
Mon piano : KAWAI ES8 + Pianoteq

Re: ChatGPT et la musique

Message par Chtilli »

De tout le web, oui, c'est ce que j'ai lu
Chopin - Rachmaninoff. Répéter.
roulroul2
Messages : 1503
Enregistré le : sam. 02 mai, 2020 23:25
Contact :

Re: ChatGPT et la musique

Message par roulroul2 »

Les images, puis le texte et la conversation, et aujourd’hui la musique ! Les démonstrations de modèles d’IA se suivent et se complexifient et aujourd’hui c’est le modèle MusicLM de Google qui est à l’honneur. Une IA qui, comme ses sœurs Dall-E et Stable Diffusion pour l’image, se base sur une requête sous forme de texte pour vous composer des morceaux de musique. Si de tels modèles ont déjà été conçus par le passé, ici la qualité « haute-fidélité » fait un bond en avant en matière de rendu. Et aussi de crédibilité et de diversité
L'intelligence artificielle a de l'avenir, c'est certain. Il faut aussi aborder l'aspect négatif de la chose. Le problème, c'est que 80% des jeunes du monde entier sont scotchés à leurs écrans en permanence, et ne pratiquent presque aucune activité ni intellectuelle, ni physique, ce qui est une véritable bombe à retardement sanitaire, d’après pas mal d'articles sérieux. Moralité, s'il doit y en avoir une : la pratique d'un VRAI instrument sera salutaire. 4 heures d’écrans par jour, c'est quand même énorme.
De même, selon le dernier­­­­ ­rapport de l’Organisation de coopération et de développement économiques (OCDE), « à 15 ans, seulement 14 % des garçons et 6 % des filles exercent une activité physique quotidienne en France ». La faute là encore à un mode de vie délétère.
La sédentarité progresse, comme chez l’adulte d’ailleurs. « Entre 2006 et 2015, le temps d’écran quotidien a augmenté d’une heure chez les 6-17 ans, soit plus de quatre heures par jour devant un écran », rappelait François Bourdillon, ancien directeur général de Santé publique France, lors de la sortie d’un rapport sur le sujet en 2017. Sans compter la part des déplacements actifs qui décroît d’année en année.....
.
https://www.lemonde.fr/sciences/article ... 50684.html
Avatar du membre
Numa
Messages : 353
Enregistré le : ven. 26 août, 2022 11:48
Mon piano : Kawai ND-21
Localisation : Marseille

Re: ChatGPT et la musique

Message par Numa »

Thrond a écrit : mar. 14 févr., 2023 6:31 Mais ma propension à être un foutu humain, et français de surcroît, a repris le dessus, je lui ai demandé de faire un concours d'insulte, et il m'a répondu:

"I'm sorry, but as an AI language model, I am programmed to follow ethical guidelines and maintain a respectful and professional tone in all interactions. Therefore, I cannot use offensive language or swear. Is there something else I can help you with?"
Tu sais que tu peux lui parler en français, hein ? Désolé si c'est évident, mais j'ai aussi commencé par supposer qu'il fallait lui parler en anglais, alors qu'en fait il se débrouille dans pas mal de langues.

Pour cette réponse, en fait c'est une limitation artificielle, le modèle de langage saurait parfaitement générer des trucs avec des insultes, mais justement il y a un filtre par-dessus qui refuse (ainsi que pour certains sujets).
Niccolò Messina a écrit : mar. 14 févr., 2023 8:57 Je l'ai corrigé [...] Il m'a remercié.
Je me demande s'il prend pour argent comptant tout ce que chaque internaute lui dit
La première fois que je l'ai vu dire un truc faux (sur un langage de programmation), je lui ai dit et il s'est excusé et m'a remercié. Du coup après je lui ai posé une autre question dans le même thème, il m'a donné une réponse correcte, je lui ai dit qu'il avait encore faux, il s'est encore excusé pour son erreur... après je lui ai dit que je l'avais bien eu, en fait sa première réponse était correcte, il s'est encore excusé...

Par contre sur d'autres sujets plus simples (genre les dates d''évènements importants) je n'ai pas réussi à lui faire « corriger » ses réponses justes en lui disant qu'il se trompait et en donnant des réponses fausses à la place - au mieux il essayait de trouver une interprétation charitable de ce que j'avais proposé, mais en tenant bon sur les faits.

Ça me donne l'impression qu'il doit y avoir une espèce de pondération entre ce qu'il a appris à l'avance et ce qu'on lui dit pendant la discussion : qu'il essaie de donner du crédit à ce qu'on dit mais seulement dans une certain mesure. (C'est une supposition personnelle je n'ai pas d'info fiable là-dessus.)
Est-ce qu'il se sert de Wikipédia ? De toutes les pages du web ?
On trouve les détails dans le papier sur GPT-3 (le modèle de langage derrière ChatGPT) : je comprends pas tous les détails mais apparemment il y a :
- tout wikipédia anglophone ;
- deux collections de livres numérisés ;
- un corpus appelé webtext basé sur tous les liens likés au moins 3 fois sur reddit ;
- le reste du web indexé par le projet commoncral.
Il y a une pondération entre ces différentes sources en fonction de leur qualité perçue (wikipédia étant plus fiable qu'un truc pris au hasard sur le web) et bien sûr c'est juste la partie textuelle qui est utilisée.
Avatar du membre
axolotl
Messages : 1166
Enregistré le : jeu. 08 sept., 2022 14:19
Mon piano : Hoffman-Bechstein + Yamaha NP-30
Localisation : Paris
Contact :

Re: ChatGPT et la musique

Message par axolotl »

Merci pour ton résumé Numa
Je lui ai demandé comment faisait-on pour rejoindre en métro la station Duroc depuis le M° Anvers et il m'a donné la réponse avec les numéros de ligne et les changements. Cela permet d'envisager chatGPT comme une aide précieuse dans la vie de tous les jours, au lieu de s'abimer les yeux à lire un plan de metro chez soi souvent en petits caractères.
Il fait des fois des erreurs, de petites erreurs comme en math ou en programmation: mais la programmation c'est aléatoire car tout dépend de la version d'OS qu'on utilise. Certaines choses sous Mac étaient valables sous Mojave et ne le sont plus sous Ventura, en Unix par exemple ou sinon nécessitent des add-ons. Mais il indiquera très précisément où les trouver et quoi télécharger avec les liens URL adéquats.
Par contre il manque cruellement de solutions alternatives, surtout en informatique où c'est bien utile parfois... C'est sûr que en informatique surtout ça évite de passer un temps fou à ouvrir des pages sous Google, de confronter les résultats, de faire 10.000 essais avant finalement au bout de 2 heures - je suis optimiste :cry: - de trouver le résultat.
Sur des sujets peu sensibles aux variations comme l'histoire, il présente un résumé succinct fort utile. Évidemment pas question de débattre avec lui pour savoir si la peur de l'an mil a eu toute l'ampleur qu'on lui suppose chez des historiens comme Michelet.
Autre chose: il corrige des fautes de frappe et les interprète tout à fait correctement et les corrige lorsqu'on tape une question, à la différence de l'informatique pure où il faut une syntaxe absolument parfaite pour que l'ordinateur vous comprenne.
Solfège
Messages : 956
Enregistré le : dim. 09 févr., 2020 14:00
Mon piano : Johannus opus 255.kawai novus nv5s p515
Localisation : Le puy en Velay haute Loire

Re: ChatGPT et la musique

Message par Solfège »

Au risque de paraître rétrograde je trouve que ce système qui est sûrement génial au départ me semble également diabolique. Et apparemment je ne serais pas le seul à penser cela. Car que fait on de l'humain avec ses capacités intellectuelles avec sa créativité son imagination enfin tout ce qui fait que l'on a un véritable être humain. C'est la porte ouverte à un appauvrissement de ce qui constitue la culture. C'est juste une constatation personnelle. Il paraît qu'il faut vivre avec son temps. Mais personnellement lorsque j'écris une lettre que je lis un livre ou même lorsque j'improvise à l'orgue j'ai le plaisir de réfléchir et de créer quelque chose par moi même. Et que vont devenir nos enfants avec cette intelligence artificielle?c'est un outil à utiliser avec beaucoup de précautions.
Salutations musicales
Avatar du membre
axolotl
Messages : 1166
Enregistré le : jeu. 08 sept., 2022 14:19
Mon piano : Hoffman-Bechstein + Yamaha NP-30
Localisation : Paris
Contact :

Re: ChatGPT et la musique

Message par axolotl »

non vous ne paraissez pas rétrograde.
C'est sûr qu'il faudra quelque chose comme un comité d'éthique international -une gageure si l'on pense que dans l'Europe chaque pays a des lois différentes surtout comme l'Allemagne- pour veiller à une utilisation "propre" de cette IA.
Deleuze parlait de sociétés de contrôle mais à son époque il visait principalement la génétique je crois me souvenir, avec les premiers clones et le premier fut une brebis je crois... On peut cloner l'être humain mais -à moins qu'on ne le sache pas!-, on ne s'en est pas servi pour créer une armée de serial killers par exemple, preuve que l'homme n'est quand même pas totalement fou, ou pas si fou qu'on croit.

Juste une question: c'est quoi un "véritable être humain" ? Question philosophique certes mais toujours d'actualité.
Comme je ne veux pas déborder sur la politique j'arrête là
Modifié en dernier par axolotl le jeu. 02 mars, 2023 18:03, modifié 2 fois.
Niccolò Messina
Messages : 375
Enregistré le : jeu. 15 oct., 2015 19:25
Mon piano : Roland HP 204
Contact :

Re: ChatGPT et la musique

Message par Niccolò Messina »

Les clones seraient des êtres humains et des sujets de droit, au même titre que les jumeaux !
roulroul2
Messages : 1503
Enregistré le : sam. 02 mai, 2020 23:25
Contact :

Re: ChatGPT et la musique

Message par roulroul2 »

Je trouve autrement plus beau une fanfare de rue, même avec quelques fausse notes, qu'un robot qui va pondre quelque chose de carré au 1000e de seconde près. Même vos compos perso d'ici sont formidables, pas besoin d'aller plus loin. Lui, le robot avec son processeur quatre cœurs va probablement inventer dans la seconde une mélodie qui accroche...Pas besoin comme un cerveau humain de se creuser la tête, de faire plusieurs prises. Comme ça doit être triste d’être une simple machine. De vouloir gagner du temps à tout prix. J'ai choisi mon camp, celui de l'humain, celui de l'imperfection. Le jour ou un robot postera une compo ici, car ça arrivera sans doute un jour, je ne l’écouterais même pas, j'aurais trop peur de perdre mon temps et de m'ennuyer.
Avatar du membre
axolotl
Messages : 1166
Enregistré le : jeu. 08 sept., 2022 14:19
Mon piano : Hoffman-Bechstein + Yamaha NP-30
Localisation : Paris
Contact :

Re: ChatGPT et la musique

Message par axolotl »

Niccolò Messina a écrit : jeu. 02 mars, 2023 15:20 Les clones seraient des êtres humains et des sujets de droit, au même titre que les jumeaux !
Il y a un film de SF avec Scarlett Johansonn, "The Island", où des clones s'évadent d'un système totalitaire et prennent conscience qu'il sont des êtres humains comme les autres et ont les mêmes droits.
On n'en est pas là, fort heureusement: les bidouillages et manipulations génétiques sont -presque partout- très surveillés et encadrés.
Tout le monde -ou presque- a compris le danger de cloner un être humain, enfin j'espère...
Solfège
Messages : 956
Enregistré le : dim. 09 févr., 2020 14:00
Mon piano : Johannus opus 255.kawai novus nv5s p515
Localisation : Le puy en Velay haute Loire

Re: ChatGPT et la musique

Message par Solfège »

@roulroul2. Je suis absolument d'accord avec toi. Une fanfare de rue c'est extraordinaire et il n'y a qu'à voir les gens qui les écoutent. Ils sont tous très contents car c' est synonyme de fêtes et de traditions ancestrales. Et dans les musiciens on voit des jeunes. Et je n'aime pas du tout ces compositions par des I. A. C 'est comme si tu mets de l' eau avec un très bon vin.
@axoloti. Très bonne question. Un véritable être humain c'est indéfinissable car il n'existe sûrement pas philosophiquement parlant. Et d'ailleurs n'ayant jamais étudié la philosophie je n'ai pas la réponse. On pourrait peut-être dire tout simplement quelqu'un de sain de corps et d'esprit mais avec ses qualités et ses défauts. Après il est certain qu'interne est un révolution et qu'il est omniprésent et peut-être un peu trop. Mais c'est un autre débat. Je suis né au milieu des années 50 et il faut dire que les progrès dans tous les domaines sont fulgurants peut être trop pour notre génération. En tout c'est dans le domaine de la culture où c'est peut être le plus intéressant car cela permet de se documenter et à se tenir informé sur beaucoup de choses sans être obligé d' avoir des kilomètres de rayonnage. Après cela permet d'aller chez son libraire ou son magasin commander ce dont on a besoin. Après on peut être un féru d'informatique et s'amuser comme l'on dit certains avec ce fameux chat GPT et rester conscient de ses possibilités et de ne pas l'utiliser à des fins commerciales.
Et maintenant place à la musique avec nos chères partitions papiers.
Salutations musicales
Danaus
Messages : 209
Enregistré le : jeu. 23 déc., 2021 10:04

Re: ChatGPT et la musique

Message par Danaus »

Ce fil est très intéressant et il me suggère quelques remarques.

ChatGpt a des performances ahurissantes dans le domaine du langage aussi bien en production qu’en compréhension c’est d’accord mais :

- ChatGpt à comme base de connaissances des pages WEB et des livres, tous cela écrit par des êtres humains. Si ChatGpt produit des erreurs soit celles-ci étaient présentes dans sa base de connaissances, soit il lui manque certaines notions. Donc les erreurs que l’on constate sont des erreurs humaines.

- ChatGpt est un algorithme, il ne ressent aucune émotion, il calcule froidement. A ce titre ce n’est pas une intelligence.

- ChatGpt n’est pas spécialisé en musique, ni en médecine, ni en dessin, ni en agriculture… Il y a d’autres IA pour cela.

ChatGpt est néanmoins un outil extraordinaire qui facilite notre exploitation d’Internet. On peut ainsi jongler entre les moteurs de recherche, Wikipédia et ChatGpt en utilisant chacun de ces outils selon nos besoins.

Au passage, je saluerais Wikipédia qui est une réalisation extraordinaire faite par des dizaines de milliers d’êtres humains qui collaborent dans un quasi silence depuis plus de 20 ans. Je suis plus admiratif de Wikipédia que de ChatGpt.
Lorsque les sièges basculent, les fondements s'affaissent.
Avatar du membre
axolotl
Messages : 1166
Enregistré le : jeu. 08 sept., 2022 14:19
Mon piano : Hoffman-Bechstein + Yamaha NP-30
Localisation : Paris
Contact :

Re: ChatGPT et la musique

Message par axolotl »

Danaus a écrit : jeu. 02 mars, 2023 17:22 Ce fil est très intéressant et il me suggère quelques remarques.

ChatGpt a des performances ahurissantes dans le domaine du langage aussi bien en production qu’en compréhension c’est d’accord mais :

- ChatGpt à comme base de connaissances des pages WEB et des livres, tous cela écrit par des êtres humains. Si ChatGpt produit des erreurs soit celles-ci étaient présentes dans sa base de connaissances, soit il lui manque certaines notions. Donc les erreurs que l’on constate sont des erreurs humaines.

- ChatGpt est un algorithme, il ne ressent aucune émotion, il calcule froidement. A ce titre ce n’est pas une intelligence.

- ChatGpt n’est pas spécialisé en musique, ni en médecine, ni en dessin, ni en agriculture… Il y a d’autres IA pour cela.

ChatGpt est néanmoins un outil extraordinaire qui facilite notre exploitation d’Internet. On peut ainsi jongler entre les moteurs de recherche, Wikipédia et ChatGpt en utilisant chacun de ces outils selon nos besoins.

Au passage, je saluerais Wikipédia qui est une réalisation extraordinaire faite par des dizaines de milliers d’êtres humains qui collaborent dans un quasi silence depuis plus de 20 ans. Je suis plus admiratif de Wikipédia que de ChatGpt.
Entièrement d'accord avec vous!
S'il y a des erreurs ce sont des erreurs faites par des humains pour diverses raisons: pas les mêmes sources, pas la même avancée technologique surtout si on compare l'Europe avec les Usa et le Japon où ces avancées sont perceptibles dans le quotidien. Le Japon est le premier pays concernant la robotique et ils ont même essayé de faire une présentatrice télé qui présentait le journal de 20H. Je sais pas si c'était réaliste compte tenu du fait que les Japonais -et les Asiatiques en général- sont beaucoup plus réservés que nous et ne montrent pas facilement leurs émotions. Sauf Bruce Lee dans La fureur du Dragon... :lol:
Et in the mood for love où l'héroïne change de robe ce qui indique -ou doit indiquer ce que je crois avoir compris :| - un changement de mood chez elle et une progression des sentiments...
Je me souviens avoir été totalement surpris aux USA au milieu des années 80 qu'on pouvait trouver des navettes aéroport => ville entièrement automatisées, donc sans conducteur. Alors que chez nous on a certes des rames de métro automatiques et bientôt des trains voire des avions mais on n'en est pas encore tout à fait là, à ce point où la technologie intervient directement dans le quotidien à ce point.
Solfège
Messages : 956
Enregistré le : dim. 09 févr., 2020 14:00
Mon piano : Johannus opus 255.kawai novus nv5s p515
Localisation : Le puy en Velay haute Loire

Re: ChatGPT et la musique

Message par Solfège »

Là dessus je suis d'accord que wikipédia est un outil formidable et j'avoue que lorsque je le consulte lorsque je souhaite en savoir un peu plus sur un sujet de même que Google ou autre pour des partitions ou pour me documenter sur un produit. Et effectivement c'est très pratique et je dirais même que si chat GPT est un wikipédia amélioré je serais plus réticent à l'utiliser car je le trouve un peu bizarre et il y a certaines choses comme écrire un lettre ou chercher un lieu que je préfère faire moi même. C'est plus gratifiant. Mais j'avoue que j'aurais appris sur un forum dédié au piano l'existence de chat GPT.
Comme quoi les voies du piano sont impénétrables !!!!???
Salutations musicales
Avatar du membre
celime
Messages : 122
Enregistré le : mer. 29 déc., 2021 17:22
Mon piano : Roland LX706

Re: ChatGPT et la musique

Message par celime »

Ma grande désillusion ici, c'est de comprendre que l'objet de cette discussion est relative à ce qui sera peut-être la future machine à endoctrinement, alors que j'avais d'abord pensé á l'aérophagie des félidés.
Avatar du membre
elenajalan
Messages : 1873
Enregistré le : sam. 21 mars, 2020 17:03
Mon piano : C.Bechstein Millenium 116 - Rameau -FP10
Localisation : Morvan (Bourgogne)

Re: ChatGPT et la musique

Message par elenajalan »

axolotl a écrit : jeu. 02 mars, 2023 16:18 On n'en est pas là, fort heureusement: les bidouillages et manipulations génétiques sont -presque partout- très surveillés et encadrés.
Tout le monde -ou presque- a compris le danger de cloner un être humain, enfin j'espère...
Sans forcément ne vivre que dans un roman de Franck Thilliez, je suis persuadée qu'il existe des labos clandestins avec des expériences borderline, tout comme il existe un darknet...
Solfège a écrit : jeu. 02 mars, 2023 12:17 Au risque de paraître rétrograde je trouve que ce système qui est sûrement génial au départ me semble également diabolique. Et apparemment je ne serais pas le seul à penser cela. Car que fait on de l'humain avec ses capacités intellectuelles avec sa créativité son imagination enfin tout ce qui fait que l'on a un véritable être humain. C'est la porte ouverte à un appauvrissement de ce qui constitue la culture. C'est juste une constatation personnelle. Il paraît qu'il faut vivre avec son temps. Mais personnellement lorsque j'écris une lettre que je lis un livre ou même lorsque j'improvise à l'orgue j'ai le plaisir de réfléchir et de créer quelque chose par moi même. Et que vont devenir nos enfants avec cette intelligence artificielle?c'est un outil à utiliser avec beaucoup de précautions.
Salutations musicales
Je pense comme toi. Non seulement je me méfie de ce leurre qu'est cette fausse baguette magique et qui risque de se retourner contre l'humanité comme un boomerang, mais je pense que quand on s'en rendra compte, on ne pourra plus revenir en arrière. L'être humain va naturellement vers la facilité (j'en sais quelque chose avec les jeunes, mais nous aussi sans auto discipline c'est ce que l'on ferait), et si l'on n'apprend plus à apprendre le goût de l'effort, ni à penser, quitte à griller qqs neurones dans des lectures savantes, qu'espérer d'une humanité qui n'aura plus à faire l'effort de penser, créer, comprendre, synthétiser, remettre en question, et surtout, accepter de ne pas avoir réponse à tout. Donc oui, et tout en pesant mes mots (et pas parce que j'ai dû régler une première histoire de tricherie d'apprentis en (mauvaise) herbe chatGPTistes, puisque mon but principal est de former mes élèves pour qu'à la sortie du collège (et parfois avant, quand ils s'orientent), ils apprennent à être des libres penseurs, capables de réflexion argumentée, quel que soit leur niveau de français, oui, en pesant mes mots, je maintiens qu'avec cette saleté de logiciel, on fait entrer le loup dans la bergerie de l'intelligence humaine.
Modifié en dernier par elenajalan le jeu. 02 mars, 2023 21:08, modifié 1 fois.
Avatar du membre
elenajalan
Messages : 1873
Enregistré le : sam. 21 mars, 2020 17:03
Mon piano : C.Bechstein Millenium 116 - Rameau -FP10
Localisation : Morvan (Bourgogne)

Re: ChatGPT et la musique

Message par elenajalan »

celime a écrit : jeu. 02 mars, 2023 20:48 Ma grande désillusion ici, c'est de comprendre que l'objet de cette discussion est relative à ce qui sera peut-être la future machine à endoctrinement, alors que j'avais d'abord pensé á l'aérophagie des félidés.
Exactement....endoctrinement sourd, continu, silencieux et accepté aveuglément voire goulûment...
Moi aussi j'eusse préféré un Garfield post repas de lasagnes avariées...
Avatar du membre
elenajalan
Messages : 1873
Enregistré le : sam. 21 mars, 2020 17:03
Mon piano : C.Bechstein Millenium 116 - Rameau -FP10
Localisation : Morvan (Bourgogne)

Re: ChatGPT et la musique

Message par elenajalan »

fritz a écrit : lun. 13 févr., 2023 13:43 PS : pratique pour se faire un avatar aussi, j'ai demandé un smiling Chopin photo id :mrgreen:

Image
Je ne connais pas cette appli. Mais ces Chopin-là sont affreux !!! Désolée pour ton avatar... Je préfère le vrai. Même le visage gonflé par la maladie...
Avatar du membre
Numa
Messages : 353
Enregistré le : ven. 26 août, 2022 11:48
Mon piano : Kawai ND-21
Localisation : Marseille

Re: ChatGPT et la musique

Message par Numa »

Danaus a écrit : jeu. 02 mars, 2023 17:22 - ChatGpt à comme base de connaissances des pages WEB et des livres, tous cela écrit par des êtres humains. Si ChatGpt produit des erreurs soit celles-ci étaient présentes dans sa base de connaissances, soit il lui manque certaines notions. Donc les erreurs que l’on constate sont des erreurs humaines.
Non, je ne pense pas que ça soit le cas. Le mécanisme de fonctionnement de ChatGPT ne peut pas garantir que le contenu de ses réponses était dans les sources : ChatGPT peut parfaitement imaginer des choses qui n'existent pas, par exemple quand on lui demande explicitement ; le truc qui n'est pas intuitif c'est que c'est exactement le même processus qui produit les réponses « factuelles ». Dans les deux cas, il produit du texte plausible dans le sens où il est assez similaire au corpus qu'on lui a fait digérer (« similaire » dans un sens pas facile à définir parce que c'est justement un des trucs qu'il apprend tout seul).

C'est un effet de bord, tout à fait souhaitable au demeurant, que dans la plupart des cas plausible/similaire (en partant d'un corpus de bonne qualité) se traduise en factuellement exact. Mais il n'y a quand même aucune garantie que les informations présentes dans le corpus seront correctement retranscrites dans les textes générés, ni que les « informations » présentes dans les réponses proviennent du corpus.

De fait, on trouve plusieurs exemples où ChatGPT a halluciné des trucs qui n'existent pas et qui n'étaient a priori pas présents dans son corpus vu qu'une recherche google dessus ne retourne pas de résultat (à part des gens qui demandent si ça existe et des réponses qui disent que non).
ChatGpt est néanmoins un outil extraordinaire qui facilite notre exploitation d’Internet. On peut ainsi jongler entre les moteurs de recherche, Wikipédia et ChatGpt en utilisant chacun de ces outils selon nos besoins.
Je vois aussi les choses comme ça : on a de plus en plus d'outils qui se complètent à condition de bien connaître leurs qualités et leurs limitations respectives afin de choisir le bon.

Un truc qui est dommage, c'est que ChatGPT est produit par une société privée qui en le rendant public cherche à faire le buzz pour attirer des investisseurs et clients futurs, et a donc une certaine incitation à ne pas forcément documenter toutes les limitations clairement. Pour un truc nouveau qu'il faut apprendre à utiliser à bon escient, et dont les limitations sont souvent peu intuitives, c'est dommage.
Au passage, je saluerais Wikipédia qui est une réalisation extraordinaire faite par des dizaines de milliers d’êtres humains qui collaborent dans un quasi silence depuis plus de 20 ans. Je suis plus admiratif de Wikipédia que de ChatGpt.
Tout à fait. Enfin, en termes d'admiration pure, c'est difficile de comparer : ChatGPT est quand même une sacrée prouesse technique. Mais Wikipédia est un projet collaboratif qui a produit et continu de produire un résultat d'une qualité et d'une utilité inestimable, accessible à tout le monde. Globalement, je ne suis pas trop inquiet quand à notre capacité d'innover techniquement, mais parfois nettement plus par rapport à notre capacité à collaborer pour le bien commun, et de ce point de vue là, c'est clair que Wikipédia donne vachement plus foi en l'humanité :)
Répondre