ChatGPT "mémorise" des poèmes et les reproduit intégralement
Demandez à ChatGPT de rechercher un poème célèbre, et il y a de fortes chances qu'il restitue l'intégralité du texte, sans se préoccuper des droits d'auteur, comme le révèle une récente étude menée par des chercheurs de l'université américaine de Cornell.
Des experts en informatique se sont penchés sur la capacité des modèles de langage, tels que ChatGPT, à réciter des poèmes, en particulier des poèmes célèbres que l'on trouve en ligne.
Ils ont constaté que ces modèles étaient capables de les mémoriser, soulevant ainsi des questions éthiques quant à la manière dont ils ont été formés.
L'auteure principale de l'étude, Lyra D'Souza, a testé plusieurs LLM, dont ChatGPT. Ce dernier a réussi à restituer 72 des 240 poèmes, tandis que d'autres modèles ont obtenu des résultats moins concluants.
Bien que l'étude se soit concentrée sur les poètes américains, les chercheurs envisagent d'étendre leurs recherches pour évaluer comment les chatbots répondent aux demandes dans différentes langues.
OpenAI, dans le cadre des accusations portées contre lui par le New York Times, a reconnu qu'il existe un problème de «régurgitation» dans lequel ses modèles reproduisent involontairement du contenu dans son intégralité. L'entreprise travaille activement pour réduire ce problème à zéro.