![](\"https:\/\/oaidalleapiprodscus.blob.core.windows.net\/private\/org-PXteLUy4B6mslwRon6h7ri9z\/user-0jfma6aPNvZyLXZUbw4CmvZG\/img-V67vgmBPzcWEbrXUH0rp7wDw.png?st=2024-06-12T10%3A10%3A58Z&se=2024-06-12T12%3A10%3A58Z&sp=r&sv=2023-11-03&sr=b&rscd=inline&rsct=image\/png&skoid=6aaadede-4fb3-4698-a8f6-684d7786b067&sktid=a48cca56-e6da-484e-a814-9c849652bcb3&skt=2024-06-11T18%3A42%3A20Z&ske=2024-06-12T18%3A42%3A20Z&sks=b&skv=2023-11-03&sig=suBIXHP41bxXA5JIh7Xslv7MHdDAIjmDx7s4S0vqoNY%3D\")
<\/p>\n<\/p>\n
Les mod\u00e8les de langage de grande taille (LLM) peuvent induire les utilisateurs en erreur en fournissant des informations incorrectes avec une grande confiance, ph\u00e9nom\u00e8ne appel\u00e9 hallucination. Cette d\u00e9sinformation confiante peut convaincre les gens de prendre des d\u00e9cisions bas\u00e9es sur des suppositions erron\u00e9es, entra\u00eenant des cons\u00e9quences n\u00e9gatives.<\/p>\n
Pour r\u00e9gler ce probl\u00e8me, une solution potentielle serait que les LLM indiquent clairement la probabilit\u00e9 de v\u00e9racit\u00e9 de leurs assertions. Les mod\u00e8les actuels ne produisent pas d’\u00e9critures longues avec des affirmations de confiance calibr\u00e9es.<\/p>\n
Une \u00e9quipe de chercheurs de Stanford propose un cadre d’entra\u00eenement en deux \u00e9tapes pour la calibration linguistique :<\/p>\n
1. **Apprentissage supervis\u00e9** : que le LLM produise du contenu longue avec des d\u00e9clarations de confiance int\u00e9gr\u00e9es.
\n2. **Apprentissage par renforcement** : affiner davantage le mod\u00e8le pour fournir des r\u00e9ponses calibr\u00e9es.<\/p>\n
Ce cadre a \u00e9t\u00e9 test\u00e9 avec Llama 2 7B, montrant des am\u00e9liorations notables en calibration sans sacrifier la pr\u00e9cision, valid\u00e9es par des \u00e9valuations automatiques et humaines. Le mod\u00e8le calibr\u00e9 reste performant m\u00eame en dehors de son domaine d’origine, comme pour \u00e9crire des biographies et r\u00e9pondre \u00e0 des questions scientifiques.<\/p>\n
Les contributions principales de cette recherche sont les suivantes :<\/p>\n
1. D\u00e9finition de la calibration linguistique pour des g\u00e9n\u00e9rations longue formant des projections probabilistes pr\u00e9cises.
\n2. D\u00e9veloppement d’un cadre en deux \u00e9tapes : finetuning supervis\u00e9 et apprentissage par renforcement.
\n3. Application \u00e0 Llama 2 7B, offrant une meilleure calibration tout en pr\u00e9servant l’exactitude.
\n4. Maintien des performances hors domaine initial.
\n5. Utilisation de m\u00e9thodes de notation appropri\u00e9es pour une calibration de bout en bout efficace durant la prise de d\u00e9cision.<\/p>\n
Pour plus d’informations, consultez l’article original sur arxiv.org.<\/p>\n","protected":false},"excerpt":{"rendered":"
Les mod\u00e8les de langage de grande taille (LLM) peuvent induire les utilisateurs en erreur en fournissant des informations incorrectes avec une grande confiance, ph\u00e9nom\u00e8ne appel\u00e9 hallucination. Cette d\u00e9sinformation confiante peut convaincre les gens de prendre des d\u00e9cisions bas\u00e9es sur des suppositions erron\u00e9es, entra\u00eenant des cons\u00e9quences n\u00e9gatives. Pour r\u00e9gler ce probl\u00e8me, une solution potentielle serait que […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-156","post","type-post","status-publish","format-standard","hentry","category-uncategorized"],"yoast_head":"\n