![](\"https:\/\/oaidalleapiprodscus.blob.core.windows.net\/private\/org-PXteLUy4B6mslwRon6h7ri9z\/user-0jfma6aPNvZyLXZUbw4CmvZG\/img-NqbsxcptcNOuVTtGri6qgbHp.png?st=2024-08-03T10%3A10%3A42Z&se=2024-08-03T12%3A10%3A42Z&sp=r&sv=2023-11-03&sr=b&rscd=inline&rsct=image\/png&skoid=6aaadede-4fb3-4698-a8f6-684d7786b067&sktid=a48cca56-e6da-484e-a814-9c849652bcb3&skt=2024-08-03T07%3A04%3A27Z&ske=2024-08-04T07%3A04%3A27Z&sks=b&skv=2023-11-03&sig=sV64UR5y0Zk3oti9LayLmk95iCIvRD3ORg6fqOt7OAc%3D\")
<\/p>\n<\/p>\n
Les LMN ont d\u00e9montr\u00e9 des capacit\u00e9s impressionnantes dans le traitement des t\u00e2ches complexes de question-r\u00e9ponse, gr\u00e2ce aux avanc\u00e9es dans les architectures de mod\u00e8les et les m\u00e9thodes d’apprentissage. Les techniques comme l’incitation \u00e0 la cha\u00eene de pens\u00e9e (CoT) gagnent en popularit\u00e9 pour am\u00e9liorer l’explication et la pr\u00e9cision des r\u00e9ponses en guidant le mod\u00e8le \u00e0 travers des \u00e9tapes de raisonnement interm\u00e9diaire. Cependant, l’incitation CoT peut entra\u00eener des sorties plus longues, augmentant le temps n\u00e9cessaire pour g\u00e9n\u00e9rer des r\u00e9ponses en raison du processus de d\u00e9codage mot par mot des transformateurs auto-r\u00e9gressifs. Cela pose des d\u00e9fis pour maintenir des conversations interactives, soulignant la n\u00e9cessit\u00e9 de m\u00e9triques pour \u00e9valuer la concision des sorties et de strat\u00e9gies pour r\u00e9duire les cha\u00eenes de raisonnement trop longues.<\/p>\n
Des chercheurs du D\u00e9partement d’Excellence en Robotique et IA de la Scuola Superiore Sant\u2019Anna et Mediavoice Srl ont analys\u00e9 comment la longueur des sorties affecte le temps d’inf\u00e9rence des LMN. Ils ont propos\u00e9 de nouvelles m\u00e9triques pour \u00e9valuer la concision et la correction. Ils ont introduit une strat\u00e9gie de prompt ing\u00e9nierie raffin\u00e9e, la cha\u00eene de pens\u00e9e contrainte (CCoT), qui limite la longueur des sorties pour am\u00e9liorer la pr\u00e9cision et le temps de r\u00e9ponse. Des exp\u00e9riences r\u00e9alis\u00e9es avec LLaMA2-70b sur le dataset GSM8K ont montr\u00e9 que limiter le raisonnement \u00e0 100 mots am\u00e9liore la pr\u00e9cision et r\u00e9duit la longueur des sorties. L’\u00e9tude met en \u00e9vidence la n\u00e9cessit\u00e9 de la bri\u00e8vet\u00e9 dans le raisonnement des LMN et souligne l’efficacit\u00e9 variable de la CCoT selon la taille des mod\u00e8les.<\/p>\n
Les r\u00e9centes recherches sur les LMN se sont concentr\u00e9es sur l’am\u00e9lioration de la pr\u00e9cision, conduisant souvent \u00e0 des r\u00e9ponses plus longues et d\u00e9taill\u00e9es. Ces sorties \u00e9tendues peuvent provoquer des hallucinations, o\u00f9 le mod\u00e8le g\u00e9n\u00e8re des informations plausibles mais incorrectes, et des explications trop longues qui obscurcissent les informations cl\u00e9s. Diverses techniques de prompt ing\u00e9nierie ont \u00e9t\u00e9 d\u00e9velopp\u00e9es pour y faire face, y compris l’incitation CoT, qui am\u00e9liore le raisonnement mais augmente le temps de r\u00e9ponse. L’\u00e9tude introduit des m\u00e9triques pour \u00e9valuer \u00e0 la fois la concision et la correction et propose une approche CoT raffin\u00e9e, CCoT, pour contr\u00f4ler la longueur des sorties tout en maintenant la qualit\u00e9.<\/p>\n
Le temps de g\u00e9n\u00e9ration des sorties des LMN est influenc\u00e9 par des facteurs tels que l’architecture du mod\u00e8le, le pr\u00e9traitement, le d\u00e9codage et le prompt utilis\u00e9. Les sorties plus longues augmentent g\u00e9n\u00e9ralement le temps de r\u00e9ponse en raison de la nature it\u00e9rative des mod\u00e8les auto-r\u00e9gressifs. Les tests sur divers mod\u00e8les (Falcon-7b\/40b, Llama2-7b\/70b) ont montr\u00e9 qu’\u00e0 mesure que la longueur des sorties augmente, le temps de g\u00e9n\u00e9ration augmente \u00e9galement. L’incitation CoT, qui am\u00e9liore la correction des r\u00e9ponses, allonge \u00e9galement les sorties et les temps de g\u00e9n\u00e9ration. Pour y rem\u00e9dier, une approche CCoT est propos\u00e9e, limitant la longueur des sorties tout en maintenant la pr\u00e9cision, r\u00e9duisant efficacement le temps de g\u00e9n\u00e9ration.<\/p>\n
Les exp\u00e9riences \u00e9valuent l’efficacit\u00e9 de l’approche CCoT par rapport \u00e0 la CoT classique, en se concentrant sur l’efficacit\u00e9, la pr\u00e9cision et la capacit\u00e9 \u00e0 contr\u00f4ler la longueur des sorties. En utilisant le dataset GSM8K, divers LMN (par exemple, Llama2-70b, Falcon-40b) ont \u00e9t\u00e9 test\u00e9s. Les r\u00e9sultats montrent que la CCoT r\u00e9duit le temps de g\u00e9n\u00e9ration et peut am\u00e9liorer ou maintenir la pr\u00e9cision. L’\u00e9tude introduit \u00e9galement de nouvelles m\u00e9triques (HCA, SCA, CCA) pour \u00e9valuer la performance des mod\u00e8les, en tenant compte de la correction et de la concision. Les mod\u00e8les plus grands comme le Llama2-70b b\u00e9n\u00e9ficient davantage de la CCoT, tandis que les plus petits mod\u00e8les rencontrent des difficult\u00e9s \u00e0 r\u00e9pondre aux contraintes de longueur. La CCoT montre une efficacit\u00e9 et une pr\u00e9cision concises am\u00e9lior\u00e9es, en particulier pour les LMN plus grands.<\/p>\n
En conclusion, l’\u00e9tude met en avant l’importance de la concision dans la g\u00e9n\u00e9ration de texte par les LMN et introduit la CCoT comme technique de prompt ing\u00e9nierie pour contr\u00f4ler la longueur des sorties. Les exp\u00e9riences montrent que les mod\u00e8les plus grands comme le Llama2-70b et le Falcon-40b b\u00e9n\u00e9ficient de la CCoT, mais les mod\u00e8les plus petits ont des difficult\u00e9s \u00e0 respecter les contraintes de longueur. L’\u00e9tude propose \u00e9galement de nouvelles m\u00e9triques pour \u00e9valuer l’\u00e9quilibre entre concision et correction. Les recherches futures exploreront l’int\u00e9gration de ces m\u00e9triques dans l’affinage des mod\u00e8les et examineront comment la concision impacte les ph\u00e9nom\u00e8nes comme les hallucinations ou les raisonnements incorrects dans les LMN.<\/p>\n","protected":false},"excerpt":{"rendered":"
Les LMN ont d\u00e9montr\u00e9 des capacit\u00e9s impressionnantes dans le traitement des t\u00e2ches complexes de question-r\u00e9ponse, gr\u00e2ce aux avanc\u00e9es dans les architectures de mod\u00e8les et les m\u00e9thodes d’apprentissage. Les techniques comme l’incitation \u00e0 la cha\u00eene de pens\u00e9e (CoT) gagnent en popularit\u00e9 pour am\u00e9liorer l’explication et la pr\u00e9cision des r\u00e9ponses en guidant le mod\u00e8le \u00e0 travers des […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-208","post","type-post","status-publish","format-standard","hentry","category-uncategorized"],"yoast_head":"\n