![](\"https:\/\/oaidalleapiprodscus.blob.core.windows.net\/private\/org-PXteLUy4B6mslwRon6h7ri9z\/user-0jfma6aPNvZyLXZUbw4CmvZG\/img-5Kcjd6oGSMWzQ5JpZyXnbSnn.png?st=2024-06-20T10%3A10%3A34Z&se=2024-06-20T12%3A10%3A34Z&sp=r&sv=2023-11-03&sr=b&rscd=inline&rsct=image\/png&skoid=6aaadede-4fb3-4698-a8f6-684d7786b067&sktid=a48cca56-e6da-484e-a814-9c849652bcb3&skt=2024-06-19T22%3A22%3A36Z&ske=2024-06-20T22%3A22%3A36Z&sks=b&skv=2023-11-03&sig=jWEtyRotCYjuWO9%2BRIqNqPLTLrjWfJDUDIQPBQUkqxA%3D\")
<\/p>\n<\/p>\n
Together AI a r\u00e9cemment marqu\u00e9 un pas en avant significatif en IA en introduisant la m\u00e9thode innovante Mixture of Agents (MoA), baptis\u00e9e Together MoA. Ce mod\u00e8le r\u00e9volutionnaire exploite les forces combin\u00e9es de plusieurs grands mod\u00e8les de langage (LLM) pour \u00e9lever la qualit\u00e9 et les performances \u00e0 de nouveaux sommets.<\/p>\n
La MoA utilise une architecture en couches, chaque couche \u00e9tant constitu\u00e9e de plusieurs agents LLM. Les agents exploitent les sorties de la couche pr\u00e9c\u00e9dente comme informations auxiliaires pour g\u00e9n\u00e9rer des r\u00e9ponses raffin\u00e9es. Cette approche permet \u00e0 MoA d’int\u00e9grer des capacit\u00e9s et des perspectives vari\u00e9es, produisant un mod\u00e8le plus robuste et polyvalent. Cette innovation a r\u00e9ussi \u00e0 obtenir un score impressionnant de 65,1 % sur le benchmark AlpacaEval 2.0, d\u00e9passant l\u2019ancien leader, GPT-4o, qui avait obtenu 57,5 %.<\/p>\n
Le concept central de d\u00e9veloppement de MoA repose sur la \u00ab\u00a0collaborativit\u00e9\u00a0\u00bb entre les LLM. Les mod\u00e8les collaborent en cat\u00e9gorisant les agents en \u00ab\u00a0proposants\u00a0\u00bb et \u00ab\u00a0agr\u00e9gateurs.\u00a0\u00bb Les proposants g\u00e9n\u00e8rent des r\u00e9ponses initiales diversifi\u00e9es, tandis que les agr\u00e9gateurs synth\u00e9tisent ces r\u00e9ponses pour produire des r\u00e9sultats de haute qualit\u00e9. Ce processus it\u00e9ratif se poursuit \u00e0 travers plusieurs couches jusqu’\u00e0 l\u2019obtention d\u2019une r\u00e9ponse compl\u00e8te et affin\u00e9e.<\/p>\n
Le framework Together MoA a \u00e9t\u00e9 test\u00e9 sur de multiples benchmarks, dont AlpacaEval 2.0, MT-Bench et FLASK. Les r\u00e9sultats sont impressionnants, avec MoA atteignant des positions de premier plan sur les classements AlpacaEval 2.0 et MT-Bench. Fait notable, MoA a am\u00e9lior\u00e9 de 7,6 % le score de GPT-4o sur AlpacaEval 2.0, d\u00e9montrant les performances sup\u00e9rieures des mod\u00e8les open-source compar\u00e9 \u00e0 ceux ferm\u00e9s.<\/p>\n
C\u00f4t\u00e9 co\u00fbt, Together MoA se distingue par son efficacit\u00e9. La configuration MoA-Lite offre un \u00e9quilibre optimal entre co\u00fbt et performance, obtenant des r\u00e9sultats de haute qualit\u00e9 \u00e0 un co\u00fbt raisonnable.<\/p>\n
La r\u00e9ussite de MoA est attribu\u00e9e aux efforts collaboratifs de diverses organisations de la communaut\u00e9 open-source, comme Meta AI, Mistral AI, Microsoft, Alibaba Cloud et DataBricks. Leurs contributions avec des mod\u00e8les comme Meta Llama 3 et WizardLM ont \u00e9t\u00e9 d\u00e9terminantes. Les benchmarks d\u00e9velopp\u00e9s par Tatsu Labs, LMSYS, et KAIST AI ont \u00e9galement jou\u00e9 un r\u00f4le crucial dans l\u2019\u00e9valuation des performances de MoA.<\/p>\n
\u00c0 l’avenir, Together AI pr\u00e9voit d’optimiser davantage l’architecture MoA en explorant diverses configurations et prompts. Une priorit\u00e9 sera de r\u00e9duire la latence pour le premier token, afin d\u2019am\u00e9liorer les capacit\u00e9s de raisonnement de MoA.<\/p>\n
En somme, Together MoA constitue un progr\u00e8s significatif dans l’intelligence collective des mod\u00e8les open-source. Son approche par couches et son ethos collaboratif d\u00e9montrent le potentiel d’\u00e9volution des syst\u00e8mes d\u2019IA pour des performances plus robustes et align\u00e9es avec le raisonnement humain. La communaut\u00e9 IA attend avec impatience l’\u00e9volution continue de cette technologie r\u00e9volutionnaire.<\/p>\n","protected":false},"excerpt":{"rendered":"
Together AI a r\u00e9cemment marqu\u00e9 un pas en avant significatif en IA en introduisant la m\u00e9thode innovante Mixture of Agents (MoA), baptis\u00e9e Together MoA. Ce mod\u00e8le r\u00e9volutionnaire exploite les forces combin\u00e9es de plusieurs grands mod\u00e8les de langage (LLM) pour \u00e9lever la qualit\u00e9 et les performances \u00e0 de nouveaux sommets. La MoA utilise une architecture en […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-164","post","type-post","status-publish","format-standard","hentry","category-uncategorized"],"yoast_head":"\n