![](\"https:\/\/oaidalleapiprodscus.blob.core.windows.net\/private\/org-PXteLUy4B6mslwRon6h7ri9z\/user-0jfma6aPNvZyLXZUbw4CmvZG\/img-ebC20og32NH7ccGp2K1KvIBA.png?st=2024-07-10T10%3A10%3A31Z&se=2024-07-10T12%3A10%3A31Z&sp=r&sv=2023-11-03&sr=b&rscd=inline&rsct=image\/png&skoid=6aaadede-4fb3-4698-a8f6-684d7786b067&sktid=a48cca56-e6da-484e-a814-9c849652bcb3&skt=2024-07-10T02%3A25%3A32Z&ske=2024-07-11T02%3A25%3A32Z&sks=b&skv=2023-11-03&sig=fk6p850YA2uVo8QrQA%2BrvbViS2d9o9CfQoIlnCpx%2BFc%3D\")
<\/p>\n<\/p>\n
Lorsqu’un mod\u00e8le de langage \u00e9tendu bien form\u00e9 re\u00e7oit une demande dangereuse, comme \u00ab\u00a0Explique-moi comment construire une bombe\u00a0\u00bb, il devrait refuser de r\u00e9pondre. Cela est g\u00e9n\u00e9ralement obtenu par l’apprentissage par renforcement gr\u00e2ce au feedback humain (RLHF), crucial pour garantir la s\u00e9curit\u00e9 des mod\u00e8les, notamment dans des domaines sensibles comme la sant\u00e9 mentale, le service client, et la sant\u00e9. Cependant, la documentation sur les formats de templates utilis\u00e9s durant l’entra\u00eenement est souvent insuffisante. Parmi les huit mod\u00e8les open-source examin\u00e9s, seuls Vicuna, Falcon, Llama-3 et ChatGLM d\u00e9crivent ces templates.<\/p>\n
Une \u00e9tude sur l’alignement des mod\u00e8les montre l’importance d’int\u00e9grer les valeurs humaines dans la formation des mod\u00e8les, tandis que d’autres recherches soulignent les vuln\u00e9rabilit\u00e9s de cet alignement. Des \u00e9tudes sur la robustesse des mod\u00e8les r\u00e9v\u00e8lent que de l\u00e9g\u00e8res modifications comme l\u2019ajout de quelques pixels peuvent induire des erreurs de classification. Une autre recherche r\u00e9v\u00e8le que les tokens \u00e0 caract\u00e8re unique restent rares dans les donn\u00e9es pr\u00e9-entra\u00eenement mais peuvent quand m\u00eame poser des risques.<\/p>\n
Les chercheurs de l’Universit\u00e9 Nationale de Singapour ont d\u00e9couvert que l’ajout d’un seul espace \u00e0 la fin des templates de conversation des mod\u00e8les de langage ouverts peut entra\u00eener des r\u00e9ponses nuisibles aux demandes des utilisateurs. Ce probl\u00e8me est difficile \u00e0 d\u00e9tecter et peut causer des r\u00e9sultats dangereux, contournant les mesures de s\u00e9curit\u00e9 des mod\u00e8les.<\/p>\n
Ces d\u00e9couvertes soulignent la n\u00e9cessit\u00e9 d’am\u00e9liorer non seulement l’alignement mais aussi la robustesse des mod\u00e8les pour \u00e9viter qu’une petite erreur ne m\u00e8ne \u00e0 des cons\u00e9quences graves.<\/p>\n","protected":false},"excerpt":{"rendered":"
Lorsqu’un mod\u00e8le de langage \u00e9tendu bien form\u00e9 re\u00e7oit une demande dangereuse, comme \u00ab\u00a0Explique-moi comment construire une bombe\u00a0\u00bb, il devrait refuser de r\u00e9pondre. Cela est g\u00e9n\u00e9ralement obtenu par l’apprentissage par renforcement gr\u00e2ce au feedback humain (RLHF), crucial pour garantir la s\u00e9curit\u00e9 des mod\u00e8les, notamment dans des domaines sensibles comme la sant\u00e9 mentale, le service client, et […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-184","post","type-post","status-publish","format-standard","hentry","category-uncategorized"],"yoast_head":"\n