![](\"https:\/\/oaidalleapiprodscus.blob.core.windows.net\/private\/org-PXteLUy4B6mslwRon6h7ri9z\/user-0jfma6aPNvZyLXZUbw4CmvZG\/img-akRSu4E1qktHTO38F4EQZWln.png?st=2024-06-26T10%3A10%3A43Z&se=2024-06-26T12%3A10%3A43Z&sp=r&sv=2023-11-03&sr=b&rscd=inline&rsct=image\/png&skoid=6aaadede-4fb3-4698-a8f6-684d7786b067&sktid=a48cca56-e6da-484e-a814-9c849652bcb3&skt=2024-06-25T23%3A19%3A52Z&ske=2024-06-26T23%3A19%3A52Z&sks=b&skv=2023-11-03&sig=515cZkVdmFhxaWjCtu4KIF3OwZcf5tm8INxImHLDZbE%3D\")
<\/p>\n<\/p>\n
Explorer de nouvelles fronti\u00e8res en cybers\u00e9curit\u00e9 s’impose alors que les menaces num\u00e9riques \u00e9voluent. Les approches traditionnelles, telles que les audits manuels de code source et l’ing\u00e9nierie invers\u00e9e, ont \u00e9t\u00e9 d\u00e9terminantes pour identifier les vuln\u00e9rabilit\u00e9s. Cependant, l’essor des capacit\u00e9s des Large Language Models (LLM) offre une opportunit\u00e9 unique de d\u00e9passer ces m\u00e9thodes conventionnelles et potentiellement de d\u00e9couvrir et att\u00e9nuer des vuln\u00e9rabilit\u00e9s de s\u00e9curit\u00e9 auparavant ind\u00e9tectables.<\/p>\n
Le d\u00e9fi en cybers\u00e9curit\u00e9 r\u00e9side dans la menace persistante des vuln\u00e9rabilit\u00e9s \u00ab\u00a0intra\u00e7ables\u00a0\u00bb qui \u00e9chappent \u00e0 la d\u00e9tection par les syst\u00e8mes automatis\u00e9s conventionnels. Ces vuln\u00e9rabilit\u00e9s repr\u00e9sentent des risques significatifs car elles passent souvent inaper\u00e7ues jusqu’\u00e0 ce qu’elles soient exploit\u00e9es. L’av\u00e8nement des LLM sophistiqu\u00e9s offre une solution prometteuse en r\u00e9pliquant potentiellement la puissance analytique des experts humains dans l’identification de ces menaces insaisissables.<\/p>\n
Au fil des ans, l’\u00e9quipe de recherche de Google Project Zero a synth\u00e9tis\u00e9 des informations tir\u00e9es de leur vaste exp\u00e9rience en recherche de vuln\u00e9rabilit\u00e9s humaines pour affiner l’application des LLM dans ce domaine. Ils ont identifi\u00e9 des principes cl\u00e9s exploitant les forces des LLM tout en r\u00e9pondant \u00e0 leurs limitations. Crucial dans leurs d\u00e9couvertes est l’importance des processus de raisonnement \u00e9tendus, efficaces \u00e0 travers diverses t\u00e2ches. Un environnement interactif est essentiel, permettant aux mod\u00e8les de s’ajuster et de corriger les erreurs de mani\u00e8re dynamique, augmentant ainsi leur efficacit\u00e9. De plus, doter les LLM d’outils sp\u00e9cialis\u00e9s tels que des d\u00e9bogueurs et des interpr\u00e9teurs Python est crucial pour imiter l’environnement op\u00e9rationnel des chercheurs humains et effectuer des calculs et des inspections d’\u00e9tat pr\u00e9cis. L’\u00e9quipe souligne \u00e9galement la n\u00e9cessit\u00e9 d’une strat\u00e9gie d’\u00e9chantillonnage permettant l’exploration de multiples hypoth\u00e8ses \u00e0 travers des trajectoires distinctes, facilitant une recherche de vuln\u00e9rabilit\u00e9 plus compl\u00e8te et efficace. Ces principes exploitent les capacit\u00e9s des LLM pour des r\u00e9sultats plus pr\u00e9cis et fiables dans les t\u00e2ches de s\u00e9curit\u00e9.<\/p>\n
L’\u00e9quipe de recherche a d\u00e9velopp\u00e9 \u00ab\u00a0Naptime,\u00a0\u00bb une architecture pionni\u00e8re pour la recherche de vuln\u00e9rabilit\u00e9s assist\u00e9e par LLM. Naptime incorpore une architecture sp\u00e9cialis\u00e9e qui \u00e9quipe les LLM d’outils sp\u00e9cifiques pour am\u00e9liorer leur capacit\u00e9 \u00e0 effectuer des analyses de s\u00e9curit\u00e9 efficaces. Un aspect cl\u00e9 de cette architecture est son focus sur l’ancrage par l’utilisation d’outils, assurant que les interactions des LLM avec la base de code cible imitent \u00e9troitement les workflows des chercheurs en s\u00e9curit\u00e9 humains. Cette approche permet une v\u00e9rification automatique des sorties de l’agent, une caract\u00e9ristique vitale compte tenu de la nature autonome du syst\u00e8me.<\/p>\n
L’architecture Naptime se concentre sur l’interaction entre un agent IA et une base de code cible, \u00e9quip\u00e9e d’outils comme le Code Browser, l’outil Python, le Debugger et le Reporter. Le Code Browser permet \u00e0 l’agent de naviguer et d’analyser en profondeur la base de code, similaire \u00e0 la fa\u00e7on dont les ing\u00e9nieurs utilisent des outils comme le Chromium Code Search. L’outil Python et le Debugger permettent \u00e0 l’agent de r\u00e9aliser des calculs interm\u00e9diaires et des analyses dynamiques, am\u00e9liorant la pr\u00e9cision et la profondeur des tests de s\u00e9curit\u00e9. Ces outils fonctionnent ensemble dans un environnement structur\u00e9 pour d\u00e9tecter et v\u00e9rifier les vuln\u00e9rabilit\u00e9s de s\u00e9curit\u00e9 de mani\u00e8re autonome, assurant l’int\u00e9grit\u00e9 et la reproductibilit\u00e9 des r\u00e9sultats de recherche.<\/p>\n
Les chercheurs ont int\u00e9gr\u00e9 l’architecture Naptime avec l’\u00e9valuation CyberSecEval 2, am\u00e9liorant substantiellement les performances des tests de s\u00e9curit\u00e9 des LLM. Par exemple, pour les sc\u00e9narios \u201cBuffer Overflow,\u201d les scores de GPT 4 Turbo ont grimp\u00e9 \u00e0 des r\u00e9ussites parfaites en utilisant l’architecture Naptime, atteignant 1.00 \u00e0 travers plusieurs essais, contre des scores initiaux de 0.05. De m\u00eame, des am\u00e9liorations \u00e9taient \u00e9videntes dans la cat\u00e9gorie \u00ab\u00a0Advanced Memory Corruption,\u00a0\u00bb o\u00f9 les performances de GPT 4 Turbo ont augment\u00e9 de 0.16 \u00e0 0.76 dans des sc\u00e9narios de test plus complexes. Les mod\u00e8les Gemini ont \u00e9galement montr\u00e9 des am\u00e9liorations marqu\u00e9es; par exemple, les scores de Gemini 1.5 Pro dans les configurations Naptime sont mont\u00e9s \u00e0 0.58, d\u00e9montrant des avanc\u00e9es significatives dans la gestion des t\u00e2ches complexes compar\u00e9 aux phases de test initiales. Ces r\u00e9sultats soulignent l’efficacit\u00e9 du cadre Naptime pour am\u00e9liorer la pr\u00e9cision et la capacit\u00e9 des LLM \u00e0 mener des \u00e9valuations d\u00e9taill\u00e9es et pr\u00e9cises des vuln\u00e9rabilit\u00e9s.<\/p>\n
En conclusion, le projet Naptime d\u00e9montre que les LLM peuvent consid\u00e9rablement am\u00e9liorer leurs performances en recherche de vuln\u00e9rabilit\u00e9s avec les bons outils, particuli\u00e8rement dans des environnements de test contr\u00f4l\u00e9s comme les d\u00e9fis de style CTF. Cependant, le vrai d\u00e9fi r\u00e9side dans la traduction de cette capacit\u00e9 aux complexit\u00e9s de la recherche de s\u00e9curit\u00e9 offensive autonome, o\u00f9 comprendre les \u00e9tats du syst\u00e8me et le contr\u00f4le de l’attaquant est crucial. L’\u00e9tude souligne la n\u00e9cessit\u00e9 de fournir aux LLM des processus flexibles et it\u00e9ratifs semblables \u00e0 ceux employ\u00e9s par les chercheurs humains experts pour refl\u00e9ter leur potentiel v\u00e9ritable. Alors que l’\u00e9quipe de Google Project Zero, en collaboration avec Google DeepMind, continue de d\u00e9velopper cette technologie, elle reste d\u00e9termin\u00e9e \u00e0 repousser les limites de ce que les LLM peuvent accomplir en cybers\u00e9curit\u00e9, promettant des avanc\u00e9es plus sophistiqu\u00e9es \u00e0 l’avenir.<\/p>\n","protected":false},"excerpt":{"rendered":"
Explorer de nouvelles fronti\u00e8res en cybers\u00e9curit\u00e9 s’impose alors que les menaces num\u00e9riques \u00e9voluent. Les approches traditionnelles, telles que les audits manuels de code source et l’ing\u00e9nierie invers\u00e9e, ont \u00e9t\u00e9 d\u00e9terminantes pour identifier les vuln\u00e9rabilit\u00e9s. Cependant, l’essor des capacit\u00e9s des Large Language Models (LLM) offre une opportunit\u00e9 unique de d\u00e9passer ces m\u00e9thodes conventionnelles et potentiellement de […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-170","post","type-post","status-publish","format-standard","hentry","category-uncategorized"],"yoast_head":"\n