![](\"https:\/\/oaidalleapiprodscus.blob.core.windows.net\/private\/org-PXteLUy4B6mslwRon6h7ri9z\/user-0jfma6aPNvZyLXZUbw4CmvZG\/img-1SPThINiFyeyhE21XO1SdIcc.png?st=2024-05-25T12%3A45%3A24Z&se=2024-05-25T14%3A45%3A24Z&sp=r&sv=2021-08-06&sr=b&rscd=inline&rsct=image\/png&skoid=6aaadede-4fb3-4698-a8f6-684d7786b067&sktid=a48cca56-e6da-484e-a814-9c849652bcb3&skt=2024-05-25T10%3A26%3A12Z&ske=2024-05-26T10%3A26%3A12Z&sks=b&skv=2021-08-06&sig=w1V94f7gDzpUpxPc\/clffit7o\/J9873vPRfnv743EWM%3D\")
<\/p>\n<\/p>\n
La prolif\u00e9ration des mod\u00e8les d’apprentissage automatique (AA) dans des applications soci\u00e9tales critiques soul\u00e8ve des pr\u00e9occupations quant \u00e0 l’\u00e9quit\u00e9 et la transparence. Les d\u00e9cisions biais\u00e9es ont cr\u00e9\u00e9 une m\u00e9fiance croissante parmi les consommateurs soumis aux d\u00e9cisions bas\u00e9es sur l’AA. Pour rem\u00e9dier \u00e0 cette situation et renforcer la confiance des consommateurs, il est urgent de d\u00e9velopper des technologies permettant la v\u00e9rification publique des propri\u00e9t\u00e9s d’\u00e9quit\u00e9 de ces mod\u00e8les.<\/p>\n
Cependant, les contraintes l\u00e9gales et de confidentialit\u00e9 emp\u00eachent souvent les organisations de divulguer leurs mod\u00e8les, rendant la v\u00e9rification difficile et pouvant entra\u00eener des comportements d\u00e9loyaux, tels que le remplacement inappropri\u00e9 de mod\u00e8les. Pour r\u00e9pondre \u00e0 ces d\u00e9fis, des chercheurs de Stanford et UCSD ont propos\u00e9 un syst\u00e8me nomm\u00e9 FairProof. Celui-ci comprend un algorithme de certification de l’\u00e9quit\u00e9 et un protocole cryptographique. L’algorithme \u00e9value l’\u00e9quit\u00e9 du mod\u00e8le \u00e0 un point de donn\u00e9es sp\u00e9cifique en utilisant une m\u00e9trique appel\u00e9e \u00e9quit\u00e9 individuelle locale (IF).<\/p>\n
Cette approche permet d\u2019\u00e9mettre des certificats personnalis\u00e9s pour les clients individuels, id\u00e9ale pour les organisations orient\u00e9es vers les consommateurs. De plus, l’algorithme est con\u00e7u pour \u00eatre ind\u00e9pendant de la cha\u00eene de formation, assurant ainsi son applicabilit\u00e9 \u00e0 divers mod\u00e8les et ensembles de donn\u00e9es. <\/p>\n
La certification de l’IF locale est r\u00e9alis\u00e9e en utilisant des techniques issues de la litt\u00e9rature sur la robustesse, tout en assurant la compatibilit\u00e9 avec les preuves \u00e0 divulgation nulle de connaissance (ZKPs), permettant de v\u00e9rifier les d\u00e9clarations sur des donn\u00e9es priv\u00e9es sans r\u00e9v\u00e9ler les pond\u00e9rations des mod\u00e8les.<\/p>\n
Pour rendre le processus efficace sur le plan computationnel, un protocole ZKP sp\u00e9cialis\u00e9 est mis en \u0153uvre, r\u00e9duisant de mani\u00e8re strat\u00e9gique la charge computationnelle gr\u00e2ce \u00e0 des calculs hors ligne et \u00e0 l’optimisation de sous-fonctionnalit\u00e9s. En outre, l’uniformit\u00e9 des mod\u00e8les est assur\u00e9e via des engagements cryptographiques, o\u00f9 les organisations s’engagent publiquement sur les pond\u00e9rations de leurs mod\u00e8les tout en les gardant confidentielles. Cette approche, largement \u00e9tudi\u00e9e dans la litt\u00e9rature sur la s\u00e9curit\u00e9 de l’AA, garantit transparence et responsabilit\u00e9 tout en prot\u00e9geant les informations sensibles des mod\u00e8les.<\/p>\n
En combinant la certification de l’\u00e9quit\u00e9 avec des protocoles cryptographiques, FairProof offre une solution globale aux pr\u00e9occupations d’\u00e9quit\u00e9 et de transparence dans les prises de d\u00e9cision bas\u00e9es sur l’AA, favorisant une plus grande confiance parmi les consommateurs et les parties prenantes.<\/p>\n","protected":false},"excerpt":{"rendered":"
La prolif\u00e9ration des mod\u00e8les d’apprentissage automatique (AA) dans des applications soci\u00e9tales critiques soul\u00e8ve des pr\u00e9occupations quant \u00e0 l’\u00e9quit\u00e9 et la transparence. Les d\u00e9cisions biais\u00e9es ont cr\u00e9\u00e9 une m\u00e9fiance croissante parmi les consommateurs soumis aux d\u00e9cisions bas\u00e9es sur l’AA. Pour rem\u00e9dier \u00e0 cette situation et renforcer la confiance des consommateurs, il est urgent de d\u00e9velopper des […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-73","post","type-post","status-publish","format-standard","hentry","category-uncategorized"],"yoast_head":"\n