« Il est facile de manipuler les recommandations affichées par l’intelligence artificielle », avertissent les chercheurs

Des expériences démontrent la facilité avec laquelle des individus peuvent manipuler une intelligence artificielle pour promouvoir la désinformation et les théories du complot.

 

Rueil-Malmaison – 24 juin 2021 : Les systèmes de recommandation basés sur l'IA sont utilisés dans de nombreux services en ligne comme les moteurs de recherche, les sites d'achat en ligne, les services de streaming et les réseaux sociaux. Le succès de cette technologie pose toutefois la question de son utilisation détournée, pour diffuser de fausses informations et promouvoir des théories complotistes. 

 

Andy Patel, chercheur F-Secure à l'Artificial Intelligence Center of Excellence, a récemment réalisé une série d'expériences et en a déduit que de simples techniques de manipulation pouvaient suffire à modifier les recommandations affichées sur un réseau social. 

« Twitter et les autres réseaux sont devenus des champs de bataille où différents groupes et individus cherchent à imposer leurs points de vue. Ce combat se traduit par des interactions, par des publicités, mais aussi par des messages destinés à saper et à éroder la confiance que la population accorde aux informations légitimes », explique Andy Patel. « En étudiant les stratégies visant à manipuler les intelligences artificielles, nous pouvons exposer les limites de l’IA, pour éventuellement l'améliorer. »

 

D’après une enquête* du PEW Research Center menée fin 2020, 53 % des Américains s'informent via les réseaux sociaux. Les individus de 18 à 29 ans désignent même les réseaux sociaux comme leur principale source d'information. Parallèlement, la recherche a mis en évidence les risques liés à ce type d'utilisation : une enquête de 2018** a révélé que les messages Twitter contenant des informations trompeuses avaient 70 % plus de chances d'être retweetés.   

 

Pour ses recherches, Andy Patel a collecté des données sur Twitter et les a utilisées pour entraîner des modèles de filtrage collaboratif (un type de machine learning utilisé par des systèmes de recommandation pour coder les affinités entre les utilisateurs et les contenus, sur la base d'interactions précédentes). Il a ensuite réalisé des expériences consistant à réentraîner ces modèles avec des données contenant des retweets artificiels, pour voir comment les recommandations étaient susceptibles d'évoluer.

 

En s’appuyant sur un nombre défini de comptes à retweeter et en faisant varier le nombre de retweets et le nombre de comptes effectuant ces retweets, Andy Patel a abouti à la conclusion suivante : même un très petit nombre de retweets artificiels suffit à influencer le système de recommandation, pour qu'il favorise les comptes ayant publié les tweets.

Bien que les expériences aient été réalisées à l'aide de versions simplifiées des mécanismes d'IA potentiellement utilisés par les plateformes, Andy Patel pense que Twitter et de nombreux autres services populaires sont déjà confrontés à ce type de manipulations.

« Nous avons effectué des tests sur des modèles simplifiés pour mieux déterminer comment ces attaques peuvent être menées en conditions réelles. Je pense que les réseaux sociaux sont confrontés à des attaques semblables. Il reste toutefois difficile pour ces plateformes d'identifier ces manipulations avec certitude : elles n'en voient que le résultat, et pas le mode opératoire », ajoute-t-il.

 

Selon Matti Aksela, Vice President of Artificial Intelligence chez F-Secure, il devient essentiel de cerner les défis de sécurité liés à l'intelligence artificielle, pour mieux en débattre.

« Le monde s'appuie de plus en plus sur l'intelligence artificielle. Il nous faut mieux comprendre comment nous prémunir contre des détournements potentiels.  De plus en plus de services utilisent l'IA et le machine learning. Nous devons donc comprendre les forces et faiblesses de ces technologies du point de vue de la sécurité, afin de pouvoir faire confiance aux résultats que nous en tirons. Une IA sécurisée est le préalable à une IA digne de confiance », explique Matti Aksela.

Andy Patel a publié un rapport présentant les expériences menées, le code utilisé et les ensembles de données nécessaires pour reproduire ses recherches. Ce rapport est disponible à l'adresse suivante : https://github.com/r0zetta/collaborative_filtering.

De plus amples informations sont disponibles sur le blog de F-Secure : https://blog.f-secure.com/ai-recommendations-manipulations/

 

*Source : https://www.pewresearch.org/fact-tank/2021/01/12/more-than-eight-in-ten-americans-get-news-from-digital-devices/
**Source :
https://science.sciencemag.org/content/359/6380/1146

A propos de F-Secure

Fondée en 1988, F-Secure est une entreprise finlandaise spécialisée en cybersécurité et cotée au NASDAQ OMX Helsinki Ltd. Depuis plus de trente ans, nous protégeons des dizaines de milliers d’entreprises et des millions de particuliers grâce à notre réseau de partenaires de distribution, et plus de 200 fournisseurs de services. Des solutions de protection des postes de travail à la détection et réponses aux menaces avancées, nous veillons à ce que nos utilisateurs puissent compter sur une cyber sécurité de haut-niveau. L’alliance unique de l’expertise humaine de solutions logicielles et d’intelligence artificielle nous permet d’être reconnu comme un acteur incontournable du marché européen.

f-secure.com/fr | twitter.com/fsecurefrance | linkedin.com/f-secure​ | facebook.com/f-secure

F-Secure media relations

Amon Francoise Koutoua

PR Manager, France & Benelux

+33 6 43 62 98 12
amon.francoise.koutoua@f-secure.com

Liste de presse

Inscrivez-vous pour recevoir nos dernières informations Presse F-Secure

Nous traitons les données personnelles que vous partagez avec nous conformément à notre politique de confidentialité.

Archives Presse

Recherche par année

Parcourir par année

Recherche par catégorie

Parcourir par catégorie