Tekoälyyn perustuvia suosituksia on helppo käyttää väärin

Useat kokeilut ovat osoittaneet, että tekoälyä manipuloimalla voi vaikuttaa disinformaatioon, salaliittoterioiden ja muiden tarinoiden leviämiseen.

Tekoälypohjaisia suositusjärjestelmiä käytetään monissa nykypäivän verkkopalveluissa, kuten hakukoneissa, verkkokaupoissa, suoratoistopalveluissa ja sosiaalisessa mediassa. Suositusjärjestelmien kasvanut vaikutusvalta on herättänyt huolta väärinkäytöstä, joita ovat esimerkiksi disinformaation levittäminen ja salaliittoteorioiden edistämiseen.

F-Securen tekoälyn huippuyksikön (Artificial Intelligence Center of Excellence)  tutkija Andy Patel on tehnyt sarjan kokeita saadakseen selville, kuinka yksinkertaiset manipulointitekniikat voivat vaikuttaa tekoälypohjaisiin suosituksiin internetin sosiaalisissa verkostoissa.

— Twitteristä ja muista verkostoista on tullut taistelukenttiä, joissa eri ihmiset ja ryhmät ajavat erilaisia kertomuksia. Näihin kuuluvat orgaaniset keskustelut ja mainokset, mutta myös viestit, joiden tarkoituksena on heikentää luottamusta totuudenmukaiseen informaatioon. Tutkimus näiden vaikuttajien mahdollisuuksista manipuloida tekoälyä auttaa paljastamaan tekoälyn kyvykkyyksien rajat, eli sen mitä tekoäly voi realistisesti tehdä ja miten sitä voidaan parantaa, Patel kertoo.

Vuoden 2020 lopulla tehdyssä PEW Research Center -tutkimuksessa todettiin, että 53% amerikkalaisista lukee uutisia sosiaalisesta mediasta(*). 18–29-vuotiaat vastaajat pitivät sosiaalista mediaa yleisimpänä uutislähteenään. Samaan aikaan tutkimus on tuonut esiin mahdollisia riskejä luotettaessa sosiaaliseen mediaan lähteenä: vuoden 2018 tutkimuksessa todettiin, että väärennöksiä sisältävät Twitter-viestit uudelleentwiitataan todennäköisemmin(**).

Tutkimukseensa Patel keräsi tietoja Twitteristä ja käytti niitä collaborative -mallien kouluttamiseen (eräänlainen koneoppiminen, jota käytetään käyttäjien ja sisällön samankaltaisuuden koodaamiseen aiempien vuorovaikutusten perusteella) käytettäväksi suositusjärjestelmissä. Hän suoritti uudelleenkouluttamista hyödyntäen tietoja, jotka sisälsivät ylimääräisiä uudelleentwiittauksia (myrkyttäen tiedot) valittujen tilien välillä, jotta oli nähtävissä kuinka suositukset muuttuivat.

Valitsemalla uudelleentwiitattavat tilit ja vaihtelemalla näiden tilien lukumäärää yhdessä niiden julkaisemien uudelleentwiittausten määrän kanssa osoitti, että jopa hyvin pieni määrä uudelleentwiittauksia riitti manipuloimaan suositusjärjestelmää suosimaan tilejä, joita jaettiin näiden injektoitujen uudelleentwiittausten kautta.

Kokeissa käytettiin yksinkertaistettuja versioita tekoälymekanismeista, joita sosiaalisen median alustat ja muut verkkosivustot todennäköisesti käyttävät tarjotessaan käyttäjille suosituksia.

— Teimme testejä yksinkertaistettuja malleja vastaan saadaksemme lisätietoja siitä, miten todelliset hyökkäykset todella toimivat. Sosiaalisen median alustat kohtaavat jo nyt samankaltaisia hyökkäyksiä. Erilaisten organisaatioiden on kuitenkin  vaikea olla varma manipuloinnista, koska he näkevät vain lopputuloksen, mutta eivät taustalla olevia toimintamekanismeja, Patel kertoo.  

F-Securen tekoälytutkimusyksikön johtajan Matti Akselan mukaan on tärkeää tunnistaa ja vastata tekoälyn turvallisuuteen liittyviin mahdollisiin haasteisiin.

— Kun luotamme yhä enemmän tekoälyyn tulevaisuudessa, meidän on ymmärrettävä, mitä meidän on tehtävä suojellaksemme sitä mahdollisilta väärinkäytöksiltä. Tekoälyn ja koneoppimisen mahdollistamisen hyödyn saaminen yhä useammasta riippuvaisista palveluista edellyttää, että ymmärrämme sen turvallisuuden vahvuudet ja heikkoudet saavutettavien etujen lisäksi, jotta voimme luottaa tuloksiin. Turvattu tekoäly on luotettavan tekoälyn perusta , Aksela sanoo. 

Andy Patelin julkaisema raportti kokeiluista ja yksityiskohtaisemmat tiedot löytyvät GitHubista

Lisää voi lukea F-Securen blogista: https://blog.f-secure.com/ai-recommendations-manipulations/

 

 

Lähteet:

* https://www.pewresearch.org/fact-tank/2021/01/12/more-than-eight-in-ten-americans-get-news-from-digital-devices/

** https://science.sciencemag.org/content/359/6380/1146

 

Lisää keskustelua tekoälystä voit seurata F-Securen Cyber Security Sauna -podcastista (engl.) jaksossa 055 AI goes Awry : 

https://www.f-secure.com/en/business/podcasts/cyber-security-sauna

 

F-Secure lyhyesti

F-Secure on johtava kyberturvallisuusyhtiö, joka on kolmen vuosikymmenen ajan edistänyt kyberturvallisuuden innovaatioita. F-Securella on ensiluokkainen kokemus päätelaitteiden suojaamisesta sekä hyökkäysten tunnistamisesta ja niihin vastaamisesta. F-Secure suojaa ratkaisuillaan yrityksiä ja kuluttajia niin kehittyneiltä kyberhyökkäyksiltä ja tietomurroilta kuin laajalle levinneiltä kiristysohjelmien tartunnoilta. F-Securen turvallisuusasiantuntijat ovat osallistuneet useampaan eurooppalaiseen kyberrikoksen tutkintaan kuin yhdenkään muun markkinoilla toimivan yrityksen. F-Securen tuotteita myyvät maailmanlaajuisesti yli 200 operaattoria ja tuhannet jälleenmyyjät.

f-secure.fi | twitter.com/fsecure | linkedin.com/f-secure

F-Secure media relations

Sanna Syrjäläinen

PR Manager, Nordics

+358 408349277
sanna.syrjalainen@f-secure.com

Tiedotteet medialle

Tilaa F-Securen tiedotteita tästä. 

Käsittelemme meille jakamiasi henkilötietojasi yritysliiketoiminnan tietosuojakäytäntömme mukaisesti.

Tiedotearkisto

Vuosi

Etsi tiedotteita ajankohdan mukaan. 

Teema

Etsi tiedotteita teeman mukaan.