Tekoälyyn perustuvia suosituksia on helppo käyttää väärin

Tekoälypohjaisia suositusjärjestelmiä käytetään monissa nykypäivän verkkopalveluissa, kuten hakukoneissa, verkkokaupoissa, suoratoistopalveluissa ja sosiaalisessa mediassa. Suositusjärjestelmien kasvanut vaikutusvalta on herättänyt huolta väärinkäytöstä, joita ovat esimerkiksi disinformaation levittäminen ja salaliittoteorioiden edistämiseen.

F-Securen tekoälyn huippuyksikön (Artificial Intelligence Center of Excellence)  tutkija Andy Patel on tehnyt sarjan kokeita saadakseen selville, kuinka yksinkertaiset manipulointitekniikat voivat vaikuttaa tekoälypohjaisiin suosituksiin internetin sosiaalisissa verkostoissa.

— Twitteristä ja muista verkostoista on tullut taistelukenttiä, joissa eri ihmiset ja ryhmät ajavat erilaisia kertomuksia. Näihin kuuluvat orgaaniset keskustelut ja mainokset, mutta myös viestit, joiden tarkoituksena on heikentää luottamusta totuudenmukaiseen informaatioon. Tutkimus näiden vaikuttajien mahdollisuuksista manipuloida tekoälyä auttaa paljastamaan tekoälyn kyvykkyyksien rajat, eli sen mitä tekoäly voi realistisesti tehdä ja miten sitä voidaan parantaa, Patel kertoo.

Vuoden 2020 lopulla tehdyssä PEW Research Center -tutkimuksessa todettiin, että 53% amerikkalaisista lukee uutisia sosiaalisesta mediasta(*). 18–29-vuotiaat vastaajat pitivät sosiaalista mediaa yleisimpänä uutislähteenään. Samaan aikaan tutkimus on tuonut esiin mahdollisia riskejä luotettaessa sosiaaliseen mediaan lähteenä: vuoden 2018 tutkimuksessa todettiin, että väärennöksiä sisältävät Twitter-viestit uudelleentwiitataan todennäköisemmin(**).

Tutkimukseensa Patel keräsi tietoja Twitteristä ja käytti niitä collaborative -mallien kouluttamiseen (eräänlainen koneoppiminen, jota käytetään käyttäjien ja sisällön samankaltaisuuden koodaamiseen aiempien vuorovaikutusten perusteella) käytettäväksi suositusjärjestelmissä. Hän suoritti uudelleenkouluttamista hyödyntäen tietoja, jotka sisälsivät ylimääräisiä uudelleentwiittauksia (myrkyttäen tiedot) valittujen tilien välillä, jotta oli nähtävissä kuinka suositukset muuttuivat.

Valitsemalla uudelleentwiitattavat tilit ja vaihtelemalla näiden tilien lukumäärää yhdessä niiden julkaisemien uudelleentwiittausten määrän kanssa osoitti, että jopa hyvin pieni määrä uudelleentwiittauksia riitti manipuloimaan suositusjärjestelmää suosimaan tilejä, joita jaettiin näiden injektoitujen uudelleentwiittausten kautta.

Kokeissa käytettiin yksinkertaistettuja versioita tekoälymekanismeista, joita sosiaalisen median alustat ja muut verkkosivustot todennäköisesti käyttävät tarjotessaan käyttäjille suosituksia.

— Teimme testejä yksinkertaistettuja malleja vastaan saadaksemme lisätietoja siitä, miten todelliset hyökkäykset todella toimivat. Sosiaalisen median alustat kohtaavat jo nyt samankaltaisia hyökkäyksiä. Erilaisten organisaatioiden on kuitenkin  vaikea olla varma manipuloinnista, koska he näkevät vain lopputuloksen, mutta eivät taustalla olevia toimintamekanismeja, Patel kertoo.  

F-Securen tekoälytutkimusyksikön johtajan Matti Akselan mukaan on tärkeää tunnistaa ja vastata tekoälyn turvallisuuteen liittyviin mahdollisiin haasteisiin.

— Kun luotamme yhä enemmän tekoälyyn tulevaisuudessa, meidän on ymmärrettävä, mitä meidän on tehtävä suojellaksemme sitä mahdollisilta väärinkäytöksiltä. Tekoälyn ja koneoppimisen mahdollistamisen hyödyn saaminen yhä useammasta riippuvaisista palveluista edellyttää, että ymmärrämme sen turvallisuuden vahvuudet ja heikkoudet saavutettavien etujen lisäksi, jotta voimme luottaa tuloksiin. Turvattu tekoäly on luotettavan tekoälyn perusta , Aksela sanoo. 

Andy Patelin julkaisema raportti kokeiluista ja yksityiskohtaisemmat tiedot löytyvät GitHubista

Lisää voi lukea F-Securen blogista: https://blog.f-secure.com/ai-recommendations-manipulations/

Lähteet:

* https://www.pewresearch.org/fact-tank/2021/01/12/more-than-eight-in-ten-americans-get-news-from-digital-devices/

** https://science.sciencemag.org/content/359/6380/1146

Lisää keskustelua tekoälystä voit seurata F-Securen Cyber Security Sauna -podcastista (engl.) jaksossa 055 AI goes Awry : 

https://www.f-secure.com/en/business/podcasts/cyber-security-sauna