Mikä on deepfake eli syvä­väärennös?

Kuvittele, että saat pomoltasi video­viestin, jossa hän pyytää sinua lähettämään rahaa, tai näet netissä julkkiksen tai tunnetun vaikuttajan mainostavan uutta krypto­valuuttaa. Riippumatta siitä, tunnistitko näitä videoita väärennöksiksi, voi tuntua oudolta nähdä luottamasi henkilön tekevän jotain tavallisesta poikkeavaa. Myös raja aidon ja väärennetyn verkko­sisällön välillä voi alkaa hämärtyä.

Niin pelottavalta kuin se kuulostaakin, tällaiset huijaukset ovat entistä yleisempiä teko­äly­teknologian kehittyessä. Deep­fake eli syvä­väärennös tarkoittaa tällaisia keino­tekoisia kuvia, videoita ja ääni­tiedostoja.

Deepfaket ovat väärennettyjä mutta usein ällistyttävän vakuuttavia kuvia, videoita tai ääni­tallenteita, jotka on tuotettu teko­älyn avulla. Viihde­tarkoitukseen luodut syvä­väärennökset on usein helppo tunnistaa somessa. Valitettavasti niitä hyödynnetään myös huijauksissa, verkko­rikollisuudessa sekä väärän tiedon levittämisessä.

Lue lisää niin opit, miten deep­fake toimii ja kuinka tunnistat syvä­väärennöksen joutumatta huijatuksi.

Mikä on deepfake?

Deepfake on usein kuva, video tai ääni­tallenne, jota on manipuloitu teko­älyn avulla. Suomeksi käytetään myös nimitystä syvä­väärennös, vaikkakin englanninkielinen termi on vakiintuneempi.

Deepfake-teknologian tarkoituksena on saada sinut uskomaan, että joku on tehnyt tai sanonut jotain, mitä ei koskaan todellisuudessa tapahtunut. Tällainen sisältö on usein harmitonta ja helposti tunnistettavissa väärennetyksi, kuten somessa käytettävät filtterit, jotka muuttavat ääntäsi tai ulko­näköäsi.

Valitettavasti asiat mutkistuvat, kun deep­fake-videot, ‑kuvat ja ‑audio eivät ole enää erotettavissa todellisuudesta. Huijarit ja muut pahan­tekijät tietävät tämän hyvin, joten he ovat alkaneet hyödyntää syvä­väärennöksiä huijauksissa sekä uhriensa manipuloinnissa.

Miten syväväärennökset toimivat?

Syväväärennökset hyödyntävät nimensä mukaisesti syvä­oppimista (englanniksi ”deep learning”). Kyseessä on kone­oppimisen muoto, jossa tieto­koneet analysoivat valtavia määriä dataa ja havaitsevat kaavoja. Deep­fake saakin nimensä syvä­oppimista ja väärennöstä tarkoittavista sanoista: ”deep learning” ja ”fake.”

Yksi tärkeimmistä teknologioista syvä­väärennösten taustalla on GAN (Generative Adversarial Network) eli generatiivinen kilpaileva verkosto. Tällaisen neuro­verkon toiminta on melko moni­mutkaista, mutta sen voi tiivistää näin:

●      Tekoälyn yksi puoli (generaattori) luo väärennettyä sisältöä, kuten kuvaa tai ääntä.

●      Toinen osa (diskriminaattori) arvioi, miten realistiselta teko­älyn luoma sisältö vaikuttaa.

●      Nämä kaksi kilpailevat keskenään, kunnes väärennettyä sisältöä ei enää pysty erottamaan sen aidosta vastineesta.

Tällainen järjestelmä vaatii toimiakseen ja kehittyäkseen dataa, kuten videoita, kuvia tai ääni­tallenteita. Mitä enemmän dataa teko­älyllä on käytettävänään, sitä realistisempia deep­fake-videoita, ‑kuvia ja ‑ääntä se pystyy tuottamaan. Nykyään teko­älyn kouluttamiseen tarkoitettua materiaalia on saatavilla yllin kyllin, sillä ihmiset jakavat sitä jatkuvasti sosiaalisessa mediassa.

Lähes jokaisella on lisäksi pääsy deepfake-teknologian pariin, sillä uudet sovellukset ja työ­kalut ovat tehneet vakuuttavien kuvien, videoiden ja ääni­tallenteiden tekemisestä helppoa. Mikä ennen vaati kehittyneitä teknisiä taitoja, on nykyään lähes kaikkien käytettävissä — myös huijareiden.

Deepfake-teknologian vaarat

Syväväärennöksiin liittyy useita uhkia, jos niitä käytetään pahan­tekoon. Deep­fake-teknologian vaaroihin kuuluvat muun muassa:

• Identiteettivarkaus ja toiseksi henkilöksi tekeytyminen: Deep­fake-videot, ‑kuvat ja ‑ääni­tallenteet voivat vakuuttaa uhrin siitä, että hän on tekemisissä jonkun tutun henkilön, kuten perheen­jäsenen, ystävän tai julkkiksen kanssa.

• Talousrikokset: Syväväärennöksillä huijataan ihmisiä siirtämään rahaa rikollisten tileille puhelin- ja video­huijauksissa. Huijarit voivat väärentää haluamansa henkilön äänen kaappaamalla lyhyen pätkän puhetta somesta tai vastaajan ääni­viestistä.

• Disinformaatio ja valeuutiset: Deep­fake-videot voivat levittää propagandaa ja väärää tietoa. Väärennöksillä on myös vaikutettu ihmisten äänestys­päätöksiin poliittisissa vaaleissa.

• Deepfake-porno ja ”sextortion”: Niin sanotuilla face-swap- eli kasvojen­vaihto­työ­kaluilla on mahdollista luoda arka­luonteista materiaalia, missä henkilön kasvot on liitetty esimerkiksi aikuis­viihde­sisältöön. Syvä­väärennöksiä on käytetty myös kosto­pornossa sekä sextortion-huijauksissa.

Vältä deepfake-huijaukset

Deepfake-huijaukset eivät ole läheskään ainoa internetissä leviävä petos­muoto, joten voit välttyä monelta harmilta olemalla valppaana. Opettele tunnistamaan syvä­väärennösten tunnus­merkit, kuten väärennetyt some­videot ja harhaan­johtavat ääni­tallenteet.

Deepfake-videot: Tosielämän esimerkkejä huijauksista

Syväväärennökset eivät ole enää vain teoreettinen uhka — niillä voidaan nykyään saada aikaan todellista vahinkoa. Otetaan esi­merkiksi tuore deepfake-huijaus vuodelta 2023.

Tässä huijauksessa Hongkongissa toimivat huijarit käyttivät deep­fake-videoita Zoom-puhelussa. He onnistuivat vakuuttamaan kohteeksi valikoituneelle uhrille, että hän puhui työ­paikkansa talous­johtajan ja muiden työn­tekijöiden kanssa. Väärennökset olivat riittävän realistisia, jotta yrityksen työn­tekijä saatiin siirtämään 25 miljoonan dollarin edestä varoja.

Huijauksen kohde alkoi arvella jonkin olevan pielessä saatuaan epäilyttäviä viestejä huijareilta. Zoom-puhelussa näkemänsä tutut ihmiset olivat kuitenkin niin vakuuttavia, että hänen epäilyksensä kaikkosivat.

Deepfake-huijaukset eivät kohdistu vain yritysten kaltaisiin suuriin kohteisiin — kuka tahansa voi joutua verkko­huijauksen kohteeksi, kunhan omistaa äly­laitteen ja internet­yhteyden. Eräs äärimmäinen esi­merkki on tarina ranskalaisesta naisesta, joka menetti 830 000 euroa huijareille. Tässä tapauksessa huijarit vakuuttivat huijauksen kohteena olevalle naiselle hänen olevan pari­suhteessa näyttelijä Brad Pittin kanssa.

Huijarit saivat naisen antamaan rahansa, kun he olivat lähettäneet hänelle teko­älyllä luotuja kuvia sairaalassa makaavasta Pittistä. Uhri tajusi lopulta jonkin olevan vinossa, kun hän näki videon näyttelijästä tämän uuden kumppanin kanssa.

Tämänkaltaiset huijaukset ovat saaneet monet huolestumaan syvä­väärennöksistä ja niiden haitoista viime vuosina. Deep­fake-sisältö, kasvojen vaihto ja muut syvä­väärennös­tekniikat eivät kuitenkaan ole mikään uusi ilmiö. Esi­merkiksi BBC raportoi vuonna 2017 tutkijoiden luomasta Deep­fake-videosta, joka esitti Barack Obamaa.

Nykyään lähes kuka tahansa voi käyttää deep­fake-työ­kaluja vakuuttavan audion, kuvien sekä videon luomiseen ilman sen kummempaa teknistä osaamista.

Näin tunnistat syväväärennöksen

Syväväärennösten tunnistaminen on entistä vaikeampaa niiden luomiseen käytetyn teknologian kehittyessä. Väärennetyn materiaalin tunnistamista hankaloittaa valtava määrä sisältöä, jolle altistumme päivittäin esi­merkiksi sosiaalisessa mediassa. Siksi jopa kehnon AI-tekeleen tunnistaminen väärennökseksi sisältö­virran joukosta voi olla hankalaa. Onneksi tietyt hälytys­merkit auttavat sinua tunnistamaan syvä­väärennöksen:

• Luonnoton silmien liike ja räpyttelyn puute: Varhaiset deepfake-videot on usein helppo tunnistaa väärennöksiksi, sillä ne epä­onnistuvat jäljittelemään ihmisille luonnollista silmien räpyttelyä.

• Ääni ja suun liike eivät synkkaa: Deepfake-videoissa suun liike ei aina vastaa kuulemaasi puhetta täydellisesti.

• Sumeat tai vilkkuvat reunat: Deepfake-sisältö perustuu usein henkilön kasvojen vaihtamiseen, jolloin hahmon reunat saattavat näyttää oudoilta tai epä­vakailta.

• Epäjohdonmukainen valaistus ja varjot: Syvä­väärennökset saattavat epä­onnistua jäljittelemään tilan valaistusta tai henkilön todellista ihon sävyä.

• Outo ääni: Ääneen perustuvat syvä­väärennökset eivät usein kuulosta kovin vakuuttavilta. Robottimainen, vääristynyt tai epä­vireinen ääni voi paljastaa huijauksen.

Jos olet epävarma, käytä käänteisiä kuva­haku­työ­kaluja erottaaksesi väärennökset aidoista.

Tarkista luotettavasta lähteestä, onko kyseessä todellinen video tai kuva, jos näet julkisuuden henkilön sanovan tai tekevän jotain odottamatonta. Pysähdy miettimään, ennen kuin reagoit epäilyttävään videoon tai viestiin, varsinkin jos sinua kehotetaan tekemään jotain, kuten lähettämään rahaa tai luovuttamaan henkilö­kohtaisia tietojasi.