Tekoälyn vahtikoirat: Petosten havaitsemisen korkean panoksen maailmassa

Kello on kaksi aamuyöllä Western Unionin kyberturvallisuuden komentokeskuksessa, eikä Maya Patel ole räpäyttänyt silmiään tuntikausiin. Yrityksen tekoälypetosten havaitsemisjärjestelmä on juuri merkinnyt kolme epätavallista tapahtumakuviota. Nebraskan tileiltä Ukrainaan siirrettyjä rahaa, kaikki juuri ilmoituskynnyksen alapuolella. Liian samankaltaisia ollakseen sattumaa, liian täydellisiä ollakseen satunnaisia.

"Tämä on kolmas kerta tällä viikolla", Maya mutisee ja naputelee näppäimistöään harjoitellulla tarkkuudella. Hänen takanaan massiiviset näytöt näyttävät värikkäitä visualisointeja maailmanlaajuisista tapahtumavirroista. Hänen tekoälyavustajansa on jo laatinut raportin, jossa epäilyttävät kuviot on korostettu punaisella. Vuosia sitten analyytikkotiimiltä olisi mennyt päiviä havaita tämä. Nyt se tapahtuu sekunneissa.

Todistamme hiljaista sotaa – jota ei käydä aseilla ja pommeilla, vaan algoritmeilla ja datalla. Digitaalisten transaktioiden tultua taloutemme selkärangaksi talouspetokset ovat kehittyneet raaoista huijauksista hienostuneiksi hyökkäyksiksi, joita järjestävät kansainväliset rikollisjärjestöt ja valtioiden tukemat hakkerit.

Pelkästään vuonna 2023 petokset maksoivat maailmantaloudelle yli 5,5 biljoonaa dollaria. Taistelukenttä on kaikkialla: luottokorttimaksuissa, lainahakemuksissa, vakuutuskorvauksissa ja yhä enemmän kryptovaluuttapörsseissä.

"Useimmat ihmiset eivät ymmärrä, että tekoäly suojaa heitä joka kerta, kun he käyttävät korttiaan", sanoo Mastercardin datatieteilijä, tohtori Raj Sharma. "Rakentamamme järjestelmät analysoivat vuosittain yli 75 miljardia transaktiota ja tekevät sekunnin murto-osassa päätöksiä siitä, hyväksytäänkö vai hylätäänkö ne. Ja ne älykkäämmiksi tulevat joka päivä."

Istun Mastercardin teknologiakeskuksessa New Yorkissa, jossa tohtori Sharma näyttää minulle visualisointeja heidän neuroverkoistaan toiminnassa. Näytöt muistuttavat minua tähtikuvioista, joissa kirkkaat solmut syttyvät kuvioiden noustessa esiin datamerestä.

Perinteinen petosten havaitseminen perustui jäykkiin sääntöihin: jos tapahtuma täyttää tietyt kriteerit, se merkitään tarkistettavaksi. Mutta hienostuneet huijarit oppivat nopeasti huijaamaan näitä järjestelmiä.

"Säännöt ovat kuin lukkoja", selittää Sarah Chen, entinen FBI:n kyberrikollisuuden asiantuntija, joka nykyään johtaa omaa tietoturvakonsultointiyritystään. "Kun joku selvittää, miten ne toimivat, hän voi poimia ne. Tarvitsimme lukon, joka muuttaa jatkuvasti mekanismiaan."

Sitten koneoppiminen. Sen sijaan, että nykyaikaiset tekoälyjärjestelmät noudattaisivat selkeitä sääntöjä, ne oppivat historiallisista kaavoista ja tunnistavat hienovaraisia korrelaatioita, jotka ihmisanalyytikot saattavat olla huomaamatta.

Maksupalvelun Stripen pääkonttorissa San Franciscossa minulle näytetään demonstraatio heidän petosten havaitsemisjärjestelmästään. Tiimi syöttää sille sarjan tapahtumia, joista osa on laillisia, osa petollisia. Tekoäly ei ainoastaan havaitse ilmeisiä varoitusmerkkejä – se huomaa, että petolliset tapahtumat tulevat usein viikonloppuisin luoduilta tileiltä tai niillä on yleensä hieman erilaiset kirjoituskuviot tietoja syötettäessä.

"Ihmiset ovat tapojensa orjia", sanoo Miguel Gonzalez, Stripen riskienhallintajohtaja. "Varovaisimmatkin huijarit jättävät jälkeensä kaavoja. Järjestelmämme pystyvät havaitsemaan näppäinpainallusten rytmit, hiiren liikkeet ja jopa tavan, jolla joku navigoi verkkosivustolla. Näitä käyttäytymisbiometrisiä tietoja on lähes mahdotonta jäljitellä täydellisesti."

Teknologisesta ihmeestä huolimatta ihmisen asiantuntemus on edelleen ratkaisevan tärkeää. PayPalin riskienhallintakeskuksessa Omahassa analyytikot tarkastelevat tekoälyjärjestelmien ilmoittamia tapauksia ja antavat palautetta, joka auttaa algoritmeja parantamaan.

"Tekoäly on ensimmäinen puolustuslinjamme, mutta se ei ole erehtymätön", sanoo Jennifer Wu, vanhempi petosanalyytikko. "Joskus lailliset tapahtumat näyttävät epäilyttäviltä, ja joskus petos on niin uudenlainen, ettei järjestelmä ole aiemmin nähnyt mitään vastaavaa. Tarvitsemme ihmisen harkintaa tehdäksemme lopullisen päätöksen näissä reunatapauksissa."

Tämä hybridilähestymistapa – jossa yhdistyvät tekoälyn prosessointiteho ja ihmisen intuitio – on osoittautunut huomattavan tehokkaaksi. Visa raportoi, että heidän tekoälypohjainen petosten havaitsemisjärjestelmänsä on auttanut estämään arviolta 25 miljardin dollarin arvosta petosyrityksiä pelkästään viime vuonna.

Tunnistusjärjestelmien kehittyessä myös hyökkäykset kehittyvät. Huijarit käyttävät nyt itse tekoälyä luomalla syväväärennöksiä ohittaakseen äänitunnistusjärjestelmät tai luomalla synteettisiä henkilöllisyyksiä, jotka läpäisevät vahvistustarkastukset.

"Tämä on kilpavarustelua", huokaa tohtori Emily Rosenberg, kyberturvallisuustutkija MIT:ssä. "Joka kerta kun kehitämme parempia puolustusmenetelmiä, he kehittävät parempia hyökkäyksiä. Etuna on, että puolustava tekoäly voi oppia miljoonista laillisista tapahtumista, kun taas huijareilla on rajoitetusti dataa käytettävissään."
Katselen, kun hän esittelee uudentyyppistä hyökkäystä – generatiivista hyökkäysverkkoa (GAN), joka luo kuvitteellisia mutta uskottavia luottokorttien käyttömalleja. Järjestelmä on aavemaisen tehokas, mutta laukaisee silti tiettyjä hälytyksiä nykyaikaisissa tunnistusjärjestelmissä.

Taloudellisten petosten havaitsemisessa uraauurtavia tekniikoita sovelletaan nyt eri toimialoilla. Vakuutusyhtiöt käyttävät samankaltaisia tekoälyjärjestelmiä epäilyttävien korvaushakemusten merkitsemiseen. Verkkokauppa-alustat käyttävät niitä väärennettyjen arvostelujen ja väärennettyjen tuotteiden havaitsemiseen. Valtion virastot käyttävät niitä veropetosten ja etuuspetosten tunnistamiseen.

Terveysvakuutusyhtiö Anthemilla tekoälyjärjestelmät skannaavat päivittäin miljoonia korvaushakemuksia etsien malleja, jotka saattavat viitata terveydenhuollon tarjoajien vilpillisiin laskutuskäytäntöihin.

"Terveydenhuollon petokset maksavat amerikkalaisille veronmaksajille noin 300 miljardia dollaria vuodessa", kertoo minulle tohtori Marcus Johnson, Anthemin analytiikkajohtaja. "Järjestelmämme ovat auttaneet tunnistamaan useita järjestäytyneitä petosringejä, jotka toimivat useissa osavaltioissa. Yhdessä tapauksessa löysimme klinikkaverkoston, joka laskutti toimenpiteistä, joita ei koskaan suoritettu, mikä on mahdollisesti säästänyt satoja miljoonia dollareita vilpillisissä korvaushakemuksissa."

Näiden järjestelmien tehokkuuteen liittyy vaikeita yksityisyyden suojaan liittyviä kysymyksiä. Enemmän dataa tarkoittaa parempaa petosten havaitsemista, mutta myös enemmän väärinkäytösmahdollisuuksia.

"Turvallisuuden ja yksityisyyden välillä on aina jännite", myöntää Elena Vasiliev, yksityisyyden puolustaja, joka on aiemmin työskennellyt petosten havaitsemisjärjestelmien parissa American Expressillä. "Samoja tekniikoita, joilla voidaan havaita petokset, voidaan käyttää myös valvontaan. Meidän on oltava varovaisia sen suhteen, kuinka paljon tietoa keräämme ja miten sitä käytämme."

Jotkut yritykset tutkivat tekniikoita, kuten federoitua oppimista, jonka avulla tekoälymalleja voidaan kouluttaa useiden tietolähteiden välillä keskittämättä arkaluonteisia tietoja. Toiset investoivat homomorfiseen salaukseen, joka mahdollistaa salattujen tietojen analysoinnin ilman niiden salauksen purkamista ensin.

Kun lähden Western Unionin komentokeskuksesta aamunkoitteessa, Maya Patel on onnistuneesti estänyt epäilyttävät tapahtumat ja tehnyt raportin FBI:n kyberrikosyksikölle. Järjestelmä on jo päivittänyt mallejaan tunnistamaan tämän tietyn petoskuvion.

Petosten havaitsemisen seuraava aluevaltaus on kvanttilaskenta ja selitettävissä oleva tekoäly – järjestelmät, jotka pystyvät paitsi havaitsemaan petoksia, myös selittämään selvästi, miksi ne merkitsivät tietyn tapahtuman. Tämä läpinäkyvyys on ratkaisevan tärkeää tekoälyn päätöksentekoa koskevien säännösten tiukentuessa.

"Kymmenen vuotta sitten pelasimme vain kiinniottoa", Maya kertoo minulle kävellessämme hissille. "Nyt alamme päästä huijareiden edelle. Mutta se ei ole taistelu, jota emme koskaan täysin voita. Niin kauan kuin on rahaa ansaittavissa, ihmiset yrittävät huijata järjestelmää."

Hän pysähtyy ennen kuin lisää: "Hyvä uutinen on, että työkalumme paranevat joka päivä. Ja toisin kuin huijarit, voimme jakaa tietoa koko toimialalla. Jokainen hyökkäys tekee meistä kaikista vahvempia."

Digitaalisten tapahtumien määrän ja monimutkaisuuden kasvaessa tästä tekoälyn tarjoamasta näkymätön suojasta tulee vain tärkeämpi. Kun seuraavan kerran luottokorttiyhtiösi lähettää tekstiviestin epätavallisen ostoksen vahvistamiseksi, muista: se on vain näkyvä huippu teknologisesta jäävuoresta, joka suojaa hiljaa taloudellista elämääsi kellon ympäri.

Tekevätkö tekoälypetosten havaitsemisjärjestelmät lopulta taloudellisista petoksista menneisyyden asian? Vai olemmeko aina jumissa tässä digitaalisessa kissa ja hiiri -leikissä, jossa hyökkäykset ja puolustusmekanismit kehittyvät yhä kehittyneemmiksi? Yksi asia on varma – taloudellisen turvallisuuden tulevaisuutta muokkaavat yhtä paljon koodirivit kuin niitä kirjoittavat ihmiset.