Huolta herättää, että nopeasti kehittyvä tekoäly kykenisi tunkeutumaan esimerkiksi kriittisen infrastruktuurin järjestelmiin.

TAPAUKSEN jälkeen yli tuhat tekoäly-yritysten työntekijää on allekirjoittanut Pacing the Frontier -nimisen adressin, jossa vaaditaan Yhdysvaltojen hallinnolta tekoälykehityksen sääntelyä.

Tietotekniikan professori Hussein Abbass australialaisesta Uuden Etelä-Walesin yliopistosta pitää tapausta uskomattomana monella tapaa.

- Se ei pelkästään hyökännyt Hugging Facea vastaan. Se hyökkäsi sen sisäisiin järjestelmiin hyväksikäyttääkseen sen omia haavoittuvuuksia, Abbas sanoi uutistoimisto AFP:lle.

- Ja se on pelottavaa, hän jatkoi.

Abbassin mukaan kehittyneimmät tekoälymallit ovat yleensä ”eettisten ja vastuullisten ihmisten” käytössä.

- Olisi katastrofaalista, jos ne päätyisivät jonkun käsiin, joka pyrkii tekemään vahinkoa, Abbass sanoi.

MUUTAMAA päivää myöhemmin OpenAI kertoi havainneensa kolme muutakin vastaavaa tapausta. OpenAI:n toimitusjohtaja Sam Altmanin mukaan yritys on keskeyttänyt testaustoiminnan ja parantaa testausympäristön eristämistä.

Tekoäly-yhtiö Anthropicin mukaan myös sen tekoälymallit olivat murtautuneet luvattomasti kolmeen ulkopuoliseen järjestelmään testiympäristön ulkopuolelle.

Anthropicin malleille oli annettu vahingossa annettu pääsy internetiin, toisin kuin OpenAI:n tapauksessa. Tekoälymallit olivat hyödyntäneet perinteisiä hakkerointitekniikoita, kuten heikkoja salasanoja ja rajapintahyökkäyksiä.

YHDYSVALTAIN lain mukaan luvaton tunkeutuminen tietokonejärjestelmään on rikos. Voidaan kysyä, päättyykö ihmisen tai yrityksen vastuuvelvollisuus siihen, ettei tekoälyä ole käsketty tekemään hyökkäystä.

- Jos OpenAI:n työntekijä olisi murtautunut Hugging Facen järjestelmiin, OpenAI olisi vastuussa työntekijän lainvastaisesta toiminnasta, Houstonin yliopiston oikeustieteen apulaisprofessori Gabriel Weil kirjoitti mielipidekirjoituksessa, joka julkaistiin Transformer-uutiskirjeessä.

- Kun näin tekee tekoälyagentti, laki suhtautuu asiaan hyvin eri tavalla - ainakin toistaiseksi, Weil jatkoi.

WASHINGTONIN yliopiston oikeustieteen professori Ryan Calo ei usko, että rikosoikeudellinen syyte tekoälyn itsenäisesti toteuttamasta hyökkäyksestä menestyisi tällä hetkellä.

- Yrityksen tai yksityishenkilön olisi täytynyt toimia vähintäänkin piittaamattomasti, hän sanoi.

Jos OpenAI joutuisi oikeuteen, yhtiö voisi vedota aiemman oikeuskäytännön puuttumiseen. Ryan Calo kuitenkin varoitti, ettei tulevaisuudessa enää voida turvautua tähän perusteeseen.

Jatkossa on helpompi osoittaa, että vastaavanlaiset tapahtumat olisivat olleet ennakoitavissa, kun esimerkkejä tapahtuneista hyökkäyksistä on jo useita.