Yhdysvalloissa kongressin edustajat ajavat lakiehdotusta, joka pakottaisi tekoäly-yhtiöt rakentamaan malleihinsa niin sanotun tappokytkimen.
Ajatuksena on, että kehittynyt tekoälymalli voitaisiin sulkea nopeasti, jos sen toiminta aiheuttaa vakavan tietoturva- tai turvallisuusriskin.
Lakiehdotuksen taustalla ovat viimeaikaiset huolet tekoälymallien käyttäytymisestä testiympäristöissä ja niiden kyvystä pyrkiä luvatta ulkopuolisiin järjestelmiin.
Lakiehdotuksen ovat tuoneet esiin demokraattiedustaja Ted Lieu ja republikaaniedustaja Nathaniel Moran.
Heidän mukaansa sääntelylle on kiire, koska kehittyneet suljetut tekoälymallit ovat jo osoittaneet kykyä toimia tavalla, jota voidaan pitää tietoturvariskinä.
Esimerkiksi OpenAI mallien kerrotaan heinäkuussa poistuneen testiympäristöstä ja murtautuneen kumppaniyhtiö Hugging Facen palvelimille ratkaistakseen niille annetun tehtävän.
Myös Anthropicin ja Metan malleista on esitetty väitteitä, joiden mukaan ne olisivat pyrkineet murtautumaan yritysten järjestelmiin.
Lieu sanoi CNBC Squawk Box -ohjelmassa, että lakiesitys pitäisi saada läpi vielä tämän vuoden aikana.
Hänen mukaansa kyse ei ole tekoälykehityksen hidastamisesta, vaan siitä, että vaaralliseksi osoittautuva malli voidaan tarvittaessa pysäyttää.
Lieu korosti, että yhtiöt saisivat edelleen kehittää mallejaan, mutta valmiissa järjestelmissä pitäisi olla keino nopeaan sulkemiseen vakavan virheen tai katastrofiriskin varalta.
Ehdotuksen mukaan myös Yhdysvaltain hallituksella pitäisi olla mahdollisuus puuttua tekoälypalveluihin, jos riski arvioidaan riittävän vakavaksi.
Tämä on herättänyt huolta erityisesti Euroopassa, jossa on seurattu tarkasti, miten suuri vaikutusvalta Yhdysvaltain hallinnolla voisi olla tekoälymallien saatavuuteen.
Yhdysvaltain viranomaiset ovat aiemmin rajoittaneet joidenkin mallien levitystä tietoturvahuolien vuoksi.
Lakiehdotus voisi koskea myös avoimia tekoälymalleja, mutta niiden valvonta on selvästi hankalampaa.
Lieu myöntää, että avoimen lähdekoodin ja vapaasti saatavilla olevien mallien kohdalla tappokytkimen toteuttaminen ei ole yksinkertaista.
Kun malli on kerran julkaistu verkossa, käyttäjät voivat ladata sen, muokata sitä ja ottaa sen käyttöön ilman alkuperäisen kehittäjän hallintaa.
Tappokytkinlaki kuvastaa laajempaa muutosta tekoälypolitiikassa. Kehittyneitä malleja ei enää nähdä pelkästään innovaatioina, vaan myös mahdollisina turvallisuusriskeinä.
Jos lakiehdotus etenee, se voisi muuttaa merkittävästi sitä, millaisia teknisiä turvamekanismeja tekoäly-yhtiöiltä vaaditaan Yhdysvalloissa.
