OpenAI, Google, Anthropic in druga generativna podjetja umetne inteligence še naprej izboljšujejo svojo tehnologijo in izdelujejo vedno boljše velike jezikovne modele. Za ustvarjanje skupnega pristopa za neodvisno ocenjevanje varnosti teh modelov sta vladi Združenega kraljestva in ZDA podpisali memorandum o soglasju.
Britanski inštitut za varnost umetne inteligence in njegov ameriški kolega, o ustanovitvi katerega je pred tem govorila podpredsednica Kamala Harris, a ga še nista lansirala, bosta skupaj razvila testne pakete za oceno tveganj in zagotavljanje varnosti "najsodobnejših modelov umetne inteligence".
V okviru partnerstva si bosta inštituta izmenjevala tehnično znanje, informacije in celo osebje, eden od njunih začetnih ciljev pa se zdi skupno testiranje na javno dostopnem modelu. Ministrica za znanost Združenega kraljestva Michelle Donelan, ki je podpisala pogodbo, je dejala, da se morajo "res hitro premakniti", saj naj bi se nova generacija modelov pojavila v naslednjem letu AI, ki lahko "povsem spremenijo pravila igre", trenutno pa se ne ve zagotovo, česa bodo sposobni.
https://twitter.com/SecRaimondo/status/1774972138740408585
To partnerstvo je prvi dvostranski sporazum o varnosti umetne inteligence na svetu, čeprav nameravata ZDA in Združeno kraljestvo v prihodnosti združiti moči z drugimi državami. "AI je odločilna tehnologija naše generacije. To partnerstvo bo pospešilo delo obeh naših institucij v celotnem spektru tveganj, tako za našo nacionalno varnost kot za družbo kot celoto, je dejala ameriška ministrica za trgovino Gina Raimondo. - Naše partnerstvo jasno kaže, da ne bežimo od teh težav. Z našim sodelovanjem bodo naši inštituti pridobili boljše razumevanje sistemov umetne inteligence, izvedli zanesljivejše ocene in predstavili strožja priporočila.«
Medtem ko se to posebno partnerstvo osredotoča na testiranje in vrednotenje, vlade po vsem svetu prav tako razvijajo predpise, s katerimi bodo orodja umetne inteligence ostale pod nadzorom. Že marca je Bela hiša podpisala izvršni ukaz, katerega cilj je zagotoviti, da zvezne agencije uporabljajo samo tista orodja AI, ki "ne ogrožajo pravic in varnosti Američanov."
Na podlagi vrha o varnosti umetne inteligence v Združenem kraljestvu sem pravkar podpisal pomemben sporazum z ZDA – ključni trenutek pri zagotavljanju globalne varnosti umetne inteligence.
Potencialne koristi in tveganja umetne inteligence so globalnega obsega, zato nam bo to delo pomagalo varno izkoristiti umetno inteligenco in izboljšati življenja po vsem svetu🌍 slikatwitter.com/CSkzUbpyOw
— Michelle Donelan MP (@michelledonelan) April 2, 2024
Pred tem Evropski parlament potrdil obsežen zakon o ureditvi umetne inteligence. Prepoveduje "umetno inteligenco, ki manipulira s človeškim vedenjem ali izkorišča človeške ranljivosti", "biometrične sisteme kategorizacije, ki temeljijo na občutljivih značilnostih" in "neciljno skeniranje" obrazov iz posnetkov CCTV in interneta za ustvarjanje podatkovnih zbirk za prepoznavanje obrazov. Poleg tega morajo biti v skladu s pravili »globinske ponaredke« in druge slike, videi in zvok, ki jih ustvari umetna inteligenca, ustrezno označeni.
Pred dnevi je predstavniški dom ameriškega kongresa uvedel prepoved uporabe pomočnika AI s strani kongresnega osebja Microsoft Kopilot zaradi varnosti. Prej je bila podobna prepoved uvedena za ChatGPT.
Preberite tudi: