OpenAI, Google, Anthropic i druge generativne AI kompanije nastavljaju da poboljšavaju svoju tehnologiju i proizvode sve bolje i bolje modele velikih jezika. Kako bi stvorili zajednički pristup za neovisnu procjenu sigurnosti ovih modela, vlade Velike Britanije i SAD potpisale su Memorandum o razumijevanju.
Britanski institut za sigurnost umjetne inteligencije i njegov američki kolega, o čijem stvaranju je potpredsjednica Kamala Harris ranije govorila, ali tek treba da se pokrene, zajednički će razviti testne pakete kako bi procijenili rizike i osigurali sigurnost "najmodernijih AI modela".
U okviru partnerstva, instituti će dijeliti tehničko znanje, informacije, pa čak i osoblje, a jedan od njihovih početnih ciljeva čini se zajedničko testiranje na javno dostupnom modelu. Britanska sekretarka za nauku Michelle Donelan, koja je potpisala ugovor, rekla je da se "stvarno moraju brzo pokrenuti" jer se očekuje da će se nova generacija modela pojaviti u narednoj godini AI, koji mogu "potpuno promijeniti pravila igre", a trenutno se sa sigurnošću ne zna za šta će sve biti sposobni.
https://twitter.com/SecRaimondo/status/1774972138740408585
Ovo partnerstvo je prvi bilateralni sporazum o AI sigurnosti u svijetu, iako i SAD i Velika Britanija planiraju udružiti snage s drugim zemljama u budućnosti. "AI je tehnologija koja određuje našu generaciju. Ovo partnerstvo će ubrzati rad obje naše institucije u cijelom spektru rizika, kako za našu nacionalnu sigurnost, tako i za društvo u cjelini, rekla je američka sekretarka za trgovinu Gina Raimondo. - Naše partnerstvo jasno pokazuje da ne bježimo od ovih problema. Kroz našu saradnju, naši instituti će bolje razumjeti AI sisteme, provoditi robusnije procjene i dati rigoroznije preporuke.”
Dok se ovo konkretno partnerstvo fokusira na testiranje i evaluaciju, vlade širom svijeta također razvijaju propise kako bi AI alate držali pod kontrolom. Još u martu, Bijela kuća je potpisala izvršnu naredbu koja ima za cilj osigurati da federalne agencije koriste samo one alate AI koji "ne ugrožavaju prava i sigurnost američkog naroda".
Nadovezujući se na Samit o sigurnosti umjetne inteligencije u Velikoj Britaniji, upravo sam potpisao značajan sporazum sa SAD-om – ključni trenutak u osiguravanju globalne sigurnosti AI.
I potencijalne koristi i rizici od AI su globalnog razmjera, tako da će nam ovaj rad pomoći da sigurno iskoristimo AI i poboljšamo živote širom svijeta🌍 slikatwitter.com/CSkzUbpyOw
— Michelle Donelan poslanica (@michelledonelan) April 2, 2024
Prije ovoga Evropski parlament usvojio veliki zakon o regulisanju AI. Zabranjuje "AI koji manipuliše ljudskim ponašanjem ili iskorištava ljudske ranjivosti", "biometrijske sisteme kategorizacije zasnovane na osjetljivim karakteristikama" i "neciljano skeniranje" lica sa CCTV snimaka i interneta kako bi se stvorile baze podataka za prepoznavanje lica. Osim toga, prema pravilima, “deepfakes” i druge slike, video i audio zapisi generirani umjetnom inteligencijom moraju biti označeni na odgovarajući način.
A neki dan, Predstavnički dom američkog Kongresa uveo je zabranu korištenja AI asistenta od strane kongresnog osoblja Microsoft Copilot zbog sigurnosnih razloga. Ranije je slična zabrana uvedena i za ChatGPT.
Pročitajte također: