Fredag ​​den 29. marts 2024

Desktop v4.2.1

Root NationНовиниIT nyhederTeknologieksperter kræver et stop for AI-eksperimenter

Teknologieksperter kræver et stop for AI-eksperimenter

-

Teknologiledere og fremtrædende AI-forskere har skrevet under åbent brev, som opfordrer AI-laboratorier og virksomheder til "straks at suspendere" deres arbejde.

Underskrivere, herunder Steve Wozniak og Elon Musk, er enige om, at risiciene kræver mindst seks måneders pause fra produktionen af ​​teknologier, der går ud over omfanget GPT-4. Dette er for at få glæden og tilfredsheden ud af de AI-systemer, der findes nu, og for at give folk mulighed for at tilpasse sig dem og se, at de er nyttige.

Teknologiledere og eksperter opfordrer til et stop for AI-eksperimenter

Brevet tilføjer, at der er behov for forsigtighed og omtanke for at sikre sikkerheden af ​​AI-systemer, men de bliver ignoreret. Henvisningen til GPT-4, en ny OpenAI-model, der kan reagere med tekst på skrevne eller visuelle beskeder, kommer, mens virksomheder kapløb om at bygge sofistikerede chatsystemer ved hjælp af teknologien. Eksempel, Microsoft bekræftede for nylig, at dens opdaterede Bing-søgemaskine har kørt på GPT-4-modellen i over 7 uger, og Google introducerede for nylig officielt Bard – eget generativt kunstig intelligenssystem baseret på LaMDA.

Bekymringer om kunstig intelligens har eksisteret i lang tid, men kapløbet om at anvende den mest avancerede teknologi er tydeligt kunstig intelligens den første er allerede alarmerende. "I de seneste måneder har AI-laboratorier været involveret i et ukontrolleret kapløb om at udvikle og implementere stadig mere kraftfulde digitale hjerner, som ingen - ikke engang deres forfattere - kan forstå, forudsige eller pålideligt kontrollere," hedder det i brevet.

Teknologiledere og eksperter opfordrer til et stop for AI-eksperimenter

Brevet blev udgivet af non-profit organisationen Future of Life Institute (FLI), som arbejder for at minimere globale katastrofale og eksistentielle risici og misbrug af nye teknologier, især AI. Tidligere donerede Musk $10 millioner til FLI til AI-sikkerhedsforskning. Ud over ham og Wozniak omfatter underskriverne en række verdensledere inden for AI, såsom Center for AI og Digital Policy-præsident Mark Rothenberg, MIT-fysiker og FLI-præsident Max Tegmark og forfatter Yuval Noah Harari.

Harari var også medforfatter til en udtalelse i New York Times i sidste uge, hvor han advarede om de risici, der er forbundet med kunstig intelligens, hvor grundlæggerne af Center for Humane Technologies og andre underskrivere af det åbne brev, Tristan Harris og Aza Raskin, arbejdede sammen med ham.

Opkaldet følger en undersøgelse sidste år af mere end 700 maskinlæringsforskere, hvor næsten halvdelen sagde, at der var omkring 10 % chance for "ekstremt dårlige konsekvenser" fra AI, herunder menneskelig udryddelse. Da de blev spurgt om sikkerhed i AI-forskning, sagde 68 % af de adspurgte, at der skal gøres mere eller meget mere.

Læs også:

DzhereloEngadget
Tilmelde
Giv besked om
gæst

0 Kommentarer
Indlejrede anmeldelser
Se alle kommentarer
Andre artikler
Abonner for opdateringer

Seneste kommentarer

Populær nu
0
Vi elsker dine tanker, kommenter venligst.x
()
x