Med tillkomsten av ChatGPT, Bard och andra stora AI-modeller har vi hört varningar från personer inblandade i dem, som Elon Musk, om riskerna AI utgör. Nu har en grupp framstående industriledare utfärdat ett uttalande med en mening som faktiskt bekräftar dessa farhågor.
Ansökan lades upp den på webbplatsen för Artificial Intelligence Security Center (Center for AI Safety) är en organisation vars uppdrag är att "minska riskerna förknippade med artificiell intelligens i en samhällelig skala." Bland undertecknarna finns välkända representanter för industrin för artificiell intelligens, inklusive verkställande direktören för OpenAI Sam Altman och chefen Google DeepMind Demis Hassabis. Turing Award-vinnarna Geoffrey Hinton och Joshua Bengio, som av många anses vara den moderna AI:s gudfäder, skrev också under uttalandet.
Detta är det andra uttalandet av detta slag under de senaste månaderna. I mars krävde Musk, Steve Wozniak och mer än 1000 XNUMX andra en sex månaders paus i AI-utvecklingen för att tillåta industrin och allmänheten att effektivt bemästra tekniken. "Under de senaste månaderna har AI-labb varit indragna i ett okontrollerat lopp för att utveckla och implementera allt kraftfullare digitala sinnen som ingen - inte ens deras skapare - kan förstå, förutsäga eller på ett tillförlitligt sätt kontrollera", står det i brevet.
Även om AI (förmodligen) inte är lika självmedveten som en del rädsla, utgör den redan risker för missbruk och skada genom djupa förfalskningar, automatiserad desinformation och mer. AI kan också förändra sättet att producera innehåll, konst och litteratur, vilket kan påverka många jobb.
USA:s president Joe Biden sa nyligen att det "återstår att se" om AI är farligt, och tillade: "Enligt min mening har teknikföretag en skyldighet att se till att deras produkter är säkra innan de släpper ut dem i världen... AI kan hjälpa till att hantera några mycket svåra problem som sjukdomar och klimatförändringar, men det måste också beakta de potentiella riskerna för vårt samhälle, vår ekonomi, vår nationella säkerhet.” Vid ett möte nyligen i Vita huset efterlyste Altman reglering av AI på grund av de potentiella riskerna.
Med tanke på det breda utbudet av åsikter syftar den nya rapporten till att visa en delad oro för riskerna förknippade med artificiell intelligens, även om parterna är oense om vilka dessa risker är.
"Experter på artificiell intelligens, journalister, politiker och allmänheten diskuterar i allt högre grad en lång rad viktiga och pressande risker förknippade med artificiell intelligens", står det i ingressen till uttalandet. ”Det kan dock vara svårt att uttrycka oro över några av de allvarligare riskerna som är förknippade med artificiell intelligens. Det kortfattade uttalandet nedan syftar till att övervinna detta hinder och öppna upp diskussionen. Den är också utformad för att informera det växande antalet experter och offentliga personer som också tar några av de allvarligaste riskerna i samband med artificiell intelligens på allvar."
Läs också: