Mystisk Projekt Q* från OpenAI väcker oro bland experter. Kan han verkligen vara farlig för mänskligheten? Vad är känt om honom? Efter att Sam Altman först fick sparken förra veckan och han och teamet nästan flyttade in i Microsoft, sedan återvände han tillbaka till sin arbetsplats (om det vi skrev här), OpenAI är i nyheterna igen. Den här gången på grund av vad vissa forskare kallar ett möjligt hot mot mänskligheten. Ja, du läste rätt, ett hot mot mänskligheten.
Den verkliga omvälvningen i teknikvärlden orsakades av Project Q* - ett hemligt projekt för allmän artificiell intelligens (AGI) - uttalas Q-Star. Även om detta projekt är i ett tidigt skede anses det vara verkligt banbrytande i AGI-utvecklingen. Vissa ser det dock som en fara för mänskligheten.
Ett hemligt artificiell intelligensprojekt utvecklat av det berömda artificiella intelligenslaboratoriet OpenAI har potential att revolutionera tekniken och samhället i allmänhet. Men det väcker också en del etiska frågor om riskerna. När detaljer dyker upp om Project Q*s häpnadsväckande kapacitet, dyker det upp fler och fler spekulationer om vad det kan betyda för mänsklighetens framtid.
Också intressant: Historia om OpenAI: Vad det var och vad som ligger framför företaget
Vad är artificiell allmän intelligens (AGI)?
För att förstå hypen kring Project Q* (Q-Star), låt oss först försöka förstå vad begreppet artificiell allmän intelligens (AGI) handlar om. Medan nuvarande system för artificiell intelligens utmärker sig i smala, specifika uppgifter som att spela schack eller skapa bilder, hänvisar allmän artificiell intelligens till maskiner som kan lära sig och tänka på mänsklig nivå inom många domäner. Det vill säga att de kan studera som små barn i skolan, till exempel grunderna i matematik, kemi, biologi osv.
General Artificial Intelligence (AGI) är en typ av maskinintelligens som hypotetiskt kan efterlikna mänsklig intelligens eller beteende, med förmågan att lära sig och tillämpa den potentialen för att lösa en mängd olika problem. AGI kallas också för stark artificiell intelligens, full artificiell intelligens eller artificiell intelligens på mänsklig nivå. Allmän artificiell intelligens skiljer sig från svag eller smal AI, som bara kan utföra specifika eller specialiserade uppgifter inom givna parametrar. ZHI kommer att självständigt kunna lösa olika komplexa problem från olika kunskapsområden.
Att skapa artificiell intelligens är huvudfokus för forskning om artificiell intelligens av företag som DeepMind och Anthropic. CSI är ett mycket populärt ämne inom science fiction-litteratur och kan komma att forma framtida forskning. Vissa hävdar att det är möjligt att skapa ett UCI inom år eller decennier, medan andra hävdar att det kan ta ett sekel eller mer. Men det finns de som tror att detta aldrig kommer att uppnås. Vissa har sett början på en URI i GPT-3, men det verkar fortfarande vara långt ifrån att uppfylla de grundläggande kriterierna.
Skapandet av artificiell allmän intelligens (AGI) anses av forskare vara den artificiella intelligensens heliga gral, en teoretisk möjlighet som länge har fångat deras fantasi. Därför orsakade utseendet på ett sådant projekt som OpenAI Project Q* en stor resonans i världen av forskning om artificiell intelligens. Även om alla förstår att detta bara är de första stegen, nästan blint, till en värld där artificiell intelligens kommer att ha samma förmåga som människor, eller till och med högre.
Också intressant: Allt om Microsoft Copilot: framtiden eller på fel sätt?
Vad är Project Q*?
Projekt Q* är inte en typisk algoritm eftersom det är en artificiell intelligensmodell som alltmer närmar sig modellen för artificiell allmän intelligens (AGI). Detta innebär att till skillnad från ChatGPT visar Project Q* bättre tänkande och kognitiva färdigheter jämfört med andra algoritmer. ChatGPT svarar för närvarande på frågor baserade på en stor mängd faktamaterial, men med AGI kommer AI-modellen att lära sig resonemang och förmågan att tänka och förstå själv. Det är redan känt att Project Q* kan lösa enkla matematiska problem som inte ingick i utbildningsmaterialet. I detta ser vissa forskare ett betydande steg mot skapandet av allmän artificiell intelligens (AGI). OpenAI definierar AGI som artificiell intelligens som är smartare än människor.
Utvecklingen av Project Q* leds av OpenAI-chefsforskaren Ilya Sutzkever, och dess grund har underbyggts av forskarna Jakub Pakhotsky och Shimon Sidor.
Förmågan hos en algoritm att lösa matematiska problem på egen hand, även om dessa problem inte var en del av träningsdatauppsättningen, anses vara ett genombrott inom området artificiell intelligens. Oenigheter i teamet angående detta projekt är förknippade med det tillfälliga avlägsnandet av OpenAI:s vd Sam Altman. Det är känt att innan Altman fick sparken skickade en grupp företagsforskare ett brev till styrelsen där de varnade för upptäckten av AI som kan utgöra ett hot mot mänskligheten. Det brevet, som enligt uppgift diskuterade Project Q*-algoritmen, citerades som en av faktorerna som ledde till att Altman sparkades. Möjligheterna hos Project Q* och de potentiella riskerna det kan innebära är dock inte helt klarlagda eftersom detaljerna är okända. Ingenting har släppts till allmänheten.
I grund och botten är Project Q* en modellfri förstärkningsinlärningsmetod som avviker från traditionella modeller genom att inte kräva några förkunskaper om miljön. Istället lär den sig genom erfarenhet och anpassar handlingar baserat på belöningar och straff. Tekniska experter tror att Project Q* kommer att kunna få enastående förmågor genom att förvärva förmågor som liknar mänskliga kognitiva förmågor.
Det är dock denna funktion som är mest imponerande i den nya modellen för artificiell intelligens som oroar forskare och kritiker och väcker deras rädsla för de verkliga tillämpningarna av tekniken och de underliggande riskerna. Vad är forskare och forskare så rädda för? Låt oss ta reda på det.
Också intressant: Hur du uppdaterar dina hemenheter för att stödja Wi-Fi 6
De är rädda för det okända
Människor har alltid varit rädda för det okända, det okända. Detta är den mänskliga essensen, en egenskap hos vår karaktär och vårt sätt att leva.
Teknikvärlden lärde sig om Project Q* i november 2023 efter Reuters rapporterad om ett internt brev skrivet av berörda OpenAI-forskare. Innehållet i brevet var vagt, men det har enligt uppgift på allvar analyserat kapaciteten hos Project Q*. Som jag nämnde ovan finns det till och med spekulationer om att det var detta brev som utlöste Sam Altmans avgång.
Denna explosiva upptäckt har gett upphov till olika hypoteser angående projektet Q*s natur. Forskare har föreslagit att detta kan vara en revolutionerande naturlig språkmodell för AI. En sorts uppfinnare av nya algoritmer som ska skapa dem för andra former av AI, eller något helt annat inom detta område.
Altmans provocerande kommentarer om allmän artificiell intelligens som "genomsnittlig anställd" har redan väckt oro för anställningstrygghet och den ostoppbara expansionen av AI:s inflytande. Denna mystiska algoritm definieras som en milstolpe i utvecklingen av Artificial General Intelligence (AGI). Alla förstår dock att denna milstolpe är dyr. Och det handlar inte om pengar nu. Nivån på kognitiva färdigheter som utlovas av den nya AI-modellen medför osäkerhet. OpenAI-forskare lovar att AI kommer att tänka på mänsklig nivå. Och det gör att vi inte kan veta många saker och förutse konsekvenserna. Och ju mer okänt, desto svårare är det att förbereda sig för att kontrollera eller fixa det. Det vill säga, den nya algoritmen är kapabel till självförbättring och utveckling. Vi har redan sett detta någonstans...
Också intressant: Windows 12: Vad blir det nya operativsystemet
Fantastiska detaljer om Project Q:s kapacitet*
När mer information började dyka upp chockade det många forskare. Tidiga indikationer var att Project Q* hade en fantastisk förmåga till matematik. Till skillnad från en miniräknare som utför mekaniska beräkningar, kan Project Q* förmodligen använda logik och resonemang för att lösa komplexa matematiska problem. Denna matematiska förmåga att generalisera antyder utvecklingen av en bred intelligens.
Autonom träning av Project Q*, utan de specifika datamängder som används för att träna typiska AI:er, kommer också att vara ett stort steg framåt. Det är fortfarande okänt om Project Q* har bemästrat några andra färdigheter. Men hans matematiska förmågor är så fantastiska i sig att de förvirrar även erfarna forskare.
Läs också: Human Brain Project: Ett försök att imitera den mänskliga hjärnan
Projekt Q*s väg till dominans?
Det finns både optimistiska och pessimistiska scenarier i denna fråga. Optimister kommer att säga att Project Q* kan vara gnistan som leder till ett tekniskt genombrott. När systemet rekursivt självförbättras, kan dess övernaturliga intelligens hjälpa till att lösa några av mänsklighetens viktigaste problem, från klimatförändringar till sjukdomskontroll. Project Q* kan automatisera tråkigt arbete och frigöra vår fritid för andra aktiviteter.
Även om det finns många fler pessimistiska alternativ. Ibland är de ganska rimliga och har en viss betydelse.
Förlust av jobb
Snabba förändringar i utvecklingen av teknik kan gå snabbare än människors individuella anpassning. Detta kommer att leda till förlust av en eller flera generationer som inte kommer att kunna skaffa sig nödvändiga färdigheter eller kunskaper för att anpassa sig till nya verkligheter. Det vill säga att detta i sin tur gör att färre kommer att kunna behålla sina jobb. Det kommer istället att utföras av maskiner, automatiserade system och robotar. Men svaret är inte så entydigt när det gäller kvalificerade specialister. Dessutom kan nya yrken relaterade specifikt till utvecklingen av artificiell intelligens-algoritmer dyka upp. Men det finns fortfarande risker, och mänskligheten har ingen rätt att ignorera dem.
Faran med okontrollerad makt
Om en AI så kraftfull som Project Q* hamnar i händerna på personer med skändliga avsikter, riskerar det katastrofala konsekvenser för mänskligheten. Även utan potentiellt skadlig avsikt kan beslutsfattandenivån för Project Q* leda till skadliga resultat, vilket understryker den avgörande vikten av en noggrann utvärdering av dess tillämpning.
Om Project Q* är dåligt optimerat för mänskliga behov, kan det orsaka skada med dess förmåga att maximera vissa godtyckliga mätvärden. Eller så kan den ha en politisk dimension, som att den används för statlig övervakning eller förtryck. En öppen debatt kring konsekvensanalysen av Projekt Q* kommer att hjälpa till att definiera möjliga scenarier för utvecklingen av ZHI.
Är vi inne på en "Man vs. Machine"-uppgörelse?
Hollywood har redan skapat många scenarier av en sådan konfrontation i sina filmer. Vi minns alla det berömda SkyNet och konsekvenserna av en sådan upptäckt. OpenAI-forskare kanske borde se den här filmen igen?
Mänskligheten måste acceptera signaler och utmaningar och vara beredd på vad som kan hända. En artificiell intelligensmodell som kan tänka som en människa kan en dag bli vår fiende. Många skulle hävda att forskare i framtiden kommer att veta exakt hur de ska hålla situationen under kontroll. Men när det kommer till maskiner kan man inte helt utesluta att de kommer att försöka ta över människor.
Också intressant: Inte allt vi kallar AI är faktiskt artificiell intelligens. Här är vad du behöver veta
Varför är OpenAI tyst?
Trots det frenesi av allmänhetens intresse för Project Q*, håller OpenAI:s ledning tyst om detaljerna i algoritmen. Men den interna läckan visar växande spänningar i labbet över prioriteringar och öppenhet i utvecklingen. Även om många OpenAI-insiders stöder skapandet av Project Q*, hävdar kritiker att transparensen har hamnat i baksätet för att påskynda vetenskapliga framsteg till varje pris. Och vissa forskare är oroade över att otrolig makt ges till system vars mål inte nödvändigtvis sammanfaller med mänskliga värderingar och etik. Dessa forskare tror att debatter kring tillsyn och ansvarsskyldighet har blivit farligt dämpade. De kräver mer publicitet och detaljer.
Som skaparna av Project Q* måste OpenAI förstå att de har en teknologi som antingen kan utöka möjligheterna för samhällets utveckling avsevärt eller hänsynslöst förstöra den. Sådana betydande innovationer förtjänar mycket större transparens för att bygga upp allmänhetens förtroende. Alla prognostiker för maskinåldern måste noggrant väga riskerna vid sidan av fördelarna. Och utvecklarna av Project Q* behöver visa tillräckligt med visdom och omsorg för att säkert föra samhället in i en ny era av allmän artificiell intelligens som kan komma snabbare än vi någonsin föreställt oss.
För att allmän artificiell intelligens ska vara användbar och säker för mänskligheten måste den säkerställas att den fungerar säkert, etiskt och i enlighet med mänsklighetens värderingar och mål. Detta kräver utveckling och implementering av lämpliga lagar, standarder, regler och protokoll som kommer att kontrollera och begränsa CSI:s handlingar och beteende. Dessutom måste de potentiella hoten och riskerna i samband med övergrepp, olyckor, oförenligheter, manipulationer och konflikter som kan leda till mänsklighetens förstörelse elimineras. Under tiden investerare och Microsoft väntar ivrigt på en säljbar produkt som kan generera vinst, vilket utan tvekan strider mot behovet av att agera ansvarsfullt. Låt oss hoppas att sunt förnuft segrar.
Läs också: