Snaha vyhnúť sa strojovej revolte: Prvá ústava umelej inteligencie

Od 5. do 8. januára sa v Kalifornii konala konferencia profesorov, vývojárov a inžinierov špecializujúcich sa na tvorbu a vývoj technológií umelej inteligencie (AI). Počas štyroch dní aktívnych diskusií bol zostavený zoznam princípov AI, ktoré sa už teraz používajú a mali by sa aplikovať aj v budúcnosti. V skutočnosti sa podarilo zhrnúť určité zhrnutie úspechov ľudstva v oblasti strojového učenia za posledné desaťročia.

Vo všeobecnosti „umelá inteligencia“ priamo nesúvisí s ľudským mozgom a inteligenciou ako takou. Takto interpretuje tento pojem americký informatik John McCarthy, autor tohto pojmu: "Problémom je, že zatiaľ nevieme všeobecne definovať, aké výpočtové postupy chceme nazvať inteligentnými. Rozumieme len niektorým mechanizmom inteligencie. Preto, pod inteligenciou v medziach tejto vedy sa chápe len výpočtová zložka schopnosti dosahovať ciele vo svete. Toto bolo oznámené v roku 1956 na konferencii na Dartmouth University.

Čas McCarthyho slová potvrdil. Dnes na dosiahnutie našich cieľov využívame informačné nástroje a naše predstavy o zjednodušení sveta či premýšľaní o budúcnosti čoraz viac súvisia so softvérovým kódom. Áno, zmenili sme myšlienku rovnakých diel, ale absolútne sme nevylúčili ich všadeprítomnosť.

Všetkých 23 zostavených „zákonov budúcnosti“ bolo teda rozdelených do troch skupín: otázky vedeckého výskumu, etika a hodnoty, technologické perspektívy.

Ústava umelej inteligencie

Výskumný segment

1. Cieľom výskumu umelej inteligencie je vytvoriť nielen úzko zamerané zariadenie, ale prínos pre celú spoločnosť.

2. Investície do AI by mali smerovať do oblasti výskumu na zabezpečenie užitočnosti technológie, čo umožní poskytnúť presnejšie a zovšeobecnené odpovede na tieto otázky informatiky, ekonómie, práva, etiky, spoločenských vied:

• Ako zabezpečiť vysokú spoľahlivosť AI, úspešne odolávať útokom hackerov a jednoducho predchádzať poruchám?
• Ako môžeme pomocou automatizácie dosiahnuť vytúžený cieľ s vynaložením čo najmenšieho množstva zdrojov?
• Ako kompetentne aktualizovať právny systém, zabezpečiť spravodlivosť podľa moderného kánonu, berúc do úvahy vznik AI?
• Aký právny a etnický status získa AI?

3. Zabezpečenie konštruktívnej a rovnocennej interakcie výskumníkov a politikov.

4. Úplná otvorenosť a transparentnosť kultúrnych úspechov pre ďalšie využitie AI.

5. Interakcia a spolupráca medzi výskumníkmi AI s cieľom vyhnúť sa ostrej konkurencii.

Morálne hodnoty

6. Systémy umelej inteligencie musia byť bezpečné a spoľahlivé počas celého prevádzkového obdobia.

7. Čo najrýchlejšie zistiť príčiny problémov a ich následné odstránenie.

8. Akýkoľvek zásah autonómneho systému do súdnych rozhodnutí musí byť povolený a musí podliehať hláseniu v prípade overenia kompetentným členom komisie (osobou).

9. Zodpovednosť za škodu, úmyselné vytvorenie nebezpečnej situácie, spôsobené chybou dizajnu alebo softvéru, leží na pleciach vývojárov a inžinierov.

10. Všetky autonómne systémy AI by sa mali snažiť o poznanie univerzálnych ľudských hodnôt.

11. Umelá inteligencia musí byť navrhnutá a prevádzkovaná spôsobom, ktorý je zlučiteľný s ideálmi ľudskej dôstojnosti, práv, slobôd a kultúrnej rozmanitosti.

12. Informácie generované v procese používania AI osobou musia byť v budúcnosti dostupné tej istej osobe (možnosť spravovať výsledky a zozbierané údaje).

13. Umelá inteligencia pri práci s osobnými údajmi by nemala neprimerane obmedzovať skutočné alebo domnelé slobody ľudí.

14. Technológie umelej inteligencie by mali mať úžitok a mali by byť dostupné čo najväčšiemu počtu ľudí.

15. Ekonomické a sociálne úspechy AI sú globálne a mali by byť zamerané na prospech ľudstva.

16. Človek má vždy na výber: rozhodnúť sa nezávisle alebo ho zveriť AI.

17. Účelom AI je zlepšiť a obohatiť spoločnosť bez toho, aby priniesla ničenie a katastrofu.

18. Pravdepodobnosť použitia technológie AI v pretekoch v zbrojení by sa mala znížiť na nulu, v skutočnosti by sa malo zastaviť aj ozbrojené súperenie.

Dlhodobé problémy

19. Musíme úplne triezvo posúdiť limit schopností AI, aby sme sa vyhli iracionálnemu míňaniu zdrojov.

20. Vývoj AI bude intenzívny, preto musí byť technológia pod kontrolou, aby nevyvolávala nezvratné reakcie.

21. Riziká, najmä tie väčšieho rozsahu, by sa mali plánovať tak, aby sa zabezpečila minimalizácia možných strát.

22. Systémy umelej inteligencie sú schopné samovývoja a sebareprodukcie, čo môže spôsobiť zhoršenie kvality činnosti umelej inteligencie, preto by sa mala vykonávať pravidelná kontrola kľúčových ukazovateľov.

23. Superinteligencia je technológia, ktorá slúži a bude slúžiť v prospech celého ľudstva bez toho, aby sa podriaďovala akejkoľvek konkrétnej súkromnej organizácii alebo štátu.

Prečítajte si tiež: Hyperloop: Čo tak preteky vákuových vlakov?

V krátkosti si pripomeňme hlavné tézy správy. Špecialisti sa v momente intenzívneho vývoja AI obávajú vlastnej zaostalosti, preto sa snažia zabezpečiť absolútnu kontrolu nad technológiou. Opakovane sa zdôrazňuje aj globálna verejná hodnota AI a jej integrácia do ľudskej kultúry. Či sa tento plán podarí zrealizovať, sa však dozvieme už čoskoro. Umelá inteligencia je ako šteňa, teraz behá, hrá sa, ale aký pes to nakoniec bude, závisí predovšetkým od majiteľov.

Momentálne je tento „návrh zákona“ v štádiu schvaľovania občanmi Zeme, takže ak chcete bezpečnú, šťastnú a technologickú budúcnosť, potom neváhajte“hlasovať“ za prijatie týchto absolútne rozumných a nevyhnutných zásad.

Turingov test a umelá inteligencia

Technológiou AI sa zaoberal aj skvelý matematik Alan Turing, a tak prišiel s veľmi zaujímavým testom. Turingov test bol prvýkrát prezentovaný v článku „Computing machines and the mind“ vo filozofickej publikácii Mind v roku 1950. Myšlienkou testu je určiť schopnosti strojového myslenia a vo všeobecnosti jeho existenciu ako takú.

Štandardný výklad je nasledovný: "Človek komunikuje s jedným počítačom a jednou osobou. Na základe odpovedí na otázky musí určiť, s kým sa rozpráva: .. S osobou alebo počítačovým programom." Úlohou počítačového programu je uviesť človeka do omylu a prinútiť ho urobiť nesprávnu voľbu.“ Všetci účastníci sa navzájom nevidia a komunikácia prebieha v testovacom formáte, pretože účelom testu nie je otestovať technické možnosti zariadenia na rozpoznávanie reči, ale skôr schopnosť napodobňovať ľudské myslenie.

V kontrolovaných intervaloch sa vedie aj korešpondencia, aby „sudca“ nemohol vyvodiť záver na základe rýchlosti odpovedí. Je zaujímavé, že toto pravidlo bolo vymyslené kvôli tomu, že v čase vzniku tohto testu počítače reagovali pomalšie ako človek, teraz je to aj potrebné, lebo teraz človek zaostáva.

Aj na základe tohto testu bol vytvorený podobný test na určenie pohlavia účastníkov rozhovoru. V úlohe rozhodcu musí hráč C komunikovať s hráčmi A a B, vlastne mužom a ženou.

Jeden výskumný dokument o AI uviedol túto poznámku: „Teraz sa pýtame: ‚Čo sa stane, ak stroj v tejto hre vystupuje ako hráč A? žena? Tieto otázky nahradia našu pôvodnú: „dokážu stroje myslieť““.

To znamená, že namiesto jednej absolútne pritiahnutej otázky odpovieme na jednoduchšie a budeme to robiť dôsledne, čím sa priblížime k dlho očakávanej odpovedi na hlavnú otázku o mentálnych schopnostiach umelej inteligencie.

Zdroje: Budúcnosť života, Wikipedia a bude Wikipedia