Машины бослогоос зайлсхийхийг хичээх нь: Хиймэл оюун ухааны анхны үндсэн хууль

Хиймэл оюун ухаан (AI) технологийг бий болгох, хөгжүүлэх чиглэлээр мэргэшсэн профессорууд, хөгжүүлэгчид, инженерүүдийн бага хурал 5-р сарын 8--ны хооронд Калифорнид боллоо. Дөрвөн өдрийн идэвхтэй хэлэлцүүлгийн явцад одоо хэрэглэгдэж байгаа, цаашид хэрэгжүүлэх ёстой хиймэл оюун ухааны зарчмуудын жагсаалтыг гаргав. Үнэн хэрэгтээ сүүлийн хэдэн арван жилийн хугацаанд хүн төрөлхтний машин сургалтын салбарт олсон ололт амжилтын тодорхой хураангуйг нэгтгэн дүгнэв.

Ерөнхийдөө "Хиймэл оюун ухаан" нь хүний ​​тархи, оюун ухаантай шууд холбоотой биш юм. Энэ нэр томъёоны зохиогч Америкийн компьютерийн эрдэмтэн Жон Маккарти энэ ойлголтыг ингэж тайлбарлаж байна: "Асуудал нь бид ямар тооцооллын процедурыг ухаалаг гэж нэрлэхийг ерөнхийд нь хараахан тодорхойлж чадахгүй байгаа явдал юм. Бид оюун ухааны зарим механизмыг л ойлгодог. Тиймээс, Энэхүү шинжлэх ухааны хүрээнд тагнуулын хүрээнд дэлхий дээрх зорилгодоо хүрэх чадварын зөвхөн тооцооллын бүрэлдэхүүн хэсэг л ойлгогддог. Энэ тухай 1956 онд Дартмутийн их сургуулийн бага хурал дээр зарласан.

Цаг хугацаа Маккартигийн үгийг батлав. Өнөөдөр бид зорилгодоо хүрэхийн тулд мэдээллийн хэрэгслийг ашиглаж байгаа бөгөөд дэлхийг хялбарчлах эсвэл ирээдүйн талаар бодох тухай бидний санаанууд программ хангамжийн кодтой улам бүр нягт холбоотой байдаг. Тийм ээ, бид ижил бүтээлүүдийн санааг өөрчилсөн, гэхдээ бид тэдний хаа сайгүй байхыг үгүйсгээгүй.

Тиймээс эмхэтгэсэн бүх 23 "ирээдүйн хууль"-ийг шинжлэх ухааны судалгааны асуудал, ёс зүй, үнэт зүйлс, технологийн хэтийн төлөв гэсэн гурван бүлэгт хуваасан.

Хиймэл оюун ухааны үндсэн хууль

Судалгааны сегмент

1. Хиймэл оюун ухааны судалгааны зорилго нь зөвхөн нарийн төвлөрсөн төхөөрөмжийг бий болгох төдийгүй бүх нийгэмд ашиг тустай байх явдал юм.

2. Хиймэл оюун ухаанд оруулсан хөрөнгө оруулалт нь мэдээлэл зүй, эдийн засаг, хууль зүй, ёс зүй, нийгмийн шинжлэх ухааны эдгээр асуултуудад илүү үнэн зөв, ерөнхий хариулт өгөх боломжийг олгодог технологийн ашиг тусыг хангах судалгааны салбарт чиглэгдэх ёстой.

• AI-ийн өндөр найдвартай байдлыг хэрхэн хангах, хакерын халдлагыг амжилттай эсэргүүцэх, доголдлоос урьдчилан сэргийлэх вэ?
• Хамгийн бага нөөцийг зарцуулж, автоматжуулалтын тусламжтайгаар бид хүссэн зорилгодоо хэрхэн хүрэх вэ?
• Хиймэл оюун ухаан үүссэнийг харгалзан орчин үеийн хууль ёсны дагуу шударга ёсыг хангах хууль эрх зүйн тогтолцоог хэрхэн чадварлаг шинэчлэх вэ?
• AI ямар хууль эрх зүйн болон үндэстний статусыг хүлээн авах вэ?

3. Судлаачид, улс төрчдийн бүтээлч, эрх тэгш харилцааг хангах.

4. Хиймэл оюун ухааныг цаашид ашиглах соёлын ололтыг бүрэн нээлттэй, ил тод болгох.

5. Хурц өрсөлдөөнөөс зайлсхийхийн тулд хиймэл оюун ухаан судлаачдын харилцан үйлчлэл, хамтын ажиллагаа.

Ёс суртахууны үнэт зүйлс

6. Хиймэл оюун ухааны системүүд нь ашиглалтын бүх хугацаанд аюулгүй, найдвартай байх ёстой.

7. Асуудлын шалтгааныг аль болох хурдан олж, дараа нь арилгах.

8. Шүүхийн шийдвэрт бие даасан тогтолцооны аливаа хөндлөнгийн оролцоо нь эрх бүхий байх ёстой бөгөөд комиссын эрх бүхий гишүүн (хүн) баталгаажуулсан тохиолдолд тайлагнах ёстой.

9. Дизайн эсвэл програм хангамжийн алдаанаас үүдэлтэй гэмтэл, аюултай нөхцөл байдлыг санаатайгаар бий болгох хариуцлага нь хөгжүүлэгчид, инженерүүдийн мөрөн дээр байдаг.

10. Бүх бие даасан хиймэл оюун ухааны системүүд хүн төрөлхтний үнэт зүйлсийн талаарх мэдлэгийг эрэлхийлэх ёстой.

11. Хиймэл оюун ухааныг хүний ​​нэр төр, эрх, эрх чөлөө, соёлын олон талт байдлын үзэл баримтлалд нийцүүлэн боловсруулж, ажиллуулах ёстой.

12. Хүний хиймэл оюун ухааныг ашиглах явцад бий болсон мэдээлэл нь ирээдүйд нэг хүнд нээлттэй байх ёстой (үр дүн болон цуглуулсан өгөгдлийг удирдах боломж).

13. Хувийн мэдээлэлтэй ажиллахдаа хиймэл оюун ухаан нь хүмүүсийн бодит болон төсөөлсөн эрх чөлөөг үндэслэлгүйгээр хязгаарлаж болохгүй.

14. AI технологи нь ашиг тусаа өгч, аль болох олон хүнд хүртээмжтэй байх ёстой.

15. Хиймэл оюун ухааны эдийн засаг, нийгмийн ололт амжилт нь дэлхий нийтийнх бөгөөд хүн төрөлхтний тусын тулд чиглэгдэх ёстой.

16. Хүнд бие даан шийдвэр гаргах эсвэл AI-д даатгах гэсэн сонголт үргэлж байдаг.

17. Хиймэл оюун ухааны зорилго нь сүйрэл, сүйрэл авчрахгүйгээр нийгмийг сайжруулах, баяжуулах явдал юм.

18. Зэвсэгт хүчний өрсөлдөөнд хиймэл оюун ухааны технологийг ашиглах магадлалыг тэглэх ёстой, үнэндээ зэвсэгт өрсөлдөөн бас зогсох ёстой.

Урт хугацааны асуудлууд

19. Бид нөөцийг зүй бусаар зарцуулахаас зайлсхийхийн тулд хиймэл оюун ухааны чадамжийн хязгаарыг туйлын ухаалаг үнэлэх ёстой.

20. AI-ийн хөгжил эрчимтэй явагдах тул эргэлт буцалтгүй урвал үүсгэхгүйн тулд технологи нь хяналтанд байх ёстой.

21. Эрсдэл, ялангуяа том хэмжээний эрсдэлийг учирч болзошгүй алдагдлыг багасгах үүднээс төлөвлөх хэрэгтэй.

22. AI систем нь өөрийгөө хөгжүүлэх, нөхөн үржих чадвартай тул хиймэл оюун ухааны үйл ажиллагааны чанар муудаж болзошгүй тул үндсэн үзүүлэлтүүдийг тогтмол хянаж байх ёстой.

23. Супер тагнуул гэдэг нь ямар нэгэн хувийн байгууллага, төрийн захиргаанд захирагдахгүйгээр бүх хүн төрөлхтний тусын тулд үйлчилж, үйлчлэх технологи юм.

Мөн уншина уу: Hyperloop: Вакуум галт тэрэгний уралдааныг яах вэ?

Илтгэлийн гол тезисүүдийг товч эргэн саная. Хиймэл оюун ухаан эрчимтэй хөгжиж байгаа энэ үед мэргэжилтнүүд өөрсдийн хоцрогдолдоо санаа зовж байгаа тул технологид үнэмлэхүй хяналт тавихыг хичээдэг. Хиймэл оюун ухааны дэлхийн нийтийн үнэ цэнэ, түүнийг хүн төрөлхтний соёлд нэгтгэх талаар ч удаа дараа онцолж байна. Гэхдээ энэ төлөвлөгөө хэрэгжих эсэхийг бид удахгүй мэдэх болно. Хиймэл оюун ухаан нь гөлөг шиг, одоо гүйж, тоглож байна, гэхдээ эцэст нь ямар нохой байх нь юуны түрүүнд эздээс хамаарна.

Одоогийн байдлаар энэхүү "хуулийн төсөл" нь дэлхийн иргэдээр батлагдах шатандаа байгаа тул аюулгүй, аз жаргалтай, технологийн ирээдүйг хүсч байвал чөлөөтэй байгаарай "санал өгөх” эдгээр туйлын үндэслэлтэй бөгөөд зайлшгүй шаардлагатай зарчмуудыг хэрэгжүүлэхийн тулд.

Тюринг тест ба хиймэл оюун ухаан

Агуу математикч Алан Тюринг ч хиймэл оюун ухааны технологид оролцдог байсан тул маш сонирхолтой тест гаргаж иржээ. Тьюрингийн тестийг анх 1950 онд Mind философийн хэвлэлд гарсан "Компьютерийн машин ба оюун ухаан" өгүүлэлд танилцуулсан. Туршилтын санаа нь машины сэтгэлгээний чадвар, ерөнхийдөө түүний оршин тогтнох чадварыг тодорхойлох явдал юм.

Стандарт тайлбар нь дараах байдалтай байна: "Хүн нэг компьютер, нэг хүнтэй харилцдаг. Асуултуудын хариултанд үндэслэн тэрээр хэнтэй ярьж байгаагаа тодорхойлох ёстой: .. Хүн эсвэл компьютерийн програмтай. Компьютерийн программын үүрэг бол хүнийг төөрөгдүүлж, буруу сонголт хийхэд хүргэдэг." Туршилтын зорилго нь яриа таних төхөөрөмжийн техникийн чадавхийг шалгах бус харин хүний ​​сэтгэхүйг дуурайх чадварыг шалгахад оршдог тул бүх оролцогчид бие биенээ харж чадахгүй, харилцаа холбоо нь туршилтын хэлбэрээр явагддаг.

Мөн захидал харилцааг хяналттай интервалаар явуулдаг бөгөөд ингэснээр "шүүгч" хариултын хурд дээр үндэслэн дүгнэлт гаргах боломжгүй болно. Энэхүү тестийг бүтээх үед компьютерууд хүнээс илүү удаан хариу үйлдэл үзүүлдэг байсан тул одоо хүн хоцрогдсон тул одоо үүнийг хийх шаардлагатай болсон тул энэ дүрмийг зохион бүтээсэн нь сонирхолтой юм.

Мөн энэ тест дээр үндэслэн ярилцагчийн хүйсийг тодорхойлох ижил төстэй тестийг бий болгосон. Шүүгчийн дүрд С тоглогч А, В тоглогчид, үнэндээ эрэгтэй, эмэгтэй хүмүүстэй харилцах ёстой.

AI-ийн талаарх нэгэн судалгааны өгүүлэлд дараах тайлбарыг хийсэн байна: "Одоо бид "Энэ тоглоомонд машин А тоглогчийн үүргийг гүйцэтгэвэл яах вэ" гэж асууж байна, хэрэв тоглоомыг ингэж тоглох үед, хэрэв тест нь хүн болон бусадтай холбоотой бол хост буруу шийдвэр гаргах уу? эмэгтэй? Эдгээр асуултууд бидний анхны асуултыг орлох болно: "машин бодож чадах уу"".

Өөрөөр хэлбэл, туйлын хол зөрүүтэй асуултын оронд бид илүү хялбар асуултуудад хариулж, үүнийг тууштай хийх бөгөөд ингэснээр хиймэл оюун ухааны оюун ухааны чадварын талаархи гол асуултын удаан хүлээгдэж буй хариулт руу улам бүр ойртох болно.

Эх сурвалжууд: Ирээдүйн амьдрал, Википедиа болон бусад Википедиа