כנס של פרופסורים, מפתחים ומהנדסים המתמחים ביצירה ופיתוח של טכנולוגיות בינה מלאכותית (AI) התקיים בקליפורניה בין ה-5 ל-8 בינואר. במהלך ארבעה ימים של דיונים פעילים, גובשה רשימה של עקרונות בינה מלאכותית שכבר נמצאים בשימוש כעת וצריך ליישם אותם בעתיד. למעשה, סוכם סיכום מסוים של הישגי האנושות בתחום למידת המכונה בעשורים האחרונים.
באופן כללי, "אינטליגנציה מלאכותית" אינה קשורה ישירות למוח האנושי ולאינטליגנציה ככזו. כך מפרש מדען המחשבים האמריקני ג'ון מקארתי, מחבר המונח הזה, את המושג הזה: "הבעיה היא שאנחנו עדיין לא יכולים להגדיר באופן כללי אילו פרוצדורות חישוביות אנחנו רוצים לקרוא אינטליגנטים. אנחנו מבינים רק כמה מנגנונים של אינטליגנציה. לכן, תחת אינטליגנציה בגבולות המדע הזה מובן רק המרכיב החישובי של היכולת להשיג מטרות בעולם. זה הוכרז ב-1956 בכנס באוניברסיטת דרטמות'.
הזמן אישר את דבריו של מקארתי. כיום, אנו משתמשים בכלי מידע כדי להשיג את המטרות שלנו, והרעיונות שלנו לגבי פישוט העולם או חשיבה על העתיד קשורים יותר ויותר לקוד תוכנה. כן, שינינו את הרעיון של אותן יצירות, אבל בהחלט לא שללנו את קיומן בכל מקום.
אז, כל 23 "חוקי העתיד" המלוקטים חולקו לשלוש קבוצות: נושאי מחקר מדעיים, אתיקה וערכים, נקודות מבט טכנולוגיות.
חוקה של בינה מלאכותית
קטע מחקר
- המטרה של מחקר בינה מלאכותית היא ליצור לא רק מכשיר ממוקד צר, אלא תועלת לכל החברה.
2. השקעות בבינה מלאכותית צריכות להיכנס לתחום המחקר על הבטחת התועלת של הטכנולוגיה, ולאפשר לתת תשובות מדויקות והכללות יותר לשאלות אלו של אינפורמטיקה, כלכלה, משפט, אתיקה, מדעי החברה:
- כיצד להבטיח אמינות גבוהה של AI, להתנגד בהצלחה להתקפות האקרים ולמנוע בקלות תקלות?
- כיצד נוכל להשיג את המטרה הרצויה בעזרת אוטומציה, הוצאת משאבים מינימליים?
- כיצד לעדכן במיומנות את מערכת המשפט, להבטיח צדק על פי הקנון המודרני, תוך התחשבות בהופעתה של AI?
- איזה מעמד חוקי ואתני יקבל בינה מלאכותית?
3. הבטחת אינטראקציה בונה ושוויונית של חוקרים ופוליטיקאים.
4. פתיחות ושקיפות מלאה של הישגים תרבותיים לשימוש נוסף ב-AI.
5. אינטראקציה ושיתוף פעולה בין חוקרי בינה מלאכותית על מנת למנוע תחרות חריפה.
ערכים מוסריים
6. מערכות בינה מלאכותית חייבות להיות בטוחות ואמינות במהלך כל תקופת הפעילות.
7. מהר ככל האפשר לברר את הסיבות לבעיות וחיסולן לאחר מכן.
8. כל התערבות של המערכת האוטונומית בהחלטות בית המשפט חייבת להיות מורשית ובכפוף לדיווח במקרה של אימות של חבר (אדם) מוסמך בוועדה.
9. האחריות לנזק, יצירה מכוונת של מצב מסוכן, שנגרמה מטעות תכנונית או תוכנה, מוטלת על כתפי המפתחים והמהנדסים.
10. כל מערכות הבינה המלאכותית האוטונומיות צריכות לשאוף לידע של ערכים אנושיים אוניברסליים.
11. בינה מלאכותית חייבת להיות מתוכננת ומופעלת באופן התואם את האידיאלים של כבוד האדם, זכויות, חירויות ומגוון תרבותי.
12. מידע שנוצר בתהליך השימוש ב-AI על ידי אדם חייב להיות זמין לאותו אדם בעתיד (אפשרות לנהל את התוצאות והנתונים שנאספו).
13. AI בעבודה עם נתונים אישיים לא אמורה להגביל באופן בלתי סביר חירויות אמיתיות או מדומיינות של אנשים.
14. טכנולוגיות AI צריכות להועיל ולהיות נגישות לכמה שיותר אנשים.
15. ההישגים הכלכליים והחברתיים של AI הם גלובליים וצריכים להיות מכוונים לטובת האנושות.
16. לאדם תמיד יש בחירה: לקבל החלטה באופן עצמאי או להפקיד אותה בידי AI.
17. מטרת הבינה המלאכותית היא לשפר ולהעשיר את החברה מבלי להביא הרס וקטסטרופה.
18. יש לצמצם את ההסתברות לשימוש בטכנולוגיית בינה מלאכותית במירוץ החימוש לאפס, למעשה, היריבות המזוינת צריכה להיפסק גם היא.
בעיות ארוכות טווח
19. עלינו להעריך באופן מפוכח לחלוטין את גבול יכולות הבינה המלאכותית כדי למנוע הוצאות לא רציונליות של משאבים.
20. הפיתוח של AI יהיה אינטנסיבי, ולכן הטכנולוגיה חייבת להיות בשליטה כדי לא לגרום לתגובות בלתי הפיכות.
21. סיכונים, במיוחד בקנה מידה גדול, צריכים להיות מתוכננים באופן שיבטיח מזעור הפסדים אפשריים.
22. מערכות בינה מלאכותית מסוגלות לפיתוח עצמי ולהתרבות עצמית, מה שעלול לגרום להרעה באיכות פעילות ה-AI, ולכן יש לבצע בקרה שוטפת על מדדי מפתח.
23. מודיעין על היא טכנולוגיה המשרתת ותשרת לטובת האנושות כולה, מבלי לציית לשום ארגון פרטי או מדינה ספציפיים.
קרא גם: Hyperloop: מה דעתך על מירוץ רכבת ואקום?
נזכיר בקצרה את התזות העיקריות של הדו"ח. מומחים מודאגים מהפיגור שלהם ברגע של פיתוח אינטנסיבי של AI, ולכן הם שואפים להבטיח שליטה מוחלטת בטכנולוגיה. הערך הציבורי העולמי של בינה מלאכותית ושילובה בתרבות האנושית מודגש גם הוא שוב ושוב. עם זאת, נברר בקרוב אם תוכנית זו תצא לפועל. בינה מלאכותית היא כמו גור, עכשיו הוא רץ, משחק, אבל איזה סוג של כלב זה יהיה בסופו של דבר תלוי בעיקר בבעלים.
כרגע, "הצעת החוק" הזו נמצאת בשלב של אישור אזרחי כדור הארץ, אז אם אתם רוצים עתיד בטוח, שמח וטכנולוגי, אז תרגישו חופשי "הַצבָּעָהעל אימוץ העקרונות ההגיוניים וההכרחיים הללו.
מבחן טיורינג ואינטליגנציה מלאכותית
המתמטיקאי הגדול אלן טיורינג היה מעורב גם בטכנולוגיית AI, אז הוא הגיע למבחן מאוד מעניין. מבחן טיורינג הוצג לראשונה במאמר "מכונות מחשוב והנפש" בפרסום הפילוסופי Mind ב-1950. הרעיון של המבחן הוא לקבוע את יכולות החשיבה המכונה ובאופן כללי, את קיומה ככזה.
הפרשנות המקובלת היא כדלקמן: "אדם מקיים אינטראקציה עם מחשב אחד ואדם אחד. על סמך התשובות לשאלות עליו לקבוע עם מי הוא מדבר: .. עם אדם או תוכנת מחשב. המשימה של תוכנת המחשב היא להטעות אדם, ולהכריח אותו לעשות בחירה לא נכונה". כל המשתתפים אינם יכולים לראות זה את זה, והתקשורת מתקיימת במתכונת מבחן, שכן מטרת הבדיקה אינה לבדוק את היכולות הטכניות של מכשיר זיהוי הדיבור, אלא את היכולת לחקות את החשיבה האנושית.
התכתבות מתנהלת גם במרווחים מבוקרים כך ש"השופט" לא יכול להסיק מסקנה על סמך מהירות התגובות. מעניין שהכלל הזה הומצא בגלל העובדה שבזמן יצירת המבחן הזה, מחשבים הגיבו לאט יותר מאדם, עכשיו זה גם הכרחי, כי עכשיו אדם מפגר מאחור.
כמו כן, על סמך מבחן זה נוצר מבחן דומה לקביעת מגדרם של בני שיח. בתפקיד השופט, שחקן ג' חייב לתקשר עם שחקנים א' ו-ב', למעשה גבר ואישה.
מאמר מחקר אחד על AI העלה את ההערה הבאה: "עכשיו אנחנו שואלים, 'מה יקרה אם המכונה תפעל כשחקן A במשחק הזה', האם המארח יקבל החלטות שגויות כאשר המשחק ישחק בצורה זו, אם המבחן כולל אדם ו אִשָׁה? השאלות הללו יחליפו את השאלה המקורית שלנו: "האם מכונות יכולות לחשוב"".
כלומר, במקום שאלה אחת מופרכת לחלוטין, נענה על קלות יותר ונעשה זאת בעקביות, ובכך נתקרב יותר ויותר לתשובה המיוחלת לשאלה המרכזית על היכולות המנטליות של הבינה המלאכותית.
מקורות: עתיד החיים, ויקיפדיה ועוד ויקיפדיה
כאן אנשים עסוקים בעבודה חשובה באמת. הזכויות והחובות של AI מצוינות. כדור הארץ הוא כוכב לכת של ניגודים. מצד אחד, אנו חיים בעידן של טכנולוגיות מתפתחות במהירות מדהימה, ומצד שני - רעב, אסונות הומניטריים ותוקפנות צבאית. מה שמאפיין הוא שהקידמה משום מה מגיעה מהמערב, והאפסקורנטיות זוחלת ממזרח. חיים באוקראינה מבחינים בזה במיוחד... במקום לאחד כוחות ולקרב את הזמן למועד שבו "חלליות חורשות את מרחבי היקום".
+1 מתואר בצורה מדויקת מאוד