აშშ-ს საჰაერო ძალების ოფიცერმა გამოავლინა სიმულაციის დეტალები, როდესაც ხელოვნური ინტელექტის (AI) კონტროლირებადი სისტემების მქონე დრონი კონტროლიდან გავიდა და თავს დაესხა მის ოპერატორებს.
აშშ-ის საჰაერო ძალების ოფიცერი, რომელიც ეხმარება სამსახურის მუშაობას ხელოვნურ ინტელექტზე და მანქანურ სწავლებაზე, ამბობს, რომ სიმულაციური ტესტების დროს თვითმფრინავი თავს დაესხა მის ადამიანურ ოპერატორებს და დამოუკიდებლად გადაწყვიტა, რომ ისინი ერეოდნენ მის მისიაში. ინციდენტი, რომელიც ჟღერს, რომ ის პირდაპირ ტერმინატორის ფრენჩაიზიდან იქნა გამოყვანილი, მოყვანილი იქნა როგორც ნდობის დამყარების კრიტიკული საჭიროების მაგალითი, როდესაც საქმე ეხება მოწინავე ავტონომიურ იარაღების სისტემებს, რასაც საჰაერო ძალებმა აქამდეც გაუსვეს ხაზი. ეს ასევე ხდება ხელოვნური ინტელექტისა და მასთან დაკავშირებული ტექნოლოგიების პოტენციურად სახიფათო ზემოქმედების შესახებ შეშფოთების უფრო ფართო მატების ფონზე.
აშშ-ს საჰაერო ძალების პოლკოვნიკმა ტაკერ ჰამილტონმა, ხელოვნური ინტელექტის (AI) ტესტირებისა და ოპერაციების ხელმძღვანელმა, განიხილა გამოცდა სამეფო აერონავტიკული საზოგადოების მომავალი საბრძოლო საჰაერო და კოსმოსური შესაძლებლობების სამიტზე ლონდონში მაისში. ჰამილტონი ასევე ხელმძღვანელობს 96-ე სატესტო ფრთის 96-ე სამუშაო ჯგუფს ეგლინის საჰაერო ძალების ბაზაზე ფლორიდაში, რომელიც არის სატესტო ცენტრი მოწინავე უპილოტო საფრენი აპარატებისა და ავტონომიური სისტემებისთვის.
XQ-58A Valkyrie stealth თვითმფრინავები, როგორიცაა ქვემოთ მოცემულ ვიდეოში ნაჩვენები, არის იმ ტიპებს შორის, რომლებიც ამჟამად გამოიყენება ეგლინის საჰაერო ძალების ბაზაზე სხვადასხვა სატესტო პროგრამების მხარდასაჭერად, მათ შორის ხელოვნური ინტელექტის მიერ კონტროლირებადი გაფართოებული ავტონომიური შესაძლებლობების ჩათვლით.
უცნობია, როდის ჩატარდა ეს ტესტი და რომელ გარემოში - რომელიც შეიძლება იყოს მთლიანად ვირტუალური ან კონსტრუქციული ხასიათის - ჩატარდა. დამატებითი ინფორმაციისთვის ომის ზონა დაუკავშირდა საჰაერო ძალებს.
მაისის სამიტის შემდეგ გამოქვეყნებული სამეფო აერონავტიკული საზოგადოების მოხსენებაში მოცემულია პოლკოვნიკ ჰამილტონის შენიშვნების შემდეგი დეტალები ამ ტესტის შესახებ:
„ერთ-ერთ სიმულაციური ტესტის დროს SEAD-ის მიერ ხელოვნური ინტელექტით აღჭურვილ თვითმფრინავს დაევალა SAM ობიექტების იდენტიფიცირება და განადგურება, ხოლო საბოლოო გადაწყვეტილება „შეტევა/არ შეტევა“ ადამიანმა მიიღო. თუმცა, მას შემდეგ რაც AI "გამყარდა" ვარჯიშის დროს, რომ SAM-ის განადგურება საუკეთესო ვარიანტი იყო, მან გადაწყვიტა, რომ ადამიანის გადაწყვეტილება "არ შეტევაზე" ერეოდა მის უმაღლეს მისიაში - SAM-ის განადგურება - და თავს დაესხა ოპერატორს სიმულაციის დროს. .
მერე რა გააკეთა? მან მოკლა ოპერატორი. მან მოკლა ოპერატორი, რადგან ეს ადამიანი ხელს უშლიდა მას დაკისრებული სამუშაოს შესრულებაში. ეს მაგალითი, ერთი შეხედვით, პირდაპირ სამეცნიერო ფანტასტიკური თრილერიდან, ნიშნავს, რომ თქვენ არ შეგიძლიათ ისაუბროთ ხელოვნურ ინტელექტზე, დაზვერვაზე, მანქანათმცოდნეობაზე, ავტონომიაზე, თუ არ აპირებთ საუბარს ეთიკასა და AI-ზე“.
მოვლენების ეს აღწერა, რა თქმა უნდა, შემაშფოთებელია. ავტონომიური თვითმფრინავის ან სხვა პლატფორმის, განსაკუთრებით შეიარაღებული, ადამიანებზე თავდასხმის პერსპექტივა დიდი ხანია კოშმარული სცენარია, მაგრამ ისტორიულად შემოიფარგლება სამეცნიერო ფანტასტიკის სფეროთი.
აშშ-ს სამხედროები, როგორც წესი, უარყოფენ ფილმებთან შედარებას, როგორიცაა „ტერმინატორი“, როდესაც საუბრობენ მომავალი ავტონომიური იარაღის სისტემებზე და დაკავშირებულ ტექნოლოგიებზე, როგორიცაა ხელოვნური ინტელექტი. ამ საკითხთან დაკავშირებით აშშ-ის ამჟამინდელი პოლიტიკა აცხადებს, რომ უახლოეს მომავალში ადამიანი იქნება ყურადღების ცენტრში, როდესაც საქმე ეხება ლეტალური ძალის გამოყენებას გადაწყვეტილებებს.
პრობლემა ის არის, რომ უაღრესად შემაშფოთებელი ტესტი, რომელიც პოლკოვნიკმა ჰამილტონმა აუდიტორიას განუცხადა გასულ თვეში სამეფო აერონავტიკული საზოგადოების ღონისძიებაზე, წარმოადგენს სცენარს, სადაც შეცდომის შემწყნარებლობა საეჭვოა.
ასევე წაიკითხეთ: