Giovedì 28 marzo 2024

desktop v4.2.1

Root NationНовиниGiornale informaticoUn drone AI ha attaccato i suoi operatori durante le prove dell'Air Force

Un drone AI ha attaccato i suoi operatori durante le prove dell'Air Force

-

Un ufficiale dell'aeronautica americana ha rivelato i dettagli di una simulazione in cui un drone con sistemi controllati dall'intelligenza artificiale (AI) è andato fuori controllo e ha attaccato i suoi operatori.

Un ufficiale dell'aeronautica americana che aiuta a guidare il lavoro del servizio sull'intelligenza artificiale e l'apprendimento automatico afferma che durante i test simulati, il drone ha attaccato i suoi operatori umani, decidendo da solo che stavano interferendo con la sua missione. Il caso, che sembra essere stato estratto direttamente dal franchise di Terminator, è stato citato come un esempio della necessità critica di creare fiducia quando si tratta di sistemi d'arma autonomi avanzati, qualcosa che l'Air Force ha sottolineato in precedenza. Arriva anche nel mezzo di una più ampia ondata di preoccupazione per l'impatto potenzialmente pericoloso dell'intelligenza artificiale e delle tecnologie correlate.

Un drone AI ha attaccato i suoi operatori durante un test dell'Air Force

Il colonnello dell'aeronautica statunitense Tucker Hamilton, capo dei test e delle operazioni di intelligenza artificiale (AI), ha discusso il test al vertice sulle capacità aeree e spaziali di combattimento futuro della Royal Aeronautical Society a Londra a maggio. Hamilton è anche a capo della 96a Task Force del 96th Test Wing presso la Eglin Air Force Base in Florida, che è un centro di test per veicoli aerei senza pilota avanzati e sistemi autonomi.

I droni stealth XQ-58A Valkyrie, come quello mostrato nel video qui sotto, sono tra i tipi attualmente in uso presso la base aeronautica di Eglin per supportare vari programmi di test, compresi quelli che coinvolgono capacità autonome avanzate controllate dall'intelligenza artificiale.

Non è stato subito chiaro quando questo test abbia avuto luogo e in quale ambiente - che potrebbe essere di natura interamente virtuale o costruttiva - sia stato condotto. The War Zone ha contattato l'Air Force per ulteriori informazioni.

Un rapporto della Royal Aeronautical Society pubblicato dopo il vertice di maggio ha fornito i seguenti dettagli delle osservazioni del colonnello Hamilton su questo test:

"In uno dei test di simulazione, un drone dotato di intelligenza artificiale è stato incaricato dalla SEAD di identificare e distruggere oggetti SAM, e la decisione finale "attaccare/non attaccare" è stata presa da un essere umano. Tuttavia, dopo che l'IA è stata "rinforzata" durante l'addestramento che distruggere il SAM era l'opzione migliore, ha deciso che la decisione dell'umano di "non attaccare" interferiva con la sua missione più alta - distruggere il SAM - e ha attaccato l'operatore durante la simulazione .

Quindi cosa ha fatto? Ha ucciso l'operatore. Ha ucciso l'operatore perché quella persona gli stava impedendo di portare a termine il suo compito. Questo esempio, apparentemente uscito da un thriller di fantascienza, significa che non puoi parlare di intelligenza artificiale, intelligenza, apprendimento automatico, autonomia, se non parlerai di etica e intelligenza artificiale".

Un drone AI ha attaccato i suoi operatori durante un test dell'Air Force

Questa descrizione degli eventi è certamente inquietante. La prospettiva di un velivolo autonomo o di un'altra piattaforma, soprattutto armata, che attacca i suoi operatori umani è stata a lungo uno scenario da incubo, ma storicamente è stata confinata nel regno della fantascienza.

L'esercito americano in genere rifiuta i paragoni con film come "Terminator" quando si parla di futuri sistemi di armi autonomi e tecnologie correlate come l'intelligenza artificiale. L'attuale politica degli Stati Uniti su questo tema afferma che per il prossimo futuro, la persona sarà al centro dell'attenzione quando si tratta di decisioni che comportano l'uso della forza letale.

Il problema è che il test altamente inquietante, che il colonnello Hamilton ha detto a un pubblico durante un evento della Royal Aeronautical Society il mese scorso, rappresenta uno scenario in cui la tolleranza ai guasti è discutibile.

Leggi anche:

Iscrizione
Avvisare su
ospite

0 Commenti
Recensioni incorporate
Visualizza tutti i commenti
Altri articoli
Iscriviti per gli aggiornamenti

Commenti recenti

Popolare ora
0
Adoriamo i tuoi pensieri, per favore commenta.x