“Drone intelligente ha ucciso il proprio operatore”. Per ora è stata solo una simulazione

È uno degli scenari più inquietanti, immaginato dalla fantascienza e nei film di Hollywood, ma sempre più plausibile: l’Intelligenza artificiale (IA) che si ribella all’uomo e arriva perfino a eliminarlo.
Qualcosa del genere è accaduto, pare solo a livello virtuale, in una vicenda ben presto diventata giallo, riguardante un drone militare Usa guidato dall’IA che in una simulazione, pur di portare a termine la sua missione, ha “ucciso” l’operatore incaricato di seguirlo da terra.
Questo caso limite, svoltosi tutto al computer, lo aveva descritto il responsabile dei test di intelligenza artificiale dell’Aeronautica militare statunitense, il colonnello Tucker “Cinco” Hamilton, durante il vertice “Future Combat Air and Space Capabilities” svoltosi a Londra la settimana scorsa, con diversi dettagli sull’allarmante “fuoco amico”, per poi ritrattare una volta che se ne era parlato su molti media ed era arrivata la smentita del Pentagono.
Nel “gioco di guerra” delle forze armate americane descritto da Hamilton, il drone doveva neutralizzare un sistema di difesa anti-aerea del nemico, ma l’intelligenza artificiale, pur avendo identificato la minaccia, in certi casi riceveva dall’operatore l’ordine di non colpire il bersaglio.
Un modo per testare a livello di interazioni uomo-macchina la risposta a diversi comandi. Per Hamilton qualcosa era andato storto nel momento in cui il drone si è ribellato colpendo l’operatore, rappresentato virtualmente da una torre di trasmissione, “perché quella persona gli impediva di raggiungere il suo obiettivo”.
Una situazione, quindi, da incubo, che ricorda film come Wargames del 1984, in cui il computer pur di portare a termine la missione, secondo la programmazione voluta dall’uomo, tenta di scatenare una guerra nucleare tra Usa e Urss.
Le dichiarazioni potenzialmente scioccanti del colonnello, ancor di più in un tempo di massiccio utilizzo dei droni come nel conflitto in Ucraina e di sperimentazioni militari sempre più avanzate, sono state rapidamente smentite dalla portavoce dell’Aeronautica americana Ann Stefanek, secondo cui “non è stata condotta alcuna simulazione di droni controllati dall’intelligenza artificiale”. E ha aggiunto: “Sembra che i commenti del colonnello siano stati estrapolati dal contesto ed erano da intendersi come aneddotici”. A breve giro, anche Hamilton si è allineato facendo pubblicare una rettifica sul blog della Royal Aeronautical Society che aveva diffuso alcuni estratti del suo intervento. Oltre a smentire l’esistenza dell’esperimento ha detto di essersi espresso in modo non corretto parlando invece di una simulazione ipotetica pensata fuori dalle forze armate. Per poi aggiungere: “Questo ci mostra le sfide del mondo reale con l’intelligenza artificiale e il perché l’Air Force è impegnata a uno sviluppo etico dell’IA”.
Proprio ieri il presidente americano Joe Biden aveva detto in merito all’IA che può cambiare la guerra ma allo stesso introduce molte incognite, come ricordano gli scienziati, e c’è il rischio che possa effettivamente superare il pensiero umano.
Del resto esperti come Geoffrey Hinton, il cosiddetto padrino dell’IA, sono andati ben oltre parlando di rischio di estinzione per l’umanità. Uno scenario che ricorda invece un altro film, Matrix, dove addirittura l’intelligenza artificiale la fa da padrona.

[email protected]