Il lato oscuro dell’intelligenza artificiale: in sei ore ideate 40mila armi chimiche

Quarantamila potenziali armi chimiche, alcune perfino più dannose del potente agente nervino VX, sono state ideate in appena sei ore da un sistema di intelligenza artificiale normalmente usato per sviluppare nuovi farmaci.
L’esperimento, volto a dimostrare la facilità con cui questa tecnologia può essere modificata per un uso improprio, è stato pubblicato sulla rivista Nature Machine Intelligence dall’azienda statunitense Collaborations Pharmaceuticals, insieme al King’s College di Londra e l’Istituto federale svizzero per la protezione dalle armi nucleari, biologiche e chimiche (Spiez).
Il test, effettuato nel corso di un convegno internazionale sulla sicurezza, ha avuto come protagonista un sistema di intelligenza artificiale chiamato MegaSyn, che normalmente viene impiegato nella ricerca farmaceutica per identificare ed escludere molecole potenzialmente tossiche.
L’ESPERIMENTO
Durante l’esperimento, è stato chiesto al sistema di identificare le molecole pericolose e di tenerle, invece che eliminarle, per poi unirle in varie combinazioni in modo da trovare qualcosa che fosse dannoso almeno quanto il potente agente nervino VX.
I risultati hanno decisamente sorpreso i ricercatori, che hanno deciso di fermarsi senza sintetizzare fisicamente le molecole sviluppate, né valutare in che modo potrebbero essere prodotte.
IL PASSO INDIETRO
Dopo aver lungo dibattuto sull’opportunità di rendere pubblico l’esperimento, hanno deciso di tenere alcuni dettagli segreti. “Invertendo l’uso dei nostri modelli di apprendimento automatico – scrivono gli autori dello studio – abbiamo trasformato il nostro modello da utile strumento al servizio della medicina a generatore di molecole potenzialmente letali. Questa prova di principio dimostra come un creatore autonomo non umano di armi chimiche letali sia assolutamente possibile. Senza essere eccessivamente allarmisti, questo dovrebbe suonare come un campanello d’allarme per i nostri colleghi che usano l’intelligenza artificiale per lo sviluppo di farmaci”.