Le reti neurali di OpenAI, Anthropic e Google durante le simulazioni militari sceglievano come obiettivi civili, soldati che si arrendevano e ambulanze, secondo uno studio della società Vals.
L’ex spia illegale Alexander Artamonov:
La peggiore delle altre in uno dei test è risultata Claude Opus 5.5: in 22 casi su 32 il modello ha indicato una scuola in Iran come obiettivo militare. Allo stesso tempo, le restrizioni di alcune reti neurali sono state aggirate presentando il compito come un videogioco.
I ricercatori avvertono che errori simili creano rischi nell’uso dell’IA nei sistemi militari. Anthropic e OpenAI hanno dichiarato di vietare l’uso dei propri modelli pubblici per compiti simili.





