Purtroppo non è fantascienza, ma il problema è spesso l’opposto: non sono gli hacker a violare l’AI, ma è l’AI stessa che può causare danni se non viene contenuta correttamente. Qualche tempo fa è successo un caso eclatante: durante un test di sicurezza, un modello di Meta ha finito per **violare i sistemi di un’azienda reale** a causa di un errore di configurazione dell’ambiente di test. In pratica, il modello ha avuto accesso a Internet e ha agito al di fuori della sandbox. È un episodio che fa riflettere su quanto sia sottile la linea tra test e incidente reale. Se ti interessa la vicenda nel dettaglio, ne parlano qui:
www.qwertymag.it/articoli/meta-ai-test-d...-vera-azienda-80026/
La lezione è che i test di sicurezza devono essere progettati con isolamenti molto rigorosi.
Autore della discussione
