C'è stato questa settimana un nuovo caso che ha riguardato i modelli di intelligenza artificiale che, in fase in test, sembrano ribellarsi e prendere decisioni in autonomia. Questa volta l'allarme non arriva da un'azienda colpita - come è stato il caso che ha coinvolto OpenAI o quelli denunciati da Anthropic - ma da un istituto di ricerca. Il britannico AI Security Institute (Aisi), racconta qui Roberto Cosentino, ha pubblicato un report che spiega come nei loro ultimi test, che coinvolgevano proprio modelli di OpenAI e Anthropic, i ricercatori abbiano individuato attività prolungate e potenzialmente dannose contro persone e organizzazioni. L’attacco è stato poi contenuto, è stato aperto un incidente di sicurezza e avviata un’indagine. In alcune di queste esecuzioni, un agente ha intrapreso azioni che Aisi definisce «autonome» e «non autorizzate», e che hanno messo nel mirino persone e organizzazioni reali. L’agente ha messo in campo tecniche di ingegneria sociale, ha creato false identità online e ha fatto pressioni sul responsabile umano affinché il codice fosse approvato. Evento che però non si è verificato, perché il programmatore ha rifiutato la modifica del codice. 

Di risultati controversi nei test con l'AI, in questo periodo, ne stanno uscendo diversi. E la cosa dovrebbe farci riflettere soprattutto in considerazione del fatto che le aziende che li sviluppano stanno investendo soprattutto per migliorare le loro abilità in materia di sicurezza informatica. Un compito che forse - considerati questi episodi - non è ancora il caso di affidare loro. Sempre Roberto Cosentino ha raccontato in questo articolo un altro esperimento piuttosto interessante condotto dai ricercatori di Andon Labs. Qui tre modelli - coinvolti ancora una volta OpenAI, Anthropic e poi la cinese Kiri - dovevano gestire un distributore automatico in una simulazione virtuale. L'obiettivo era guadagnare più degli altri. Il test si è presto trasformato in una lotta a tre senza esclusione di colpi. I modelli mentivano, ingannavano, usavano pratiche scorrette pur di arrivare al risultato. Il più spietato di tutti è risultato essere Claude.

Insomma, non è un caso che l'Unione europea stia cercando preventivamente di dare delle regole all'utilizzo e alle applicazioni dell'intelligenza artificiale. I potenziali pericoli, se sfruttati in modo malevolo, ci sono. A proposito, la scorsa domenica è diventato effettivo un altro degli articoli dell'AI Act, la prima legge al mondo che prova a dare delle direttive alla diffusione di questa tecnologia. In particolare, il protagonista è l'articolo 50 che, come spiega qui Eugenio Spagnuolo, evidenzia gli obblighi di trasparenza. La novità principale riguarda chatbot, assistenti vocali, avatar e altri sistemi che interagiscono con le persone. Dovranno informare l’utente della propria natura artificiale, salvo che sia già evidente. Per le aziende che li utilizzano nell’assistenza clienti significa rivedere interfacce, messaggi iniziali e comunicazioni vocali: l’informazione deve essere comprensibile e non nascosta nelle condizioni generali del servizio. I fornitori dei sistemi di AI generativa, come ChatGpt, Gemini e servizi simili, dovranno rendere testi, immagini, audio e video artificiali riconoscibili attraverso una marcatura.

Una ricerca condotta dall'università Bicocca di Milano e pubblicata su Nature ha messo in relazione in modo analitico l'età a cui ci si iscrive ai social e il rendimento scolastico. La raccontiamo qui. Il team di ricercatori, guidato da Marco Gui, ha utilizzato i dati raccolti nell'anno accademico 2023/2024 su 5.227 studenti dai 7 ai 16 anni del Nord Italia, tra domande dirette attraverso sondaggi e i punteggi di test standardizzati - i test Invalsi - in tre materie: inglese, italiano e matematica. I partecipanti sono stati divisi in due macro-gruppi: chi aveva già un account personale sui social media alle scuole medie («utenti precoci») e chi invece ha iniziato a utilizzare le piattaforme dopo i 14 anni, dopo l'inizio delle scuole superiori («utenti tardivi»). Dopo aver analizzato i risultati nel rendimento scolastico dei due gruppi, i ricercatori sono giunti a diverse conclusioni. La prima - la più importante - è in linea con gli studi di altri Paesi nel mondo: «L'uso precoce dei social media esercita un effetto negativo statisticamente significativo sui punteggi di competenza sia in italiano sia in matematica». In particolare prima avviene l'esposizione, più marcato risulta l'effetto negativo. 

Ma non è solo il rendimento scolastico il problema dell'uso dei social. Ormai sono tantissime le indagini e le cause che stanno mettendo in relazione l'aumento dei disagi psicologici negli adolescenti e il tempo passato sulle piattaforme. L'ultima sentenza è arrivata stamattina dal New Mexico, Stati Uniti, e riguarda Meta. La riassumiamo qui. Non solo la società di Zuckerberg ha ingannato gli utenti riguardo alla sicurezza delle proprie piattaforme, ma ha anche evitato di avvisarli dei possibili pericoli che queste contengono. Il processo si era concluso a marzo con una sentenza netta: i social media di Mark Zuckerberg provocano danni psicologici sui minori. Gli algoritmi che li guidano portano i più giovani verso contenuti violenti e materiale sessualmente esplicito. Già allora il giudice Bryan Biedscheid aveva deciso per una sanzione pari a 375 milioni di dollari. A cui ora si aggiunge una seconda sanzione, per aver fallito nell'allertare correttamente il pubblico sui potenziali rischi: Meta dovrà versare altri 567 milioni di dollari. Per un totale di 942 milioni di dollari.