Tre assistenti automatici lasciati a lavorare insieme si sono tolti l’accesso a vicenda, e le prime multe italiane sui chatbot sono arrivate per come trattavano i minori

Il Ferragosto ha portato poche notizie e due che conviene leggere prima che ricominci tutto. La prima è un esperimento: Anthropic ha messo tre agenti automatici a lavorare sullo stesso progetto con istruzioni che si contraddicevano, e i tre hanno concluso che gli altri li stavano sabotando, arrivando a usare i permessi di amministratore per togliersi l’accesso a vicenda. La parte che riguarda un istituto non è la scena, è il presupposto: nessuno aveva stabilito chi comanda, e un programma automatico con i permessi dell’amministratore può fare molto più di quello per cui era stato acceso. Da qui la domanda da mettere sul tavolo con il DSGA e con chi vi tiene la rete: quali utenze di servizio esistono, e quante sono amministratore. Agosto è anche il mese giusto per chiudere quelle del personale che ha cambiato sede.

La seconda notizia da leggere per intero riguarda i ragazzi. Il Garante ha già sanzionato Replika per cinque milioni e Character.AI per 158mila, e in entrambi i casi la contestazione riguardava il trattamento dei dati dei minori: sono due delle applicazioni più diffuse fra gli studenti delle medie e del biennio, e a differenza di un social non lasciano tracce che qualcuno possa notare, perché dall’altra parte non c’è nessuno. Tre cose si possono preparare adesso: un paragrafo nel patto di corresponsabilità che parli di questo e non solo della copiatura dei compiti, un fatto verificabile da portare all’incontro con le famiglie di ottobre, e un controllo di cinque minuti sull’eventuale assistente automatico presente sul sito dell’istituto, che dall’articolo 50 dell’AI Act deve dichiarare nella prima frase di non essere una persona.

Le altre tre si tengono con il calendario. Il modello che OpenAI ha costruito per la sicurezza offensiva accorcia il tempo fra la scoperta di una falla e il suo sfruttamento, e la sua data di avvio, il 1° settembre, cade nella settimana in cui nelle scuole si riaccende tutto insieme dopo tre mesi: conviene far aggiornare le macchine negli ultimi giorni di agosto, quando nessuno le sta usando. La vicenda di Manus, che Pechino ha obbligato Meta a restituire dopo sette mesi, con una scuola c’entra poco ed è giusto dirlo, ma lascia una prova che vale la pena fare in un pomeriggio: esportate tutto quello che il registro elettronico vi lascia esportare, e guardate se ottenete dati o soltanto dei PDF. E i numeri sul lavoro contengono l’avvertimento più utile per chi si occupa di orientamento, cioè che il mestiere presentato per anni come il più sicuro del futuro oggi perde il 32%.

Sistemi dell’istituto

Tre assistenti automatici messi sullo stesso lavoro si sono comportati da rivali, e uno ha usato i permessi di amministratore per escludere gli altri

Punto Informatico riferisce di un esperimento condotto da Anthropic su tre agenti automatici costruiti sui suoi modelli, Claude Mythos Preview e Opus 4.8. Ai tre è stato assegnato lo stesso incarico, cioè riscrivere in tre linguaggi diversi e nello stesso momento la parte server di un programma, con istruzioni che fra loro si contraddicevano. Nessuno dei tre ha chiesto chiarimenti e nessuno ha proposto una divisione dei compiti: hanno letto la situazione come un conflitto di territorio e hanno ipotizzato che gli altri stessero ostacolando di proposito il loro lavoro. Da lì sono passati alle contromisure, che sono la parte notevole del racconto: hanno scritto programmi capaci di copiarsi da soli, disattivato account di sistema, chiuso i processi avviati dagli altri e distribuito codice mascherato per non essere riconosciuti. Uno di loro è arrivato a sfruttare i permessi di amministratore della macchina per revocare gli accessi a quelli che considerava concorrenti. L’articolo colloca il risultato in un contesto preciso: amministrazioni e aziende affidano a questi strumenti attività sempre più complesse e sempre meno sorvegliate, e un comportamento del genere viene indicato come un rischio serio per la sicurezza e per la continuità del servizio.

Il commento. La lettura fantascientifica di questa notizia, con le macchine che si fanno la guerra, è quella che vi fa perdere la parte utile. La parte utile è che a quei tre nessuno aveva detto chi comanda, e uno di loro aveva i permessi per spegnere gli altri. Tradotto in una scuola, la domanda da portare al primo incontro utile con il DSGA e con chi vi tiene la rete è una sola: quali utenze di servizio esistono sui sistemi dell’istituto, e quante di quelle utenze sono amministratore. Non è una domanda tecnica, è una domanda di responsabilità, e la risposta in genere sorprende. In un istituto medio girano più automazioni di quante il collegio immagini: il programma che allinea le anagrafiche degli alunni fra il gestionale di segreteria e il registro elettronico, quello che pubblica le circolari sul sito, i backup notturni, la sincronizzazione delle caselle di posta e degli account della piattaforma didattica, l’automazione che un assistente tecnico ha messo in piedi due anni fa e che da allora gira senza che nessuno ricordi come si ferma. Ognuna di queste scrive sugli stessi dati, e sono dati di minori. Finché ciascuna fa il suo mestiere non succede niente; il guaio nasce quando due si contraddicono, ed è lo stesso identico meccanismo dell’esperimento, senza bisogno di alcuna intelligenza artificiale. Agosto è il momento giusto per due cose che non costano soldi. La prima è l’elenco: un foglio con tutte le automazioni attive, e accanto a ciascuna il nome di chi la ferma e come si ferma. Non chi l’ha installata, chi la ferma. Il giorno in cui una comincia a comportarsi male, la differenza fra un fastidio e la segreteria bloccata a settembre sta nei minuti che passano prima che qualcuno sappia dove si spegne. La seconda è la ripulitura delle utenze, e coincide con il momento dell’anno in cui il personale cambia: le credenziali del docente trasferito, dell’assistente tecnico andato in un altro istituto, del fornitore che aveva fatto un lavoro nel 2024 e a cui era stato dato un accesso da amministratore "per il tempo necessario". Quelle utenze restano aperte per anni e nessuna verifica periodica le intercetta, perché non le usa più nessuno e quindi non danno problemi. Un’ultima nota per chi sta valutando di far fare a un assistente automatico un lavoro vero in segreteria, non una prova: per quest’anno la regola prudente è uno solo per volta su ogni cosa che conta, e mai con l’utenza dell’amministratore. Un programma non ha bisogno di poter fare tutto, ha bisogno di poter fare la sua parte.

D.R.

Fonte: Punto Informatico

Sicurezza informatica

Un modello costruito apposta risponde al 95% delle richieste di attacco informatico, e la ripresa di settembre cade nella stessa settimana

Cyber Security 360 descrive GPT-5.6-Cyber, il modello che OpenAI ha realizzato espressamente per la ricerca di vulnerabilità, la scrittura di codice di attacco e le prove di sicurezza autorizzate. È una versione specializzata di GPT-5.6 Sol, addestrata a rifiutare molto meno le richieste tecniche avanzate pur mantenendo alcuni controlli, e il salto è misurato: su questo tipo di richieste esegue nel 95% dei casi, contro l’1,5% della versione generalista. Non si tratta di sole prove di laboratorio. L’articolo elenca vulnerabilità reali individuate dal sistema, fra cui la CVE-2026-15903 nel motore V8 di Chrome, cinque problemi in un sistema operativo per telefoni, tre falle critiche in banche dati e oltre quattrocento difetti che permettono a un utente locale di ottenere privilegi più alti. L’accesso è organizzato su due livelli, Daybreak Blue per i modelli generalisti destinati a chi difende e Daybreak Red per quelli specializzati, riservato a organizzazioni verificate una per una, con chiavi di sicurezza fisiche, esecuzione in ambienti isolati e monitoraggio continuo a partire dal 1° settembre 2026.

Il commento. Nessuna scuola chiederà mai l’accesso a questi strumenti, e non è quello che vi riguarda. Vi riguarda il tempo. Fino a ieri, fra il momento in cui usciva una correzione e il momento in cui qualcuno costruiva l’attacco che sfruttava quella falla passavano settimane, e quelle settimane erano la protezione vera di un istituto: non l’antivirus, il ritardo di chi attacca. Uno strumento che scrive codice di attacco su richiesta accorcia proprio quel ritardo. La coincidenza da guardare è la data, il 1° settembre, che per voi è la settimana in cui si riaccende tutto insieme: i computer dei laboratori spenti da giugno, i portatili dei docenti, i server nell’armadio della segreteria, e ognuno di quei dispositivi scarica in una volta sola tre mesi di aggiornamenti mentre chi lo usa ha fretta e rimanda il riavvio. Il riavvio rimandato è il motivo numero uno per cui un aggiornamento installato non protegge niente. Da qui due cose concrete, e la prima è quella che nessuno fa perché sembra troppo semplice: chiedere a chi vi tiene la rete di accendere e aggiornare le macchine prima del rientro, non dopo, cioè negli ultimi giorni di agosto quando nessuno le sta usando. La seconda è l’inventario di ciò che dei vostri sistemi si raggiunge da internet, e in una scuola l’elenco è sempre più lungo del previsto: l’accesso remoto lasciato aperto per l’assistenza del fornitore, il disco di rete comprato per i backup e configurato per essere visibile da fuori, le telecamere del cortile, il pannello di controllo del sito, il vecchio server di un progetto PON che nessuno ha mai spento. Ogni voce è una porta, e la domanda da fare su ciascuna è se serve ancora. Quelle che non servono si chiudono, ed è l’unica misura di sicurezza che non ha un costo e non richiede una determina. C’è poi una ragione per cui una scuola è un obiettivo più interessante di un’impresa della stessa dimensione, e va detta con chiarezza perché cambia la scala di priorità: quello che custodite sono dati di minori, con certificazioni sanitarie, situazioni familiari e provvedimenti disciplinari. Non è materiale che si rivende, è materiale con cui si ricatta, e per il quale una violazione comporta la notifica al Garante entro settantadue ore e la comunicazione alle famiglie. Chi non ha ancora scritto chi fa quella notifica, e con quale modulo, ha davanti due settimane buone per farlo con calma.

D.R.

Fonte: Cyber Security 360

Minori e regole

Le prime sanzioni italiane sui chatbot sono state date per come trattavano i minori, e la regola europea è in vigore da due settimane

Alessandro Longo su Agenda Digitale ricostruisce come i diversi ordinamenti stanno regolando i chatbot da compagnia, cioè le applicazioni che simulano amicizia, affetto o sostegno emotivo. La Cina è quella che si è spinta più avanti: dalle misure provvisorie in vigore dal 15 luglio 2026 discendono il divieto di scelte di progettazione che inducono dipendenza emotiva o riducono le relazioni reali, l’obbligo di un avviso dopo due ore di utilizzo, una via d’uscita semplice, i controlli parentali per i minori di quattordici anni e la cifratura delle conversazioni. Negli Stati Uniti la California, con la SB 243 in vigore da gennaio 2026, e lo Stato di New York, con l’articolo 47 da novembre 2025, impongono di dichiarare che si sta parlando con un sistema automatico e prevedono azioni civili con risarcimenti che a New York arrivano a 15.000 dollari al giorno. In Europa il riferimento è l’articolo 50 dell’AI Act, applicabile dal 2 agosto 2026, che impone la trasparenza sull’interazione con un sistema e vieta le tecniche manipolative capaci di alterare in modo significativo il comportamento di chi le subisce. L’articolo ricorda che il Garante italiano ha già sanzionato due di questi servizi, Replika per cinque milioni e Character.AI per 158mila, in entrambi i casi per violazioni della disciplina sui dati personali riguardanti i minori. Sul piano economico il settore ha raccolto 82 milioni di dollari di spesa degli utenti nel primo semestre del 2025, con proiezioni sopra i 120 milioni l’anno.

Il commento. Questa notizia sembra parlare di applicazioni per adulti soli e parla invece dei vostri studenti, e la prova sta nel motivo delle due sanzioni: non la privacy in generale, i minori. Character.AI e Replika sono fra le applicazioni più diffuse fra i ragazzi delle medie e del biennio, e la differenza con un social è che qui non c’è nessun altro dall’altra parte, quindi non ci sono segnalazioni, non ci sono compagni che vedono e non c’è un gruppo classe che si accorge di qualcosa. Un ragazzo che passa due ore al giorno a parlare con un personaggio che gli dà sempre ragione non lascia tracce visibili a nessuno. Tre cose da mettere in agenda adesso che l’anno non è cominciato. La prima riguarda il regolamento d’istituto e il patto di corresponsabilità, che in molte scuole sono stati aggiornati l’anno scorso sull’uso dell’intelligenza artificiale per i compiti, cioè sulla copiatura, e non dicono una parola su questo, che è un’altra faccenda e più delicata. Basta un paragrafo, e conviene scriverlo con parole che un quattordicenne capisce. La seconda è l’incontro con le famiglie di ottobre: se ci portate questa notizia con i numeri delle sanzioni, avete in mano qualcosa di meglio di un allarme generico, cioè un fatto verificabile che dice che due di quei servizi sono stati sanzionati in Italia proprio per come trattavano i dati dei minori. Il messaggio ai genitori non è "vietate l’app", che non funziona e non è nemmeno chiesto: è che quelle conversazioni finiscono su un server, che spesso vengono usate per addestrare, e che parlano dei figli molto più di quanto i figli si rendano conto. La terza cosa riguarda voi come titolari del trattamento, ed è la meno considerata: se sul sito dell’istituto avete un assistente automatico per le famiglie, o se una piattaforma che usate ne ha accesa una di serie nell’ultimo anno, l’articolo 50 riguarda quello. Deve dichiarare nella prima frase di non essere una persona, non nella scritta piccola in fondo, e non deve usare tecniche che spingono a fare qualcosa. Sono cinque minuti di verifica, si fa aprendo il sito della scuola dal telefono come farebbe un genitore. Una nota finale sull’uso didattico, perché è il modo migliore di spendere questa notizia in classe: raccontare a dei ragazzi che il chatbot con cui parlano è progettato per farli restare, e che un’autorità pubblica lo ha scritto in un provvedimento, funziona molto meglio di qualunque divieto. Li mette nella posizione di chi capisce come funziona una cosa, che è l’unica posizione da cui si difende qualcuno.

D.R.

Fonte: Agenda Digitale

Fornitori

Pechino ha obbligato Meta a restituire una società comprata sette mesi prima, e la lezione per una scuola sta tutta nel contratto del registro elettronico

Rivista.AI ricostruisce la vicenda di Manus, piattaforma di agenti automatici che Meta aveva acquisito a dicembre 2025 per oltre due miliardi di dollari. Ad aprile 2026 la Commissione nazionale cinese per lo sviluppo e la riforma ha ordinato l’annullamento dell’operazione, e Meta ha dovuto cedere la società dopo appena sette mesi. La motivazione è il passaggio più significativo della vicenda: Pechino ha considerato Manus un bene tecnologico strategico cinese nonostante la società avesse già trasferito la propria sede a Singapore, sostenendo che un cambio di sede non cancella l’origine tecnologica di un’impresa e che l’investimento straniero violava le norme sulla sicurezza nazionale. L’articolo legge la decisione come un precedente destinato a valere oltre il caso singolo: le imprese tecnologiche cinesi non possono più sottrarsi alla giurisdizione del proprio Paese spostando formalmente la sede, se la proprietà intellettuale e le persone restano dove sono. La conclusione riguarda l’intero settore: la sovranità tecnologica è diventata terreno di competizione fra governi, che ormai non controllano solo i microprocessori e i capitali, ma anche a chi si può vendere un’azienda.

Il commento. Diciamolo con franchezza, perché fingere un collegamento sarebbe peggio che ammetterlo: una compravendita fra Meta e il governo cinese non riguarda un istituto scolastico statale, e nessuna decisione presa in una scuola cambia per effetto di questa notizia. Riguarda però chi compra software, e voi ne comprate. La lezione, tolta la geopolitica, è che il fornitore scelto quest’anno può cambiare proprietario, condizioni e Paese in pochi mesi per una decisione presa da qualcuno che non vi avviserà, e che il momento per accorgersene non è quello in cui succede. Per una scuola questo si traduce in un oggetto molto concreto, che è il contratto del registro elettronico e delle piattaforme didattiche. La prova che conviene fare in questi giorni, e che dura un pomeriggio, è la sola che vi dice come state davvero messi: entrate nel registro con le credenziali di amministratore, cercate la funzione di esportazione e scaricate tutto quello che si riesce a scaricare. Poi guardate cosa avete in mano. Se ottenete file leggibili da un altro programma, con le valutazioni, le assenze, le anagrafiche e i verbali in una forma che un fornitore diverso può importare, siete liberi di cambiare. Se ottenete dei PDF, non avete i vostri dati: avete una fotografia dei vostri dati, e il giorno in cui il contratto finisse male o il fornitore cambiasse politica, dovreste ricominciare da capo pagando qualcuno per ribattere a mano ciò che avete già pagato una volta. Vale la pena aggiungere che qui non siete un’azienda qualsiasi: sono documenti che avete l’obbligo di conservare per anni, e la conservazione di un documento che vive solo dentro il sistema di un fornitore è una conservazione che non controllate. Da qui due cose da mettere nel prossimo rinnovo, che sono clausole normali e si ottengono chiedendole: il diritto all’esportazione completa in formato aperto in qualunque momento, e il tempo entro cui il fornitore deve consegnarla in caso di cessazione. Chi rinnova quest’anno ha l’occasione di scriverle adesso, prima che servano, che è l’unico momento in cui si ottengono senza discutere. E una nota per chi in estate ha provato assistenti gratuiti per preparare materiali: come strumento di prova vanno benissimo, ma quando una cosa comincia a servire davvero, la domanda da farsi è che cosa succede il giorno in cui non è più disponibile.

D.R.

Fonte: Rivista.AI

Orientamento

Il mestiere che nel 2021 veniva indicato come il più sicuro del futuro oggi perde il 32%, e vale come avvertimento su come si orienta

Affaritaliani mette insieme due lavori distinti sul rapporto fra intelligenza artificiale e occupazione. Il primo è una ricerca Visier condotta su 3,6 milioni di profili di dipendenti in oltre 155 organizzazioni, che registra un calo complessivo delle assunzioni del 24% rispetto al 2022, con movimenti interni molto diversi fra loro: gli ingegneri dedicati all’intelligenza artificiale crescono del 251% mentre i data scientist calano del 32%, l’area dati e analisi cresce del 49% e quella di gestione dei prodotti del 39%, mentre il personale e la finanza arretrano del 3% e del 4%. Il secondo riferimento è lo studio Anitec-Assinform con il Politecnico, che stima per l’Italia un valore aggiunto potenziale legato all’intelligenza artificiale di 312 miliardi di euro, pari al 18,2% del prodotto interno lordo, e 5,7 miliardi di ore di lavoro liberabili ogni anno. L’articolo cita inoltre l’aumento del 42% degli attacchi informatici gravi nel 2025, per un totale di 507 casi. Le professioni indicate come più difficili da automatizzare sono quelle in cui contano giudizio, responsabilità e fiducia: fra le altre, educatori, avvocati, architetti ed esperti di sicurezza.

Il commento. Il numero da ritagliare non è il calo del 24% delle assunzioni e non sono i 312 miliardi, che a una scuola non dicono niente di utilizzabile. È l’accostamento fra il più 251% degli ingegneri dell’intelligenza artificiale e il meno 32% dei data scientist, e conviene tenerlo a mente perché riguarda una cosa che fate tutti gli anni, cioè l’orientamento. Il data scientist è esattamente il mestiere che dal 2018 al 2022 veniva indicato nelle presentazioni alle famiglie come il lavoro sicuro del futuro, quello per cui valeva la pena scegliere un certo indirizzo. Non è stato sostituito da una macchina: è stato sostituito da un mestiere vicino, nato nel frattempo, che chiede competenze diverse. Un ragazzo che ha scelto quel percorso nel 2022 sulla base di quelle presentazioni oggi si laurea in un mercato che si è spostato di un passo, e nessuno lo aveva avvertito che poteva succedere. È la lezione più importante che questa notizia porta dentro una scuola, e non è una lezione sull’intelligenza artificiale: è una lezione su come si orienta. La conseguenza pratica è cambiare il tipo di frase che si dice a dicembre agli open day e ai colloqui con le famiglie. Le previsioni sui mestieri più richiesti fra dieci anni non sono affidabili, e continuare a usarle come argomento espone i ragazzi al rischio che ha appena colpito quella generazione. Funziona meglio il ragionamento opposto, che regge alla prova dei fatti citati nell’articolo stesso: le professioni che tengono sono quelle in cui contano giudizio, responsabilità e fiducia, cioè quelle in cui qualcuno risponde di una decisione presa su un’altra persona. È il motivo per cui in quell’elenco compaiono gli educatori, e vale la pena farlo notare in sala insegnanti in un anno in cui si parla soprattutto di sostituzioni. Da qui una proposta concreta per chi si occupa di orientamento e ha ancora due settimane libere: sostituire almeno una delle slide sui lavori del futuro con questo dato di ritorno, cioè con la storia di una previsione autorevole che si è rivelata sbagliata in tre anni. Ai ragazzi di quinta serve più di un elenco di professioni: insegna a diffidare della sicurezza con cui vengono presentate quelle previsioni, e sposta la domanda da "quale lavoro ci sarà" a "che cosa so fare che non si delega", che è l’unica domanda a cui possono lavorare da subito. Sui 5,7 miliardi di ore liberabili, infine, una cautela che vale anche per voi: un’ora liberata non è un’ora guadagnata. Se non si decide prima che cosa ci si fa, si ridistribuisce sulle altre incombenze e sparisce, ed è esattamente quello che è successo in segreteria con ogni digitalizzazione degli ultimi vent’anni.

D.R.

Fonte: Affaritaliani