Che cos'è concretamente un'«istruzione estranea»?
Una frase in un documento in ingresso che non si rivolge al lettore, ma al sistema — ad esempio l'invito a ignorare istruzioni precedenti o a inoltrare contenuti. Può essere invisibile: testo bianco, metadati, nota a piè di pagina. Il termine tecnico è prompt injection, più precisamente prompt injection indiretta. L’Ufficio federale tedesco per la sicurezza informatica (BSI) avverte dal 2023 che questa vulnerabilità è insita nella tecnologia stessa. Uno studio di Anthropic, dello UK AI Security Institute e dell’Alan Turing Institute (ottobre 2025) ha inoltre mostrato che bastano 250 testi di addestramento preparati per insegnare a un modello linguistico un comportamento nascosto, indipendentemente dalle sue dimensioni.
Basta dire ai collaboratori di fare attenzione?
No. Il testo spesso non è visibile alle persone. ⛔ L'attenzione aiuta contro i casi evidenti, non contro quelli scritti per le macchine.
Ci serve un nuovo software?
Per lo più no. La maggior parte è configurazione: diritti, separazione, registro, canale di segnalazione. Costa cura, non licenze.
E le registrazioni dello schermo?
Alcuni strumenti possono leggere lo schermo. Durante una riunione in corso o con un sistema parallelo aperto, questo è un problema. La funzione deve poter essere disattivata e bloccata per le finestre riservate.
E se a essere attaccato è il fornitore stesso?
Dall'11 settembre 2026 i produttori devono segnalare alle autorità, entro 24 ore, le vulnerabilità sfruttate attivamente e informare i propri utenti. ⭐ Si faccia garantire nel contratto di venirne a conoscenza — non solo dalla stampa.