Emma, l’AI italiana diventata meme
Negli ultimi giorni la rete ha riso molto alle spalle di Emma. L’assistente virtuale presentato come la grande novità della tecnologia italiana è diventato una barzelletta nazionale a causa delle risposte assurde fornite agli utenti.
Chi legge le pagine di questo blog sa che non ho posizioni contrarie alla tecnologia. Ne scrivo da tempo, sostengo l’automazione quando serve a produrre meglio in officina o negli uffici.
Il problema reale sorge quando si adottano software a scatola chiusa solo per seguire le mode del mercato o spinti dalla FOMO (acronimo di Fear Of Missing Out, letteralmente “paura di essere tagliati fuori”).
Questa fretta commerciale genera danni d’immagine immediati davanti ai clienti. Gestire un’azienda richiede un approccio attento, lontano dai proclami delle Big Tech e dall’hype per l’ultimo modello agentico.
Chi promuove questi sistemi promette miracoli, ma la realtà consegna strumenti fragili che inventano dati storici o informazioni commerciali.
Serve una condotta responsabile per evitare che il nome della tua impresa finisca al centro di un meme telematico.
L’inganno del pappagallo
L’errore di Emma non dipende da un guasto improvviso o da una bizzarria del sistema. Le autrici Emily Bender e Amandalynne Hanna spiegano questi blocchi nel saggio “L’inganno dell’Intelligenza Artificiale“.
I grandi modelli linguistici rimangono sistemi statistici addestrati su ampi volumi di testo. Il loro unico compito consiste nel prevedere la parola successiva più probabile all’interno di una frase.
Non c’è alcun pensiero reale dietro le risposte generate. Nel libro, questa tecnologia viene definita con un’espressione chiara: pappagalli stocastici. I software manipolano la forma della lingua senza comprendere il significato dei vocaboli o l’intento della comunicazione.
Gli esseri umani imparano a parlare attraverso l’attenzione condivisa con chi si prende cura di loro, legando le parole agli oggetti reali. Le macchine calcolano solo la distribuzione statistica dei segni grafici in un archivio.
Comunemente, quando il software inventa un dato falso si usa il termine allucinazione. Però, questa scelta linguistica costituisce un errore perché attribuisce facoltà umane a un codice. Un software non sperimenta visioni e non percepisce la realtà esterna.
Parlare di allucinazioni serve a nascondere un comune difetto di “fabbricazione” del prodotto, scaricando la responsabilità dell’errore sull’utente.
Il caso Claude
Se gli scivoloni di Emma si traducono in barzellette, la dipendenza dai server americani introduce minacce concrete alla stabilità delle aziende.
La cronaca recente mostra un pericolo immediato, ben peggiore di una risposta errata. Il caso del blocco dei modelli di Anthropic rivela un meccanismo predatorio che molti imprenditori continuano a ignorare.
Il 9 giugno vengono presentati Fable 5 e Mythos 5, due modelli descritti come protetti da blocchi impenetrabili. Tre giorni dopo, i tecnici di Amazon individuano una falla nel codice capace di superare le difese. Il Cda di Amazon sceglie di non avvertire l’azienda partner, ma si rivolge direttamente al governo di Washington.
Questo comportamento trasforma un normale difetto informatico in un’arma di pressione politica ed economica. Il Dipartimento del Commercio ordina subito lo stop del servizio per tutti gli utenti privi di cittadinanza statunitense.
Bisogna precisare che la richiesta di sicurezza totale avanzata da consiglieri politici come David Sacks si rivela un inganno scientifico: pretendere che un algoritmo elimini ogni difetto equivale a pretendere che una serratura meccanica sia del tutto inviolabile. Si tratta di uno standard irrealizzabile per la scienza attuale.
Questa severità appare mirata. Le autorità hanno chiuso un occhio di fronte alle risposte letali di Google o ai testi offensivi generati dal sistema Grok di Elon Musk. Colpire l’unico fornitore trasparente indica che la decisione governativa risponde a scopi protezionistici.
Probabilmente, il vero traguardo di questa operazione si nasconde dietro la richiesta di un documento d’identità per accedere ai servizi digitali. E infatti, Anthropic ha già modificato le proprie regole sulla riservatezza, annunciando possibili controlli anagrafici sulla clientela.
La scusa del controllo serve a tracciare i flussi di lavoro delle aziende estere, impedendo la copia dei modelli da parte dei concorrenti stranieri. Niente di diverso da ciò che allo stesso tempo sta facendo la Cina con i suoi modelli AI.
Mi rendo conto che può sembrare una narrazione distopica, ma se i tuoi flussi di lavoro dipendono da software che si trovano su server remoti, che possono essere spenti o limitati all’occorrenza, la produzione aziendale resta subordinata a decisioni politiche prese a migliaia di chilometri di distanza.
La via d’uscita: tre pilastri di protezione
La difesa dell’azienda richiede il superamento della propaganda diffusa dai fuffa guru del digitale. Siamo bombardati ogni giorno da “formule magiche” che promettono di ottenere performance sbalorditive, vendendo la falsa promessa del perfetto flusso di lavoro automatizzato.
Questo racconto nasconde i difetti strutturali di programmi che calcolano probabilità senza comprendere il senso delle informazioni. Ma accettare passivamente queste formule espone l’impresa a errori operativi gravi.
I tre pilastri di protezione servono a riprendere il controllo del timone. Il primo pilastro coincide con l’alfabetizzazione digitale del personale interno. L’istruzione dei collaboratori costituisce l’unico vero argine civile contro il disastro commerciale.
Un organico privo di preparazione accetta ogni dato generato dal sistema, inserendo risposte inventate nei cataloghi o nelle schede tecniche. Formare i dipendenti significa insegnare loro a verificare ogni riga prodotta dall’AI. Solo la conoscenza diffusa impedisce alle cosiddette allucinazioni del codice di distruggere le relazioni con la clientela.
Il secondo pilastro impone lo smascheramento dei contratti cloud. Adottare soluzioni esterne attirati dal miraggio del risparmio di tempo genera una sottomissione tecnica completa. Nel momento in cui i processi aziendali dipendono da server collocati all’estero, l’attività resta subordinata alle decisioni politiche straniere. La vera efficienza si ottiene conservando le competenze critiche all’interno delle mura aziendali.
Il terzo pilastro riguarda la tutela legale dei segreti industriali. I regolamenti sul digitale non sono ostacoli burocratici, ma barriere necessarie a bloccare il furto indiscriminato dei dati preteso dalle multinazionali. Ecco perché dobbiamo esigere verifiche indipendenti sui software prima di legare la produzione a piattaforme remote.
L’ignoranza digitale crea una dipendenza tossica che unisce le invenzioni delle AI ai blocchi governativi d’oltreoceano. Conservare il più alto grado di autonomia e consapevolezza rimane l’unica scelta strategica sensata per difendere il patrimonio dell’azienda.
