Machine Learning, Machine Unlearning e il lato oscuro della conoscenza aziendale

Ci concentriamo spesso su cosa dobbiamo ricordare. Processi, documenti, dati, storie aziendali.

Ma quasi mai ci chiediamo: che cosa dovremmo dimenticare?

Nel mondo della gestione della conoscenza aziendale, si parla spesso di “ricordanza”: la capacità di mantenere e valorizzare il sapere interno. Ma è tempo di portare sul tavolo anche la sua controparte operativa: la “dimenticanza”.

In questo contesto, il Machine Learning e il sempre più discusso Machine Unlearning diventano protagonisti di una riflessione cruciale.

Il paradosso della cancellazione nell’epoca dell’IA

Il Machine Learning è progettato per imparare. Registra pattern, riconosce schemi, memorizza dati. Anche quelli che, col senno di poi, sarebbe stato meglio non inserire affatto.

Negli ultimi anni, il concetto di Machine Unlearning si è fatto strada: l’idea di poter “disimparare” qualcosa da un sistema di IA senza doverlo riaddestrare da capo.

Ma secondo l’analisi pubblicata da ICT Security Magazine , e come evidenziato nello studio “Machine Unlearning Doesn’t Do What You Think” (Feder Cooper et al., 2024 -  link all’articolo completo https://arxiv.org/abs/2412.06966), questa è più una suggestione che una certezza.  

Perché, a differenza di un database classico, l’IA non archivia dati in modo separato. Li incorpora nei suoi parametri, nei pattern, rendendo quasi impossibile rimuoverli davvero.

Anche dopo un tentativo di "disimparare", le informazioni possono riemergere in output generati da prompt ambigui, malevoli o semplicemente creativi.

Dimenticanza e rischio: un binomio sottovalutato

Tutto questo apre scenari critici per la privacy, la sicurezza informatica e, soprattutto, per la Governance della conoscenza aziendale.

I modelli di IA generativa che usiamo per automatizzare report, affiancare la comunicazione interna o supportare il customer care possono diventare veicoli involontari di fughe informative, anche quando pensiamo di aver rimosso i dati sensibili.

Alcuni esempi concreti:

➜ Dati personali di ex dipendenti che riemergono in modelli interni.

➜ Informazioni strategiche che vengono “suggerite” da chatbot interni.

➜ Contenuti protetti da copyright ri-generati inconsapevolmente.

Governance, compliance e cultura: tre pilastri per non affondare

Affrontare tutto questo non è solo una sfida tecnica. È un cambio di paradigma organizzativo.

• Sul piano della governance, significa ridefinire le regole di gestione della conoscenza: cosa trattenere, cosa aggiornare, cosa eliminare e chi decide cosa fare. Non possiamo più permetterci archivi infiniti dove tutto si conserva “per sicurezza”: la sicurezza si ottiene, invece, dalla selezione consapevole.
• Sul fronte della compliance, il diritto all’oblio sancito dal GDPR entra in rotta di collisione con la realtà tecnica. Anche quando elimini i dati originali, il modello può generalizzarli e riproporli. Il rischio? Violazioni non intenzionali ma comunque gravi.
• Infine, la cultura aziendale. Serve una nuova alfabetizzazione interna: smettere di credere che più memoria sia sempre meglio, e cominciare a valorizzare la pulizia del sapere. Un team che sa cosa non serve più è un team più agile, sicuro e consapevole.

Oltre la sicurezza: verso una vera cyber-resilienza

La cybersecurity tradizionale si è sempre basata su un’illusione: che tutto sia controllabile.

Ma nel mondo dell’IA generativa, questa certezza si sgretola. Non possiamo più parlare solo di sicurezza. Dobbiamo parlare di resilienza.

Un’organizzazione resiliente non si illude di poter prevenire ogni rischio. Ma progetta sistemi in grado di reagire, isolare, contenere e ripartire. Anche se l’informazione “dimenticata” torna a bussare.

La nuova era della gestione della conoscenza

Il Machine Unlearning ci insegna una lezione più profonda: che la conoscenza aziendale non è infinita, e non deve esserlo.

Gestire il sapere significa anche scegliere cosa lasciar andare. Così come nel decluttering personale si liberano gli spazi, nel KM aziendale si liberano risorse, si aumenta il focus e si riduce il rischio.

La “dimenticanza” non è una minaccia. È una competenza strategica.

Responsabili HR, questo tema vi riguarda da vicino. La conoscenza non è solo tecnica, è anche cultura, fiducia, sicurezza.

Scrivetemi nei commenti o in privato. Apriamo un confronto su come integrare questi concetti nelle vostre strategie di formazione, comunicazione interna e gestione del rischio.

Ci vediamo nel prossimo articolo.

Jole @Trasformo il tuo sapere in superpotere@

🙋🏻♀️ P.S.: Quali strategie avete già messo in campo per “far dimenticare” ai vostri sistemi – o alle vostre persone – ciò che non serve più?