In breve
L'intelligenza artificiale sta entrando nelle officine, e si scontrano due schieramenti: chi pensa che farà tutto, e chi pensa che romperà tutto. Dopo quattordici anni nella qualità industriale e due anni passati a costruire strumenti per officine reali, la mia risposta sta in una riga: ben governata, l'IA fa circa l'80 % del lavoro ripetitivo della qualità (raccogliere, tracciare, preparare) e lascia intatto il 20 % che conta: decidere, scegliere, assumersene la responsabilità.
Il confine non è tecnico, è morale. Una macchina può preparare un fascicolo di non conformità impeccabile; non può firmare la decisione di chiuderlo. Perché firmare significa rispondere delle proprie scelte davanti a un cliente, un auditor, un committente. E la responsabilità non si automatizza. Questo articolo traccia questa linea con precisione e spiega perché un chatbot usato così com'è e un'IA governata da un software verticale non giocano nello stesso campionato.
La divisione del lavoro, detta semplicemente
Cominciamo dal concreto, perché è lì che nasce la confusione. Quando si dice « l'IA fa il lavoro », di quale lavoro si parla?
In un sistema qualità ci sono due tipi di lavoro. C'è il lavoro meccanico: ricopiare quote, raccogliere non conformità sparse, ritrovare l'ultimo certificato di taratura di uno strumento, ricostruire uno storico la sera prima di un audit, collegare una prova a un'altra. Questo lavoro porta via tempo, è ingrato e non richiede alcun giudizio. Richiede rigore e ore, due cose che una PMI manifatturiera non ha mai in quantità sufficiente.
E c'è il lavoro di giudizio: decidere quale non conformità correggere per prima, giudicare se un'azione correttiva ha davvero risolto il problema di fondo, accettare o rifiutare un rischio residuo, firmare un riesame della direzione. Questo lavoro è raro, denso, e impegna qualcuno.
Il modo giusto di pensare l'IA nella qualità è questa divisione: lei prende il meccanico, voi tenete il giudizio. Non perché la macchina sarebbe troppo stupida per il resto (spesso formulerebbe una risposta plausibile), ma perché quel resto riguarda la responsabilità, non il calcolo.
L'IA prepara il fascicolo. L'essere umano lo firma. Questa frase dovrebbe essere appesa al muro di ogni officina che adotta questi strumenti.
Perché la responsabilità non si automatizza
È il punto che difendo con più fermezza, quindi prendiamoci il tempo di porlo.
Un sistema qualità, spogliato del suo gergo, è un meccanismo con cui un'organizzazione risponde di ciò che produce. Quando un committente riceve un pezzo, non riceve solo un pezzo di metallo lavorato: riceve l'impegno di un'officina che afferma che il pezzo è conforme, che il processo è sotto controllo, che gli scostamenti sono stati trattati. Questo impegno ha un nome, nel diritto e nella pratica: la responsabilità.
Ma non si può delegare una responsabilità a una cosa che non ne porta alcuna. Se un'IA « decide » di chiudere una non conformità e il difetto ricompare dal cliente tre mesi dopo, chi risponde? Non l'algoritmo. Voi. Il responsabile qualità che ha convalidato, o che avrebbe dovuto convalidare. La macchina non ha né abilitazione, né firma, né coscienza professionale da mettere in gioco. Non perde niente se sbaglia.
Ecco perché il confine del 20 % non è negoziabile: una decisione di qualità è un atto, compiuto da qualcuno che ne assume le conseguenze. La ISO 9001 lo sa da sempre: è per questo che esige, con le azioni correttive (§10.2), non che un problema sparisca per magia, ma che una persona ne analizzi la causa, decida una risposta e verifichi che abbia funzionato. Si corregge una non conformità (§8.7) collegata a un processo; non si spunta una casella.
Una macchina può preparare ognuna di queste fasi. Può raccogliere i fatti, proporre un'analisi, redigere una bozza. Non può essere la persona che risponde. Il giorno in cui si confondono le due cose, non si ha più un sistema qualità, solo un paravento.
Chatbot generico contro IA governata: la distinzione che cambia tutto
Quando la maggior parte delle persone sente « IA », immagina un chatbot. Si digita una domanda, lui sputa fuori una risposta. È questa immagine che alimenta sia la promessa ingenua (« scriverà il mio manuale qualità ») sia la paura legittima (« inventerà qualsiasi cosa »). Entrambe hanno ragione quando si tratta del chatbot generico. Lasciata sola, senza ancoraggio, un'IA generativa produce testo plausibile e scollegato dalla realtà. Non conosce le vostre macchine, il vostro storico, le vostre regole. Improvvisa con una sicurezza che, nella qualità, è un pericolo.
Ma c'è un modo completamente diverso di usare questa tecnologia: l'IA governata da un software verticale. Lì l'IA non è più un oracolo a cui si crede sulla parola. È uno strumento vincolato da un'applicazione che la obbliga a basarsi sui vostri dati reali, che mette ogni prova al suo posto, che verifica i suoi risultati e che rifiuta le scorciatoie. La differenza tra le due è grande come quella tra una voce di corridoio e un fascicolo.
Un esempio concreto vale più di un lungo discorso. Prendete l'estrazione da un disegno quotato. Un chatbot generico a cui si mostra un disegno tecnico « leggerà » numeri e li sputerà fuori: a volte giusti, a volte inventati, senza che si sappia quali. Un'IA governata da un software di collaudo invece estrae ogni quota dentro una struttura: ogni valore è collegato al suo pallino, presentato per la verifica umana, e niente viene convalidato finché un occhio non ha confermato. L'IA propone; il quadro di regole disciplina; l'essere umano dispone. Lo stesso motore, usato da solo, sarebbe un gadget pericoloso; usato dentro un quadro di regole, diventa un acceleratore affidabile.
È qui che si gioca tutta la tesi. L'IA senza regole né struttura diluisce e improvvisa. L'IA dentro un'applicazione ben progettata fa il contrario: applica un rigore che la mano umana, stanca un venerdì pomeriggio, non applica sempre. La tecnologia è la stessa. Ciò che cambia sono le briglie.
Cosa fa un buon quadro di regole, in pratica
Cos'è concretamente un « quadro di regole »? Sono comportamenti precisi che un software ben progettato impone, e che un chatbot generico non conosce.
Ancora l'IA ai vostri dati reali. Non ragiona su generalità: lavora sulle vostre non conformità, sui vostri strumenti, sui vostri processi. Ciò che produce è verificabile riga per riga, perché ogni elemento viene da voi.
Rifiuta di rompere una prova. Quando un oggetto è referenziato da un altro (un'azione correttiva collegata alla sua non conformità secondo il §10.2, un'azione preventiva collegata a un'analisi dei rischi secondo il §6.1), un buon software rifiuta puramente e semplicemente di cancellarlo. Non si può far sparire una prova « per errore ». È il controllo delle informazioni documentate (§7.5) applicato automaticamente, senza contare sulla disciplina di nessuno.
Mostra le lacune invece di mascherarle. È forse il comportamento che dice meglio la filosofia. Quando un dato è incompleto, un buon quadro di regole lo mostra come incompleto. Non riempie il vuoto con un'invenzione rassicurante. Un chatbot generico, costretto a produrre una risposta, riempirà il buco a ogni costo. Un'IA governata segnala: « manca questo, non decido al posto vostro. » Nella qualità questa onestà vale oro. È esattamente il contrario del teatro delle caselle spuntate che i veterani della ISO temono, a ragione.
Si ferma nel punto giusto. Un buon software porta il fascicolo preparato (i fatti collegati, gli avvisi, lo stato di preparazione), poi vi restituisce il controllo. È costruito per assistere il giudizio, mai per simularlo. Il punto in cui si ferma è proprio il confine del 20 %.
| Ciò che l'IA governata fa bene: 80 %, il meccanico | Ciò che resta 100 % umano (20 %, il giudizio) |
|---|---|
| Estrarre, strutturare, raccogliere l'informazione (quote, fascicoli, storico) | Decidere cosa correggere, e in quale ordine di priorità |
| Collegare ogni prova secondo le regole del mestiere, senza rotture | Giudicare se una non conformità è davvero chiusa, nella sostanza |
| Sorvegliare le scadenze e segnalare gli scostamenti | Accettare o rifiutare un rischio residuo (§6.1) |
| Preparare il fascicolo e la bozza di un'azione correttiva (§10.2) | Convalidare l'azione, firmarla, risponderne davanti all'auditor |
| Mostrare uno stato completo e aggiornato, comprese le proprie lacune | Dare senso, animare la cultura della qualità in reparto |
Guardate la colonna di sinistra: lavoro reale, che porta via tempo, senza giudizio. È ciò che una PMI non ha i mezzi per far svolgere a un ingegnere a tempo pieno. Guardate la colonna di destra: niente lì dentro dovrebbe mai lasciare le mani di una persona responsabile. Un software onesto è quello che sa, a ogni schermata, a quale colonna appartiene.
La trappola da evitare: automatizzare la prova, dimenticare la sostanza
Bisogna nominare il pericolo, perché è reale. La tentazione, con questi strumenti, è automatizzare la prova dimenticando la sostanza. Ritrovarsi con un sistema che spunta magnificamente tutte le caselle della norma senza che sia avvenuto alcun miglioramento reale in reparto.
Questa deriva non è causata dall'IA, ma da un cattivo uso dell'IA: quello che oltrepassa il confine del 20 % e lascia che la macchina « decida » per andare più veloce. Un'officina che lascia a un algoritmo la chiusura delle sue non conformità senza uno sguardo umano guadagnerà tempo il primo anno e perderà la fiducia dei clienti il secondo, quando gli stessi difetti ritorneranno.
Immaginate lo scenario, perché ho visto situazioni che ci si avvicinavano pericolosamente. Un titolare sommerso di lavoro collega uno strumento generico al suo storico e gli chiede di « classificare » e « chiudere » le non conformità in sospeso. La macchina esegue con sicurezza: in pochi minuti tutto è ordinato, tutto sembra a posto. Nessuno rilegge. Poi arriva l'audit o, peggio, un pezzo non conforme che riparte verso il committente. Si scopre allora che casi gravi sono stati classificati come minori, che cause di fondo non sono mai state analizzate, che si sono spuntate caselle sul vuoto. Lo strumento non risponde di niente. Il titolare sì. La responsabilità non si è spostata di un millimetro: è rimasta, intera, dalla parte umana, solo che il controllo era stato abbandonato.
L'ho constatato sul campo, al contrario. In un'officina meccanica riconosciuta della regione di Sorel, in Québec, abbiamo ripreso diversi anni di storico di non conformità sparse. Il software ha fatto il grosso del lavoro: raccogliere tutto, collegare tutto, rendere tutto leggibile. Ma ciò che ha creato valore è stato il momento in cui un essere umano ha guardato l'insieme ricostruito e si è chiesto: quante volte è tornato questo stesso difetto? Su quale macchina? Cosa non abbiamo mai risolto alla radice? Lo strumento ha reso la domanda possibile. Solo il giudizio umano poteva rispondere. Togliete l'essere umano, e avrete solo un bell'inventario di problemi che continuano.
La sostanza della qualità (la volontà di migliorare, la decisione di agire, la responsabilità assunta) non si delega a nessuna macchina. Un buon quadro di regole protegge questa sostanza; un cattivo uso la svuota. La tecnologia non decide; l'intenzione di chi la usa, sì.
In conclusione: la linea giusta, non la macchina giusta
La domanda non è quindi « l'IA fa bene o male alla qualità ». È una domanda mal posta. La vera domanda è: dove si traccia la linea, e lo strumento che si adotta la rispetta?
La mia convinzione, forgiata su officine reali, sta nella divisione che ho descritto. L'IA governata da un software verticale assorbe il lavoro meccanico che schiacciava le PMI e le teneva lontane da una qualità strutturata. Lo fa meglio, più in fretta e senza mai dimenticare una prova. Ma si ferma di colpo al confine del giudizio, perché dall'altra parte comincia la responsabilità, e la responsabilità non si programma.
Restano domande aperte, che preferisco porre piuttosto che fingere di risolvere. Fino a che punto un'azienda vuole affidare la memoria della sua qualità a uno strumento, anche onesto? Come dovrebbe verificare un auditor un sistema in cui il lavoro meccanico è tracciato automaticamente: concentrandosi di più sul giudizio umano, visto che è lì che si sposta il rischio? E noi, progettisti di questi strumenti: fino a che punto abbiamo il dovere di rendere visibile, sullo schermo, la linea che l'utente non deve oltrepassare?
Non ho una risposta definitiva. Ho una convinzione di professionista: un buono strumento di IA nella qualità non è quello che fa di più. È quello che sa, meglio di chiunque altro, cosa non deve mai fare al posto vostro.
I principi descritti in questo articolo sono quelli che hanno guidato lo sviluppo di Asterion Solutions, una suite di software verticali pensati per le PMI manifatturiere che vogliono strutturare la loro qualità senza moltiplicare le attività amministrative.