Kurz gesagt
Künstliche Intelligenz hält Einzug in die Betriebe, und zwei Lager stehen sich gegenüber: die, die glauben, sie werde alles erledigen, und die, die glauben, sie werde alles kaputt machen. Nach vierzehn Jahren in der industriellen Qualitätssicherung und zwei Jahren, in denen ich Werkzeuge für echte Betriebe gebaut habe, passt meine Antwort in eine Zeile: Klar eingegrenzt erledigt KI etwa 80 % der wiederkehrenden Qualitätsarbeit (zusammentragen, rückverfolgen, vorbereiten) und lässt die 20 % unangetastet, auf die es ankommt: entscheiden, abwägen, dafür einstehen.
Die Grenze ist nicht technisch, sie ist moralisch. Eine Maschine kann einen tadellosen Abweichungsvorgang vorbereiten; sie kann die Entscheidung, ihn zu schließen, nicht unterschreiben. Denn unterschreiben heißt, vor einem Kunden, einem Auditor, einem Auftraggeber für seine Entscheidungen einzustehen. Und Verantwortung lässt sich nicht automatisieren. Dieser Artikel zieht diese Linie genau und erklärt, warum ein reiner Chatbot und eine von Fachsoftware klar eingegrenzte KI nicht in derselben Liga spielen.
Die Arbeitsteilung, einfach gesagt
Beginnen wir mit dem Konkreten, denn dort entsteht die Verwirrung. Wenn man sagt „die KI erledigt die Arbeit“, von welcher Arbeit spricht man?
In einem QM-System gibt es zwei Arten von Arbeit. Es gibt die mechanische Arbeit: Maße abschreiben, verstreute Abweichungen zusammentragen, den letzten Kalibrierschein eines Prüfmittels wiederfinden, am Vorabend eines Audits eine Historie rekonstruieren, einen Nachweis mit einem anderen verknüpfen. Diese Arbeit ist zeitraubend, undankbar und verlangt kein Urteil. Sie verlangt Sorgfalt und Stunden, zwei Dinge, die ein Fertigungs-KMU nie in ausreichender Menge hat.
Und es gibt die Arbeit des Urteils: entscheiden, welche Abweichung zuerst korrigiert wird, beurteilen, ob eine Korrekturmaßnahme das eigentliche Problem wirklich gelöst hat, ein Restrisiko annehmen oder ablehnen, eine Managementbewertung unterschreiben. Diese Arbeit ist selten, dicht, und sie nimmt jemanden in die Pflicht.
Die richtige Art, über KI in der Qualität nachzudenken, ist diese Teilung: Sie übernimmt das Mechanische, Sie behalten das Urteil. Nicht weil die Maschine für den Rest zu dumm wäre (oft würde sie eine plausible Antwort formulieren), sondern weil dieser Rest eine Frage der Verantwortung ist, nicht der Berechnung.
Die KI bereitet den Vorgang vor. Der Mensch unterschreibt ihn. Dieser Satz sollte in jedem Betrieb an der Wand hängen, der diese Werkzeuge einführt.
Warum sich Verantwortung nicht automatisieren lässt
Das ist der Punkt, den ich am entschiedensten vertrete, also nehmen wir uns die Zeit, ihn darzulegen.
Ein QM-System ist, vom Fachjargon befreit, ein Mechanismus, durch den eine Organisation für das einsteht, was sie herstellt. Wenn ein Auftraggeber ein Teil erhält, erhält er nicht nur ein Stück bearbeitetes Metall: Er erhält die Zusage eines Betriebs, der erklärt, dass das Teil konform ist, dass der Prozess beherrscht ist, dass Abweichungen behandelt wurden. Diese Zusage hat im Recht und in der Praxis einen Namen: Verantwortung.
Man kann aber keine Verantwortung an etwas delegieren, das keine trägt. Wenn eine KI „entscheidet“, eine Abweichung zu schließen, und der Fehler drei Monate später beim Kunden wieder auftaucht, wer steht dafür ein? Nicht der Algorithmus. Sie. Der Qualitätsverantwortliche, der bestätigt hat oder hätte bestätigen müssen. Die Maschine hat weder Zulassung noch Unterschrift noch Berufsethos aufs Spiel zu setzen. Sie verliert nichts, wenn sie sich irrt.
Deshalb ist die Grenze der 20 % nicht verhandelbar: Eine Qualitätsentscheidung ist eine Handlung, ausgeführt von jemandem, der ihre Folgen trägt. ISO 9001 weiß das seit jeher: Deshalb verlangt sie mit den Korrekturmaßnahmen (§10.2) nicht, dass ein Problem wie durch Zauberei verschwindet, sondern dass eine Person seine Ursache analysiert, eine Antwort beschließt und prüft, ob sie gewirkt hat. Man korrigiert eine Abweichung (§8.7), die einem Prozess zugeordnet ist; man kreuzt kein Kästchen an.
Eine Maschine kann jeden dieser Schritte vorbereiten. Sie kann die Fakten zusammentragen, eine Analyse vorschlagen, einen Entwurf schreiben. Sie kann nicht die Person sein, die dafür einsteht. An dem Tag, an dem man beides verwechselt, hat man kein QM-System mehr, sondern nur noch ein Feigenblatt.
Reiner Chatbot gegen klar eingegrenzte KI: der Unterschied, der alles ändert
Wenn die meisten Menschen „KI“ hören, stellen sie sich einen Chatbot vor. Man tippt eine Frage, er spuckt eine Antwort aus. Dieses Bild nährt sowohl das naive Versprechen („er schreibt mein QM-Handbuch“) als auch die berechtigte Angst („er erfindet irgendetwas“). Beide haben recht, wenn es um den reinen Chatbot geht. Allein, ohne Verankerung, erzeugt eine generative KI plausiblen, wirklichkeitsfernen Text. Sie kennt Ihre Maschinen nicht, Ihre Historie nicht, Ihre Regeln nicht. Sie improvisiert mit einer Selbstsicherheit, die in der Qualität eine Gefahr ist.
Aber es gibt eine ganz andere Art, diese Technik einzusetzen: die von einer Fachsoftware klar eingegrenzte KI. Dort ist die KI kein Orakel mehr, dem man aufs Wort glaubt. Sie ist ein Werkzeug, das an eine Anwendung gebunden ist, die sie zwingt, sich auf Ihre echten Daten zu stützen, die jeden Nachweis an seinen Platz legt, ihre Ergebnisse prüft und Abkürzungen verweigert. Der Unterschied zwischen beiden ist so groß wie zwischen einem Gerücht und einer Akte.
Ein konkretes Beispiel sagt mehr als eine lange Rede. Nehmen Sie das Auslesen einer bemaßten Zeichnung. Ein allgemeiner Chatbot, dem man eine technische Zeichnung zeigt, „liest“ Zahlen und spuckt sie aus: manchmal richtig, manchmal erfunden, ohne dass man weiß, welche. Eine von einer Prüfsoftware klar eingegrenzte KI dagegen erfasst jedes Maß in einer Struktur: Jeder Wert ist mit seinem Ballon verknüpft, wird zur menschlichen Prüfung vorgelegt, und nichts wird bestätigt, solange kein Auge es geprüft hat. Die KI schlägt vor; der Rahmen diszipliniert; der Mensch entscheidet. Derselbe Motor wäre pur eingesetzt ein gefährliches Spielzeug; klar eingegrenzt wird er zu einem verlässlichen Beschleuniger.
Hier entscheidet sich die ganze These. KI ohne Rahmen verwässert und improvisiert. KI in einer gut konzipierten Anwendung tut das Gegenteil: Sie wendet eine Strenge an, die die menschliche Hand an einem müden Freitagnachmittag nicht immer aufbringt. Die Technik ist dieselbe. Was sich ändert, ist der Rahmen, der sie im Zaum hält.
Was ein guter Rahmen in der Praxis tut
Was ist ein „Rahmen“ konkret? Es sind genaue Verhaltensweisen, die eine gut konzipierte Software vorschreibt und die ein reiner Chatbot nicht kennt.
Er verankert die KI in Ihren echten Daten. Sie argumentiert nicht mit Allgemeinplätzen: Sie arbeitet mit Ihren Abweichungen, Ihren Prüfmitteln, Ihren Prozessen. Was sie erzeugt, ist Zeile für Zeile überprüfbar, weil jedes Element aus Ihrem Betrieb stammt.
Er weigert sich, einen Nachweis zu zerbrechen. Wenn auf ein Objekt von einem anderen verwiesen wird (eine Korrekturmaßnahme, die nach §10.2 zu ihrer Abweichung gehört, eine Vorbeugungsmaßnahme, die nach §6.1 mit einer Risikoanalyse verknüpft ist), weigert sich eine gute Software schlicht, es zu löschen. Man kann keinen Nachweis „aus Versehen“ verschwinden lassen. Das ist die Lenkung dokumentierter Information (§7.5), automatisch angewandt, ohne auf irgendjemandes Disziplin zu zählen.
Er zeigt die Lücken, statt sie zu übertünchen. Das ist vielleicht das Verhalten, das die Philosophie am besten zeigt. Wenn eine Angabe unvollständig ist, zeigt ein guter Rahmen sie als unvollständig an. Er füllt die Lücke nicht mit einer beruhigenden Erfindung. Ein reiner Chatbot, der eine Antwort liefern muss, füllt die Lücke um jeden Preis. Eine klar eingegrenzte KI meldet: „Das hier fehlt, ich entscheide nicht an Ihrer Stelle.“ In der Qualität ist diese Ehrlichkeit Gold wert. Sie ist genau das Gegenteil des Kästchen-Theaters, das alte ISO-Hasen zu Recht fürchten.
Er hält an der richtigen Stelle an. Eine gute Software liefert den vorbereiteten Vorgang (die verknüpften Fakten, die Warnungen, den Vorbereitungsstand) und gibt dann das Steuer zurück. Sie ist dafür gebaut, das Urteil zu unterstützen, nie, es vorzutäuschen. Der Punkt, an dem sie anhält, ist genau die Grenze der 20 %.
| Was klar eingegrenzte KI gut kann: 80 %, das Mechanische | Was zu 100 % menschlich bleibt (20 %, das Urteil) |
|---|---|
| Information erfassen, strukturieren, zusammentragen (Maße, Vorgänge, Historie) | Entscheiden, was korrigiert wird, und in welcher Rangfolge |
| Jeden Nachweis nach den Regeln des Fachs lückenlos verknüpfen | Beurteilen, ob eine Abweichung in der Sache wirklich abgeschlossen ist |
| Fristen überwachen und Abweichungen melden | Ein Restrisiko annehmen oder ablehnen (§6.1) |
| Den Vorgang und den Entwurf einer Korrekturmaßnahme vorbereiten (§10.2) | Die Maßnahme bestätigen, unterschreiben, vor dem Auditor dafür einstehen |
| Einen vollständigen, aktuellen Stand anzeigen, einschließlich der eigenen Lücken | Sinn geben, die Qualitätskultur in der Werkstatt lebendig halten |
Schauen Sie auf die linke Spalte: echte, zeitraubende Arbeit ohne Urteil. Genau das, wofür sich ein KMU keinen Vollzeitingenieur leisten kann. Schauen Sie auf die rechte Spalte: Nichts davon sollte je die Hände einer verantwortlichen Person verlassen. Eine ehrliche Software ist eine, die bei jedem Bildschirm weiß, zu welcher Spalte er gehört.
Die Falle, die es zu vermeiden gilt: den Nachweis automatisieren, die Substanz vergessen
Man muss die Gefahr benennen, denn sie ist real. Die Versuchung bei diesen Werkzeugen besteht darin, den Nachweis zu automatisieren und die Substanz zu vergessen. Am Ende ein System zu haben, das alle Kästchen der Norm prächtig ankreuzt, ohne dass in der Werkstatt irgendeine echte Verbesserung stattgefunden hat.
Diese Entgleisung wird nicht von der KI verursacht, sondern von einem schlechten Umgang mit ihr: dem, der die Grenze der 20 % überschreitet und die Maschine „entscheiden“ lässt, um schneller zu sein. Ein Betrieb, der einen Algorithmus seine Abweichungen ohne menschlichen Blick schließen lässt, gewinnt im ersten Jahr Zeit und verliert im zweiten das Vertrauen seiner Kunden, wenn dieselben Fehler zurückkehren.
Stellen Sie sich das Szenario vor, denn ich habe Situationen gesehen, die ihm gefährlich nahekamen. Ein überlasteter Geschäftsführer schließt ein allgemeines Werkzeug an seine Historie an und bittet es, die offenen Abweichungen zu „sortieren“ und zu „schließen“. Die Maschine führt es selbstsicher aus: In wenigen Minuten ist alles sortiert, alles scheint in Ordnung. Niemand liest nach. Dann kommt das Audit oder, schlimmer, ein nicht konformes Teil, das zum Auftraggeber zurückgeht. Man entdeckt, dass schwere Fälle als geringfügig eingestuft wurden, dass Grundursachen nie analysiert wurden, dass Kästchen ins Blaue hinein angekreuzt wurden. Das Werkzeug steht für nichts ein. Der Geschäftsführer schon. Die Verantwortung hat sich keinen Millimeter bewegt: Sie ist vollständig auf der menschlichen Seite geblieben, nur wurde die Kontrolle aufgegeben.
Ich habe es in der Praxis umgekehrt erlebt. In einem anerkannten Zerspanungsbetrieb in der Region Sorel in Québec haben wir mehrere Jahre Historie verstreuter Abweichungen übernommen. Die Software hat den Rohbau erledigt: alles zusammentragen, alles verknüpfen, alles lesbar machen. Aber Wert entstand in dem Moment, als ein Mensch das rekonstruierte Ganze betrachtete und sich fragte: Wie oft ist derselbe Fehler wiedergekehrt? An welcher Maschine? Was haben wir nie an der Wurzel gelöst? Das Werkzeug hat die Frage möglich gemacht. Nur das menschliche Urteil konnte sie beantworten. Nehmen Sie den Menschen weg, und Sie haben nur ein schönes Verzeichnis von Problemen, die weitergehen.
Die Substanz der Qualität (der Wille, sich zu verbessern, die Entscheidung zu handeln, die übernommene Verantwortung) lässt sich an keine Maschine delegieren. Ein guter Rahmen schützt diese Substanz; ein schlechter Umgang höhlt sie aus. Nicht die Technik entscheidet, sondern die Absicht dessen, der sie einsetzt.
Zum Schluss: die richtige Linie, nicht die richtige Maschine
Die Frage lautet also nicht „Ist KI gut oder schlecht für die Qualität?“. Das ist eine falsch gestellte Frage. Die eigentliche Frage ist: Wo zieht man die Linie, und hält sich das Werkzeug, das man einführt, an sie?
Meine Überzeugung, geformt in echten Betrieben, liegt in der beschriebenen Teilung. Von einer Fachsoftware klar eingegrenzte KI übernimmt die mechanische Arbeit, die KMU erdrückte und von einer strukturierten Qualität fernhielt. Sie macht es besser, schneller und ohne je einen Nachweis zu vergessen. Aber sie hält an der Grenze des Urteils abrupt an, denn auf der anderen Seite beginnt die Verantwortung, und Verantwortung lässt sich nicht programmieren.
Es bleiben offene Fragen, die ich lieber stelle, als so zu tun, als hätte ich sie gelöst. Wie weit will ein Unternehmen das Gedächtnis seiner Qualität einem Werkzeug anvertrauen, selbst einem ehrlichen? Wie sollte ein Auditor ein System prüfen, in dem das Mechanische automatisch nachverfolgt wird: mit mehr Fokus auf das menschliche Urteil, weil sich das Risiko dorthin verlagert? Und wir, die Entwickler dieser Werkzeuge: Wie weit reicht unsere Pflicht, am Bildschirm sichtbar zu machen, welche Linie der Anwender nicht überschreiten darf?
Ich habe keine endgültige Antwort. Ich habe die Überzeugung eines Praktikers: Ein gutes KI-Werkzeug für die Qualität ist nicht das, das am meisten tut. Es ist das, das besser als jeder andere weiß, was es nie an Ihrer Stelle tun darf.
Die in diesem Artikel beschriebenen Grundsätze haben die Entwicklung von Asterion Solutions geleitet, einer Suite von Fachsoftware für Fertigungs-KMU, die ihre Qualität strukturieren wollen, ohne den Verwaltungsaufwand zu vervielfachen.