KI im Qualitätsmanagement: Chancen nutzen, Risiken erkennen – bei der QM-Corner diskutierten Expertinnen und Experten über Datenschutz, Sicherheit und den verantwortungsvollen Einsatz von KI.
Die Qualität von Produkten und Dienstleistungen bleibt ein zentraler Erfolgsfaktor im Maschinen- und Anlagenbau. Damit das Qualitätsmanagement dieser Schlüsselrolle auch künftig gerecht werden kann, muss es sich kontinuierlich weiterentwickeln – sei es durch neue Arbeitsmodelle, die zunehmende Digitalisierung oder die steigende Komplexität von Produkten. Künstliche Intelligenz (KI) eröffnet in diesem Kontext neue Potenziale, stellt Unternehmen jedoch zugleich vor große Herausforderungen in Bezug auf Datenschutz und Datensicherheit.
Um Betrieben aus dem Maschinen- und Anlagenbau in Nordrhein-Westfalen praxisnahe Einblicke in diese Themen zu geben, veranstaltete ProduktionNRW am 10. April 2025 eine digitale Ausgabe der QM-Corner zum Thema.
Chancen und Risiken im KI-Einsatz
Dr. Thomas Nowey, Head of Corporate Cyber Security bei der Krones AG, stellte in seinem Vortrag anschaulich dar, wie KI bei Krones bereits zum Einsatz kommt – etwa in internen IT-Systemen sowie in Produkten zur automatisierten Qualitätskontrolle mittels Bilderkennung. Dabei folgt das Unternehmen einem klar strukturierten Prozess zur Prüfung, Freigabe und Kontrolle von KI-Anwendungen, unter strenger Berücksichtigung von Datenschutzvorgaben.
Neben der bereits etablierten Datenschutz-Grundverordnung (DSGVO) rückt zunehmend auch der neue EU AI Act in den Fokus, der ab August 2024 schrittweise Anwendung findet. Dieser verlangt unter anderem Risikoabwägungen, Transparenz, die Sicherstellung technischer Schutzmaßnahmen und die Einhaltung ethischer Grundsätze wie Fairness und Verantwortlichkeit. Besonders kritisch wird der Umgang mit personenbezogenen Daten in KI-Systemen betrachtet.
Ein Schwerpunkt lag auf LLM-basierten (Large Language Model) KI-Lösungen, etwa Chatbots. Diese bergen spezifische Risiken – darunter die ungewollte Offenlegung vertraulicher Informationen, die Nutzung personenbezogener Daten ohne Berechtigung oder mögliche Urheberrechtsverletzungen. Dr. Nowey betonte, dass KI-Systeme denselben Qualitäts- und Sicherheitsstandards wie klassische IT-Lösungen unterliegen sollten. Dazu zählen unter anderem ein strukturierter Entwicklungsprozess, umfassendes Lieferantenmanagement sowie die frühzeitige Einbindung von Datenschutzbeauftragten und Betriebsrat.
Empfehlungen für den Praxiseinsatz sind unter anderem eine bewusste Datenminimierung, klare Rollenverteilung im Betrieb, kontinuierliches Monitoring sowie begleitende Schulungen – beispielsweise in Form eines „KI-Führerscheins“. Nur durch ein ganzheitliches Zusammenspiel von Technologie, Prozessen und Verantwortungsbewusstsein könne ein sicherer und ethischer KI-Einsatz gelingen.
Diskussion und Austausch
In der abschließenden Diskussionsrunde fand insbesondere die Idee eines „KI-Führerscheins“ großen Anklang bei den Teilnehmenden. Auch die Risiken im Umgang mit KI – etwa im Hinblick auf fehlerhafte Ergebnisse oder unbefugten Zugriff auf personenbezogene Daten – wurden intensiv diskutiert. Der Austausch verdeutlichte, wie wichtig ein kritischer und reflektierter Umgang mit KI ist, um mögliche Schäden zu vermeiden und die Chancen der Technologie verantwortungsvoll zu nutzen.
Veranstalter
Die Veranstaltung wurde von ProduktionNRW angeboten. ProduktionNRW ist das Cluster des Maschinenbaus und der Produktionstechnik in Nordrhein-Westfalen und wird vom VDMA NRW durchgeführt. ProduktionNRW versteht sich als Plattform, um Unternehmen, Institutionen und Netzwerke untereinander und entlang der Wertschöpfungskette zu vernetzen, zu informieren und zu vermarkten. Wesentliche Teile der Leistungen, die ProduktionNRW erbringt, werden aus Mitteln des Ministeriums für Wirtschaft, Industrie, Klimaschutz und Energie des Landes Nordrhein-Westfalen gefördert.