Was klingt wie ein Paradox, stellt ein reales Risiko für Unternehmen dar: Durch den Einsatz von KI-Systemen kann wertvolles Unternehmenswissen verloren gehen.
Kurz zusammengefasst lautet unsere Idee wie folgt: Aktuelle KI-Systeme basieren meist auf Verfahren des maschinellen Lernens. Basierend auf Vergangenheitsdaten erzeugen diese Verfahren Modelle zur Lösung von Problemen – etwa der Erkennung von Produktionsfehlern anhand von Bilddaten. Die so gelernten Modelle veralten aber im Laufe der Zeit (sie „driften“), wenn vergangenheitsbasierte Modellzusammenhänge aufhören, der sich wandelnden Realität entsprechen.
Ist ein KI-Modell gedriftet, benötigt es menschliche Fachexpertise, um das KI-System zu erneuern. Beispielsweise wird Fachwissen benötigt, um neue Trainingsdaten zu erstellen, um die Relevanz von Modellvariablen zu prüfen oder um die Leistung eines neu trainierten Systems zu beurteilen.
Die entsprechende fachliche Expertise geht jedoch, insbesondere durch den Einsatz von KI, vielerorts verloren. Dies beeinträchtigt den Prozess des maschinellen Lernens zur Erneuerung des KI-Systems. Schlussendlich verliert das Unternehmen nicht nur menschliche Expertise – auch das durch die KI gelernte Wissen verschlechtert sich in diesem Fall zunehmend.
Verlust menschlichen Fachwissens während des Einsatzes von KI
Ein offensichtlicher Grund für den Verlust von menschlichem Fachwissen ist der vielerorts beobachtbare Stellenabbau, der scheinbar durch den Einsatz von KI ermöglicht oder nur legitimiert wird. Es sollen kurzfristige Effizienzgewinne realisiert werden, die möglicherweise den Business Case vieler KI-Projekte ausmachen.
Ebenfalls zum Verlust menschlicher Expertise kann die durch KI-Systeme ermöglichte Automatisierung von Prozessen an sich beitragen. Wird eine Aufgabe durch eine KI übernommen, sinkt die Intensität der Einbindung menschlicher Akteure. Dadurch gerät deren Wissen zunehmend in Vergessenheit, da es nicht mehr regelmäßig zur Anwendung kommt.
Gleichzeitig wird zentrales Fachwissen von neuen Generationen nicht erlernt, wenn die Nutzung von KI zu einer Reduktion von Einstiegsjobs führt, während ältere Mitarbeitende das Unternehmen in den Ruhestand verlassen. Auch das zum Aufbau von Wissen notwendige Learning-by-Doing oder das Beobachten erfahrener Mitarbeitender durch Neulinge findet nur unzureichend statt, wenn Prozesse durch KI automatisiert sind.
Menschlicher Wissensverlust und der Erhalt von KI-Systemen
Verlorenes menschliches Fachwissen wäre weniger problematisch, wenn dieses von KI-Systemen nicht nur erlernt sondern auch verlässlich gespeichert würde. Hier kommt jedoch das oben erwähnte Drift-Phänomen ins Spiel: Das Veralten von KI-Modellen liegt in der Natur des maschinellen Lernens, da entsprechende Trainingsdaten stets nur die Vergangenheit abbilden. Eine Erneuerung veralteter KI-Modelle wiederum benötigt ebenjene menschliche Fachexpertise, die durch den Einsatz von KI zunehmend in Gefahr gerät.
Einerseits hilft dieses Fachwissen bei der Überwachung des Alterungsprozesses von KI-Modellen. Beginnt ein KI-System zum Beispiel vermehrt Fehlprognosen zu erstellen, ist Fachwissen hilfreich, um mögliche Ursachen für die erhöhte Fehlerrate zu identifizieren. Fachwissen wird auch zur Erzeugung aktueller Testdaten benötigt, anhand derer wiederum geprüft werden kann, ob oder zu welchem Ausmaß ein KI-Modell bereits veraltet ist.
Andererseits ist fachliche Expertise für die Erneuerung veralteter KI-Systeme notwendig. Meist muss ein KI-Modell mit Hilfe aktueller Daten neu trainiert werden. Um diese in entsprechender Qualität und auf wirtschaftliche Art und Weise bereitzustellen, wird Fachwissen benötigt. Auch muss beispielsweise fachlich beurteilt werden, wann ein neu trainiertes KI-Modell eine für einen spezifischen Anwendungsfall akzeptable Leistung aufweist.
Schleichender Wissensverlust in Unternehmen
Geht während des Einsatzes eines KI-Systems menschliche Expertise verloren, kann dies also die Qualität des maschinellen Lernens zur Erneuerung des alternden KI-Systems beeinträchtigen – das KI-System kehrt nicht auf seinen ursprünglichen Leistungsstand zurück.
Diese Beeinträchtigung erfolgt unter Umständen schleichend und unbemerkt, falls der Verlust menschlicher Expertise ebenfalls unbemerkt erfolgt. Beispielsweise werden neue Trainingsdaten oft von jüngeren Mitarbeitenden erstellt, die aufgrund automatisierter Prozesse entsprechendes Fachwissen jedoch nur unzureichend erworben haben.
Erstellen diese Mitarbeitenden sowohl Trainings- als auch Testdaten zur Überprüfung der Qualität eines KI-Modells, kann das Modell auf Papier zwar eine hohe Leistung aufweisen, die in der Realität jedoch nicht erreicht werden kann.
Auch laufen unerfahrenere Mitarbeitende Gefahr, die Ansichten eines alternden KI-Modells zu übernehmen, da sie diese nicht auf Basis tiefer Fachexpertise beurteilen können. Entscheidungen des KI-Systems können so verinnerlicht und von den Mitarbeitenden erlernt werden. Kritisches Hinterfragen von KI Output setzt eigenes tiefes Verständnis voraus.
Im schlimmsten Fall entsteht so eine Abwärtsspirale: Durch den Verlust menschlichen Wissens folgt eine unzureichende Erneuerung von KI-Modellen, die wiederum menschliches Wissen negativ beeinträchtigen können.
Was tun, um Wissensverlust zu vermeiden?
Zentrale Stellschraube zur Vermeidung eines Verlusts an wertvollem Unternehmenswissen durch KI-Systeme ist somit der Erhalt menschlicher Fachexpertise. Bleibt menschliches Fachwissen erhalten, kann die Alterung von KI-Modellen kompetent überwacht, Vorhersagen von KI-Systemen kritisch hinterfragt und ein veraltetes KI-Modell effektiv erneuert werden.
Die unbequeme Wahrheit ist jedoch, dass ein solcher Wissenserhalt teuer und ineffizient sein kann. So muss es unerfahreneren Mitarbeitenden möglich sein, selbst eigene Erfahrungen bei der Durchführung einer Aufgabe zu sammeln – auch wenn dies vor dem Hintergrund einer Automatisierung durch KI zu ineffizienten Redundanzen führt.
Ebenso können Menschen ihr tiefsitzendes und über Jahre erworbenes Wissen oft nicht explizit formulieren und weitergeben. Deshalb müssen Unternehmen Gelegenheiten und Räume schaffen, um den Transfer von Wissen durch Beobachtung und Nachahmung über Generationen hinweg zu ermöglichen.
Auch das konstante kritische Hinterfragen von KI-Prognosen und Entscheidungen kann dem Erhalt von Fachwissen dienen, da dieses so kontinuierlich angewendet wird. Dies bedeutet jedoch zusätzlichen Zeitaufwand, der nicht unbedingt mit Effizienzgewinnen vereinbar ist.
Schließlich steht auch der vielverbreitete Gedanke in Frage, dass Menschen sich im Zeitalter von KI nun kreativeren und sinnstiftenden Tätigkeiten zuzuwenden können, während KI eintönige Routineaufgaben übernimmt. Auch durch das Abwenden von Routineaufgaben kann wichtiges Fachwissen in Vergessenheit geraten – Fachwissen, das zu einem späteren Zeitpunkt wieder zur Erneuerung von KI-Systemen benötigt wird.
Fazit: Zukunfts- und Innovationsfähigkeit mit KI
Dieser Beitrag soll nicht den Eindruck erwecken, als würden die Risiken von KI die Chancen überwiegen. Im Gegenteil – gerade aus einer Wissensperspektive sind die Potenziale von KI gewaltig, da durch KI Muster in Daten erkannt werden können, die jedem menschlichen Auge verborgen bleiben.
So können zukünftig enorme Verbesserungen in der Diagnose von Krankheiten, der Erkennung von Maschinendefekten oder der Entwicklung von Medikamenten erreicht werden. Ein Fokus auf kurzfristige Effizienzgewinne ist jedoch aus unserer Sicht zu kurz gedacht, denn der Verlust von wichtigem Unternehmenswissen hat in der Vergangenheit nur selten ein gutes Ende genommen.
Weitere Informationen finden Sie in der Studie.
Kommentar verfassen