Durch KI-Einsatz verlorenes menschliches Fachwissen kann im Zeitverlauf die Qualität ebendieser KI beeinträchtigen – im schlimmsten Fall schleichend und unbemerkt. Zu diesem Ergebnis kommt eine neue Studie von Forschenden der Universität Passau und der Arizona State Univer-sity, die kürzlich in der renommierten Fachzeitschrift „Academy of Management Review“ er-schienen ist.
Tech-Unternehmen weltweit machen Schlagzeilen mit Stellenabbau, oft mit Verweis auf den verstärkten Einsatz künstlicher Intelligenz (KI). Eine neue Studie von Forschenden der Universität Passau und der US-amerikanischen Arizona State University zeigt, dass diese Entscheidungen womöglich zu kurz ge-dacht sind. Maschinell gelerntes Wissen hat für Organisationen den Vorteil, dass es das Wissen erfahrener Mitarbeitenden bewahren kann, wenn diese in den Ruhestand gehen oder anderweitig das Unternehmen verlassen. Doch auf Vergangenheitsdaten basierendes KI-Wissen altert und muss regelmäßig aktualisiert werden. Der so entstehende Kreislauf birgt für Unternehmen Risiken.
In der Studie „Fading Memories: The Role of Machine Learning in Organizational Knowledge Depreciation“, zu Deutsch etwa „Verblassende Erinnerungen: Die Rolle maschinellen Lernens für den Wissensverlust in Unternehmen“, zeigen Prof. Dr. Jin Gerlach von der Universität Passau und Prof. Dr. Don Lange von der Arizona State University, wie Unternehmen in diesen Zyklus geraten können:
– KI übernimmt: Während KI-Systeme etwa die Qualitätsprüfung eines Herstellungsprozesses erledigen, nutzen Mitarbeitende das dafür relevante Fachwissen seltener, vergessen dieses oder verlassen ganz das Unternehmen.
– Wissensverlust tritt ein: So gerät bestehendes menschliches Wissen verloren, während neue Angestellte entsprechendes Wissen nicht neu erwerben, wenn KI die Aufgaben übernommen hat.
– KI-Modelle veralten: Alternde KI-Modelle müssen mit Hilfe neuer Trainingsdaten aktualisiert werden, Modellvariablen müssen auf Relevanz geprüft werden oder Fehlprognosen des Modells fachlich beurteilt werden. Eine solche Aktualisierung erfordert menschliche Expertise, die aber zunehmend fehlt.
Damit können KI-Modelle durch Alterung zur Wissensfalle werden. „Verlorenes menschliches Fachwissen kann im Zeitverlauf die Qualität von KI-Modellen beeinträchtigen – im schlimmsten Fall schleichend und unbemerkt“, warnt der Passauer Wirtschaftsinformatiker Prof. Dr. Jin Gerlach. „Wenn Mitarbeitende Vorhersagen veralteter KI unkritisch übernehmen, kann das ihr eigenes Urteilsvermögen weiter untergraben und so zusätzlichen Wissensverlust begünstigen.“ Die Autoren unterstreichen in ihrer Studie, dass langfristig erfolgreicher KI-Einsatz nur gelingt, wenn Unternehmen gleichzeitig menschliches Wissen bewahren.
„Unsere Erkenntnisse weisen auf längerfristige und ungewollte Folgen des Einsatzes von KI in Organisationen hin“, sagt Prof. Dr. Gerlach. „Sie betonen die Notwendigkeit, menschliche Expertise zu pflegen, da sonst ein effektiver Einsatz von KI-Systemen auf Dauer gefährdet ist.“ Die eingangs erwähnten Unternehmensentscheidungen erscheinen den Forschenden zufolge so in einem neuen Licht. Denn sie vernachlässigen damit menschliches Know-How – und schwächen so langfristig auch die KI.
Die Studie ist vor kurzem online in der Fachzeitschrift „Academy of Management Review“ erschienen. Es handelt sich dabei um eine der angesehensten wissenschaftlichen Zeitschriften im Managementbereich. Die Arbeit ist eine konzeptionelle Theoriestudie – sie basiert nicht auf neuen empirischen Da-ten, sondern verbindet bestehende Erkenntnisse aus Organisationsforschung und Informatik zu einem neuen Modell. Dabei leiten die Autoren eine Prozesstheorie ab: Diese erklärt, wie und warum ein Phänomen – hier der organisationale Wissensverlust durch KI – auftritt.
Erstautor ist Prof. Dr. Jin Gerlach, der an der Universität Passau den Lehrstuhl für Wirtschaftsinformatik mit Schwerpunkt Daten- und Informationsmanagement innehat. In seiner Forschung beschäftigt er sich mit den technologiebedingten Veränderungen in Wirtschaft und Gesellschaft. Ko-Autor Prof. Dr. Donald Lange forscht und lehrt an der W.P. Carey School of Business an der Arizona State University in den USA zu ethischen Fragen im Management.
Die Autoren haben sich während eines Forschungsaufenthalts von Prof. Dr. Lange an der Universität Passau kennengelernt. Dieser verbrachte ein Jahr als Mercator-Fellow am Passauer DFG-Graduierten-kolleg 2720 „Digital Platform Ecosystems“, um das Zusammenspiel von öffentlichen Werten und digita-len Plattformen zu untersuchen. Bei dem Mercator-Fellowship handelt es sich um ein Stipendium, das die Deutsche Forschungsgemeinschaft (DFG) an Forschende vergibt, die intensiv in ein Projekt einge-bunden sind.
Link zur Originalstudie: Gerlach, J. P. und Lange, D.: Fading Memories: The Role of Machine Learning in Organizational Knowledge Depreciation, Academy of Management Review.
