Dokumentationen und
Einflussfaktoren als Input
Um nun die Ergebnisse einer zuvor ausgeführten KI-Analyse – etwa zum Lagerbestand – zu erklären, ist spezifischer Input erforderlich: Neben der Dokumentation des jeweiligen Datenmodells sollten dabei vor allem die Parameter und Ergebnisse des KI- oder ML-Algorithmus mit übergeben werden, der den Forecast erstellt hat. Auf diese Weise kann das Sprachmodell Rückschlüsse über die Mechanismen ziehen, durch die der Algorithmus auf der Basis von Daten zu Ergebnissen kommt. Hierbei spielt die Feature Importance eine wichtige Rolle: Machine-Learning-Algorithmen können Parameter zurückgeben, die beschreiben, wie wichtig die Rolle einzelner Faktoren für die Ergebnisse des Modells waren. Auf Basis solcher Feature-Importance-Scores wäre die KI beispielsweise in der Lage, die Faktoren zu benennen, die ein bestimmtes Ergebnis maßgeblich beeinflusst haben: ‚Das Wetter fiel im untersuchten Monat deutlich stärker ins Gewicht als die Feiertage, die hier kaum eine Rolle spielten.‘ Schließlich ließen sich auch externe Quellen wie Nachrichtenseiten als Input für die Erklärung der Analyse hinzufügen. Sie verbreitern den Horizont des Sprachmodells und versetzen es in die Lage, etwa für die Erklärung eines Lieferengpasses auch auf eine hierfür relevante Lieferkettenunterbrechung aufgrund der aktuellen Lage hinzuweisen, wenn darüber auf der Nachrichtenseite berichtet wurde.
Horizont erweitern
Gestützt auf Informationen wie diese wird generative KI schon bald in der Lage sein, Kontext zur Entstehung von KI-Ergebnissen und -Empfehlungen zu liefern – und Produktionsverantwortlichen somit Einblicke in die Black Box der Algorithmen zu gewähren. Gerade bei unrealistisch erscheinendem Output können Herleitungen oder Begründungen hilfreich sein, um neben der detaillierten grafischen Aufbereitung die Stichhaltigkeit der KI-Analyse prüfen zu können, anstatt sie mangels Nachvollziehbarkeit ignorieren zu müssen. Genau dies sind die Szenarien, in denen künstliche Intelligenz ihre Vorteile ausspielen kann: bislang unentdeckte Zusammenhänge erkennen. Doch zugehört wird meist nur dem, der eine neue Erkenntnis gut begründen kann. Das gilt für Menschen wie für künstliche Intelligenzen.
