Warum beim Arbeiten mit KI der Fortschritt auf der Strecke bleiben kann?

Im Requirements Engineering stellt implizites Wissen ein erhebliches Risiko für eine erfolgreiche und effektive Entwicklung dar. Implizites Wissen ist das Wissen, das wir als selbstverständlich betrachten und das bei der Dokumentation des zu entwickelnden Systems oft übersehen wird. Obwohl implizites Wissen eine wesentliche Grundlage für eine erfolgreiche Kommunikation bildet, kann seine fehlende Dokumentation zu Missverständnissen und Fehlern führen. Im Gespräch mit einem Kollegen müssen wir nicht jedes Detail erläutern, da der Kollege den Kontext und die Rahmenbedingungen kennt. Dennoch ist es wichtig, dieses Wissen festzuhalten, um Konsistenz und Klarheit im Entwicklungsprozess zu gewährleisten.

Auch generative KIs verfügen über implizites Wissen. Basierend auf den eingegebenen Prompts identifizieren sie den wahrscheinlichsten gemeinten Kontext und generieren eine entsprechende Antwort. Unternehmen sollten sich jedoch bewusst machen, dass KIs stets auf der Datenbasis agieren, die ihnen zur Verfügung stehen (oder für das „Training“ zur Verfügung gestellt wurden) und daher auf dieses Wissen beschränkt sind. Besonders interessant wird es, wenn eine KI mit unternehmensspezifischen Daten gefüttert wurde. Daraus ergeben sich zwei zentrale Herausforderungen:

Einerseits haben allgemein verfügbare generative KIs oft Schwierigkeiten, im spezifischen Kontext eines Unternehmens zu agieren. Damit die KI effektiv arbeiten kann, muss der Kontext der Anfrage im Prompt ausreichend beschrieben werden, was die Nutzung ineffizient machen kann. Daher streben immer mehr Unternehmen danach, eine eigene generative KI zu entwickeln, die auf Unternehmensdaten basiert und diese in einer gesicherten Umgebung behält, um Datenschutzbedenken zu adressieren. Eine gut trainierte KI, die die Bedürfnisse der Stakeholder kennt, kann dann gezielt Probleme lösen und dabei auf die Erfüllung der Stakeholder-Anforderungen achten. Es ist jedoch wichtig zu beachten, dass KIs auf Wahrscheinlichkeiten basieren. Beispielsweise könnte eine KI, wenn ein Stakeholder eine „rote Benutzeroberfläche“ wünscht, aber sieben andere eine „blaue“ bevorzugen, eher die blaue Oberfläche vorschlagen und den einzelnen Wunsch möglicherweise übersehen. Daher muss die KI entsprechend trainiert werden und idealerweise darauf hinweisen, wenn eine vorgeschlagene Lösung nicht allen geäußerten Wünschen entspricht.

Andererseits kann die Nutzung unternehmensspezifischer Daten zu einer Vernachlässigung von Innovationen führen. Eine KI, die nur mit internen Daten arbeitet, wird Lösungen vorschlagen, die auf diesen Trainingsdaten basieren. Dadurch könnten bessere, am Markt verfügbare Lösungen unberücksichtigt bleiben. Obwohl generative KIs generell Schwierigkeiten haben, echte Innovationen zu generieren, da sie ihre Trainingsdaten nicht eigenständig verändern oder erweitern können, sollten Unternehmen sich bewusst sein, dass eine auf interne Daten beschränkte KI nur innerhalb dieses eingeschränkten Lösungsraums operieren kann. Für die Identifikation neuer Funktionen oder Verbesserungen benötigt es nach wie vor den Menschen, der dieses unbewusste Wissen generiert und einbringt.

Abschließend lässt sich sagen, dass die Arbeit mit generativen KIs viele Aufgaben im Kontext der System- und Software-Entwicklung sich effektiver erledigen lässt.
Dennoch ist die KI immer auf ihrer Trainingsdaten beschränkt und kann dementsprechend nur in diesem Kontext handeln.  Für Unternehmen bedeutet dies, dass sie genau abwägen müssen, bei welchen Aufgaben der Einsatz einer generativen KI sinnvoll ist. Zudem ist es entscheidend, die durch die KI generierten Ergebnisse richtig zu interpretieren und einzuordnen. Klar definierte Einsatzgebiete und ein tiefes Verständnis der KI-Fähigkeiten helfen dabei, die Vorteile optimal zu nutzen und gleichzeitig die Grenzen der Technologie zu berücksichtigen.

Wie ist das bei Ihnen?
Kennen Sie die „Macken“ Ihrer eingesetzten KI?
Haben Sie vielleicht ein paar Tricks und Kniffe, die bei der Arbeit mit Ihrer KI gut funktionieren?

Wir SOPHISTen widmen uns sehr intensiv dem Thema Einsatz von Künstlicher Intelligenz im Requirements und Systems Engineering.

Wir haben hierzu sogar zwei Spezial-Trainings :-)

Diese und viele weitere Informationen finden Sie hier auf unserer Website.

Beste Grüße,

Ihre SOPHISTen