Disclaimer: Für Hintergründe zur Entstehung des Themas und die Erläuterung der verwendeten Begriffe einfach kurz in Teil eins und zwei dieser Blogserie reinschauen!
Am 24.10.2017, nach meinem Vortrag zum Thema Machine Learning und Requirements-Engineering, war ich mit einem Besucher der SOPIHIST DAYS ins Gespräch über maschinelles Lernen, künstliche Intelligenz und deren Bedeutung fürs RE gekommen. So entstand die Idee, sich in einem Kurzinterview mit einem Fachexperten zum Thema intelligente Systeme und Anforderungen auszutauschen. Der besagte Besucher vom Fraunhofer FKIE hat das Institut mittlerweile leider verlassen, mich jedoch vorher mit einem seiner Kollegen in Kontakt gebracht:
Nicolas W.:
Herr Töws, vielen Dank für die Gelegenheit von Ihnen etwas zum Thema „Berührungspunkte zwischen Maschinellem Lernen und Requirements Engineering“ zu lernen, Hallo! Stellen Sie sich und Ihr Institut doch bitte kurz vor.
Daniel Töws, Fraunhofer FKIE:
Hallo Herr Wilfert. Vielen Dank für Ihre Einladung. Mein Name ist Daniel Töws, ich bin 27 Jahre alt und habe an der RWTH Aachen meinen Master in Informatik gemacht. Seit 2017 arbeite ich am Fraunhofer FKIE im Bereich des Requirements Engineering / Anforderungsanalyse. Das Fraunhofer Institut für Kommunikation, Informationsverarbeitung und Ergonomie kooperiert mit Partnern aus dem militärischen und zivilen Sektor um existenzbedrohende Risiken früh zu erkennen, zu minimieren und beherrschbar zu machen. Vor allem im Bereich Cybersicherheit ist unser Institut sehr erfolgreich, meine Abteilung speziell beschäftigt sich mit der Unterstützung von Führungsinformationssystemen.
Nicolas W.:
Vielen Dank! Meine erste Frage wäre, wie Sie überhaupt zum Thema maschinelles Lernen gekommen sind?
Daniel Töws:
Während meines Informatikstudiums habe ich mich stark auf den Data Mining Bereich fokussiert. Da die Ziele beider Bereiche sehr ähnlich sind, nämlich digitale Daten zu nutzen um in diesen versteckte Regelmäßigkeiten, bzw. Erkenntnisse zu erlangen, bin ich während vieler Recherchearbeiten immer wieder auf das Thema des Machine Learning gestoßen. Ursprüngliche Data-Mining Methoden wie Entscheidungsbäume, wurden in der Praxis immer mehr durch Anwendungen von Machine Learning in den Schatten gestellt. Die Idee den Computer selber lernen zu lassen, sowie die Mächtigkeit dieser Technik haben mich sehr fasziniert, sodass ich mir die Thematik im Eigenstudium angeeignet habe.
Nicolas W.:
Nachvollziehbar! Woran arbeiten Sie aktuell, insofern Sie dazu etwas sagen dürfen?
Daniel Töws:
Aktuell entwickeln wir ein Tool, welches Schritt für Schritt die Arbeit eines Projektleiters bei der Requirements-Analyse bis hin zum Service Design unterstützen soll. Auf Anforderungsebene sollen Möglichkeiten zur Qualitätsanalyse (handelt es sich um wohlformulierte Anforderungen?) und zur Klassifikation bereitgestellt werden. Weitergehend, sollen diese natürlich-sprachlichen Anforderungen mit einem Portfolio von bereits etablierten Funktionen und Services abgeglichen werden. Das Tool soll dem Projektleiter so, durch Vorschläge, helfen zu erkennen, welche Anforderungen durch bereits bestehende Systeme erfüllt werden können und welche Anforderungen neue Lösungen benötigen.
Einem neuen Projektleiter beispielsweise, welcher auch das Portfolio bestehender Lösungen noch nicht komplett verinnerlicht hat kann so viel händische Arbeit abgenommen werden.
Nicolas W.:
Aha! Wo kommt hier nun Machine-Learning ins Spiel?
Daniel Töws:
In dem zuvor beschriebenen Tool greifen wir an zwei Stellen auf Verfahren zurück, die
dem Maschinellen Lernen zugeordnet werden: Mithilfe eines einfachen neuronalen Netzes mit zwei Hidden-Layers werden Anforderungen dahingehend klassifiziert, ob sie (mit einer gewissen Wahrscheinlichkeit) durch IT-Services lösbar sind.
An anderer Stelle werden dann sprachliche Strukturen mithilfe von sog. „Word-Embeddings“ analysiert und klassifiziert. Das bedeutet, dass man mithilfe maschinellen Lernens eine Art „Karte“ erzeugt, wie die einzelnen analysierten Wörter der Anforderungen zueinander im Verhältnis stehen. Mithilfe dieser Technik kann dann verglichen werden, welche Begriffe aus Anforderungen auf dieser „Karte“ nahe bei Begriffen stehen, die in existierenden IT-Services vorkommen und möglicherweise durch diese dann bedient werden können. Ein alternatives Verfahren ohne maschinelles Lernen wären beispielsweise Synonymlisten. Der Nachteil dieser ist, dass sie in den allermeisten Fachbereichen erst aufwändig, händisch erstellt werden müssten.
Nicolas W.:
Danke! Meine nächste Frage lautet: Werden Anforderungen an Anwendungen von künstlicher Intelligenz und maschinellem Lernen anders analysiert oder dokumentiert als die an klassische Softwaresysteme?
Daniel Töws:
Bei bisherigen oder klassischen Softwaresystemen ohne Anwendungen von KI oder ML konnte man sich meist sehr sicher sein, deren Verhalten genau vorhersagen zu können, gesetzt dem Fall, dass die Systeme keine Bugs enthalten.
Auch früher waren in Software bereits Verfahren im Einsatz die Ergebnisse nur zu einer gewissen Wahrscheinlichkeit liefern konnten, diese fielen allerdings nicht zwingend unter das moderne Verständnis künstlicher Intelligenz oder maschinellen Lernens. Zwar haben auch diese Verfahren heute noch mehr an Relevanz gewonnen, Maschine Learning Verfahren jedoch unterscheiden sich von solchen Verfahren darin, dass sie spezielle statistische Modelle von so hoher Komplexität sind, das einzelne Entscheidungsfindungsprozesse in endlicher Zeit beinahe unmöglich nachvollziehbar
sind. Bei einem gut trainierten Modell ist die Chance zwar gering, allerdings besteht immer die Möglichkeit, dass sich ein Machine-Learning Algorithmus auch völlig entgegen des erwarteten Outputs verhält. Somit kann eine 100%ige Präzision quasi nicht garantiert sein. Das bedeutet, dass Anforderungen in der Beschreibung diesen Aspekt berücksichtigen müssen. Die Anforderung „Das selbstfahrende Auto soll am Stoppschild anhalten“ ist somit nicht mit 100%iger Sicherheit abzudecken. Die meiner Meinung nach bessere Anforderung an dieser Stelle wäre: „Das selbstfahrende Auto soll mit einer höheren (oder äquivalenten) Wahrscheinlichkeit als ein Mensch am Stoppschild halten“. Dass der Weg zur Ergebnisfindung in solchen Algorithmen kaum bis nicht nachvollziehbar ist, macht außerdem deren Korrektur und Anpassung sehr schwierig.
Ein Aspekt der unter diesem Gesichtspunkt zu Tage tritt ist auch der ethische:
In gewissen Anwendungen werden Anforderungen erzeugt, die beispielsweise Entscheidungen mit ethischem Gewicht in die Hände einer solchen, sehr schwer nachvollziehbaren, digitalen Instanz legen.
Diese Anforderungen müssen daher unter ethischen Gesichtspunkten speziell betrachtet werden, wie beispielsweise, ob ein Mensch Entscheidungen eines solchen Algorithmus immer final bestätigen muss.
Nicolas W.:
Was ist nun mit Tätigkeitsfeldern, in denen menschliche Interaktion eine große Rolle spielt – Lässt sich der Requirements-Engineer in absehbarer Zeit vollständig durch intelligente Systeme ersetzen?
Daniel Töws:
Theoretisch spätestens an dem Zeitpunkt an dem eine generelle KI die gesamte Arbeit der Menschheit obsolet macht. Zum Hintergrund: Man unterscheidet zwischen sog. „schwachen“ und generellen KIs. Während schwache KIs genau die Ihnen zugedachte Aufgabe lösen können, wäre eine generelle KI fähig, für unbekannte Problemfelder selbständig Lösungen zu finden. Aber um zur Frage zu kommen:
Die Anforderungserhebung wird in meinen Augen in naher Zukunft nicht durch technische Systeme übernommen werden können. Die aktuelle Methode Maschinen Dinge beizubringen benötigt immense Mengen Daten, wodurch sie befähigt werden innerhalb dieses trainierten Raumes Entscheidungen zu treffen. Andere Methoden die Maschinen ohne Trainingsdaten lernen lassen (wie AlphaGo Zero), benötigen feste Regeln für die Umgebung in der sie Entscheidungen treffen sollen.
Beide Wege würden in der praktischen Erhebung von Anforderungen auf Hindernisse stoßen: Sobald es sich um ein neues Produkt handelt, ist bisher gelerntes der Maschine nicht mehr von Nutzen und sobald wir uns in neue Produktdomänen bewegen existieren auch keine festen Regeln für die Umgebung eines solchen Algorithmus.
In der Anforderungsanalyse hingegen werden sich wahrscheinlich tatsächlich viele Schritte komplett automatisieren lassen: Aktuell ist die Forschung an technischen Systemen zur Sprachanalyse ungefähr dort wo sie vor 2012 im Bereich Bilderkennung war; es sind technische Lösungen vorstellbar, jedoch erreicht bisher keine die Praxistauglichkeit. Um 2012 dann entstanden die ersten Algorithmen die tatsächlich zuverlässig Bilder klassifizieren konnten.
Ähnlich verhält es sich in der Sprachanalyse: Computer verstehen Daten ausschließlich als eindeutig, während Sprache eben nicht immer eindeutig ist. Allerdings ist es zumindest vorstellbar, dass in absehbarer Zeit auch die ersten Algorithmen zur Sprachanalyse wirklich praxistauglich werden. Mithilfe von diesen könnte man dann wahrscheinlich viele Tätigkeiten im Kontext der Anforderungsanalyse maschinell mit einer zufriedenstellenden Präzision umsetzen.
Nicolas W.:
Vielen Dank für die Einschätzung. Eine generelle Frage zum Thema im Anschluss: Künstliche Intelligenz – Damoklesschwert oder Hoffnungsträger?
Daniel Töws:
Ich schlage mich auf die Seite der Hoffnungsträger, weil: Geschichte reimt sich – Eine Revolution der digitalen Arbeitswelt durch intelligente Algorithmen wäre vermutlich vergleichbar zur industriellen Revolution. Wenn Jobs verschwinden ist dies für die Betroffenen natürlich dramatisch und ihr Lebensstandard sinkt zunächst. Wenn nach dieser Übergangsphase jedoch die Verbesserung des allgemeinen Lebensstandard und der wissenschaftlichen Möglichkeiten auch diese betroffenen Schichten erreicht, profitieren alle von der Gesamtentwicklung. Die Frage ist also: Wie kann diese Übergangszeit am besten abgefangen werden um Ängste zu nehmen?
Nicolas W.:
Danke für den, doch hoffnungsvollen Blick in die Kristallkugel. Meine letzte Frage soll eine persönliche sein: Welche Thematik in diesem Umfeld finden Sie derzeit am spannendsten?
Daniel Töws:
Am spannendsten finde ich, inwiefern es möglich ist, die zuvor beschriebenen Limitierungen solcher Systeme aufzubrechen. Ein Beispiel: AlphaZero hat in 9 Stunden gelernt Schach zu spielen, besser als jeder Grandmaster und jedes andere Computerprogramm. Dafür hat das Programm aber 44 Millionen Spiele gegen sich selbst gespielt. Selbst die Anzahl an Spielen, die das Programm brauchte um auf das Level des besten Menschen zu kommen ist im Millionen Bereich. Der Lernerfolg den die Maschine aus jedem Spiel mitnimmt ist also bei weitem geringer als der beim Menschen. Diesem eher kleinen Lernfortschritt pro Iteration kann man heute ganz einfach mit immenser Computerleistung in großen Rechenclustern begegnen, und solche Systeme unter großem Ressourcenaufwand dennoch trainieren.
Ein weiteres Beispiel: Ein neuronales Netz, als eine Ausprägung von maschinellem Lernen kann nach vielen Hundert oder Tausend Trainingsdatensätzen mit hoher
Trefferquote einen Hund als solchen erkennen. Ein Kind dagegen kann, überspitzt gesagt, wahrscheinlich bereits nachdem es fünf Hunde gesehen hat, alle weiteren als solche zuordnen und noch dazu Katzen sauber differenzieren. Spannend ist für mich also besonders, wie man auch maschinelles Lernen zu einer so außerordentlichen Effizienz bringen kann, dass es dem menschlichen Lernen ähnlicher ist und seine Vorteile nicht nur aus „roher Rechengewalt“ schöpft
Nicolas W.:
Zumindest verspürt ein Algorithmus (noch) keine Frustration, wenn er ein Spiel zum millionsten Mal trainiert, hier sind also definitiv auch noch Unterschiede auszumachen.
Vielen Dank für die ausführlichen Gedanken und Ihre Perspektive auf dieses spannende Thema!
Daniel Töws:
Sehr gerne. Und auch ich möchte mich bedanken. Meine Kollegen die für die Anforderungserhebung und Qualitätsanalyse zuständig sind kommen nahezu täglich in Kontakt mit der Arbeit der Sophisten und sind dafür sehr dankbar!
Bildquellen:
Titel:Face-Detection-Technologie für Hund
Quelle: iStockphoto
Autor: ekapol
Titel: Denn der Mensch, wie das Problem zu lösen
Quelle: iStockphoto
Autor: francescoch