Künstliche Intelligenz verlangt ganzheitliche, menschzentrierte Entwicklungsansätze

Das Potenzial von smarten Technologien ist bekanntlich marktwirtschaftlich riesig. Mithilfe von künstlicher Intelligenz (KI) werden Aufgaben, die bisher Menschen vorbehaltenen waren, von Automation übernommen. Allerdings mehren sich die Forderungen, dass sich solche Technologien auch ethisch verhalten sollen, zum Beispiel per EU-Richtlinien für KI. Wie entwickelt man solche Systeme? In dem von uns koordinierten EU-Forschungs- und Entwicklungsprojekt InSecTT entwickeln wir Antworten zu diesen Fragen.

KI-Algorithmen, die selbstständig erkennen und entscheiden können, werden meist eingesetzt, um menschlichen Benutzer*innen in Arbeit und Alltag zu helfen. Solche Teilautomatisierungen sind oft kosteneffektiver und realistischer implementierbar als Vollautomatisierung. Dabei verschiebt sich die Rolle der Nutzer*innen von der Haltung „die Technologie voll im Griff haben“, zu „mit der smarten Technologie zusammenarbeiten“. Die Nutzerin/der Nutzer überwacht und managt die Technologie und überlässt der Maschine die Routineaufgaben. Der Mensch übernimmt die Kontrolle erst wieder, wenn es zu Ausnahmesituationen kommt, Probleme zu lösen sind oder Verantwortung getragen werden muss. Das kann aber inhärent schwierig sein, wie das Beispiel des selbstfahrenden Fahrzeugs veranschaulicht: Beifahrer*innen sind generell weniger fähig bei der Rücknahme vom Selbstfahren eine zeitkritische Fahrentscheidung zu treffen als der Fahrer*innen. Solche Probleme müssen im Design der smarten Technologien mitgedacht werden, ansonsten eröffnen sich schnell Fragen des Nutzervertrauens und der ethischen Vertretbarkeit.

Es gilt also nicht nur mehr darum, optimierte Technologien zu entwickeln, sondern Technologien zu entwerfen, die in der Interaktion mit menschlichen Nutzer*innen ein optimales und akzeptables Niveau erreichen. Diese Herausforderung reflektiert sich in den EU-Richtlinien  – die allerdings keine konkreten Implementierungsschritte dazu vorschlagen. Daher haben wir im Projekt InsecTT (Intelligent Secure Trustable Things, www.insectt.eu) zu diesem Thema ein konkretes Rahmenwerk für Mensch-zentrierte Innovationen entwickelt, das aus drei Eckpfeilern besteht:

Eckpfeiler eins besteht darin, notwendige Informationen über die geplante Nutzungssituation für die Entwicklung von smarten Systemen bereitzustellen, die nachhaltige Akzeptanz und Nutzung erzielen sollen. Solche Informationen inkludieren den Nutzungskontext, die zu erreichenden Ziele, als auch die Benutzerbedürfnisse und wichtige Einschränkungen der Benutzung und deren Situation und bilden einen wesentlichen Ausgangspunkt für die Systemkonzeption. Technische Realisierbarkeit und Kosteneffektivität sind dabei den Benutzungsanforderungen gleichberechtigt.

Eckpfeiler zwei besteht aus der Realisierung ganzheitlicher Designprozesse, die neben technischen Umsetzungsanforderungen auch die aus Eckpfeiler eins stammenden Benutzungsanforderungen umsetzen. Das Wort ganzheitlich bezeichnet hier eine orchestrierte Systementwicklung, bei der multidisziplinäre Spezialisten egalitär zusammenarbeiten können.  Traditionell disziplingebundene Hierarchien werden überwunden.

Eckpfeiler drei besteht aus kontinuierlicher Anpassung und Aktualisierung von Produkten und Nutzerbildung. Einerseits können smarte Funktionen durch Nutzererfahrung erweitert oder verbessert werden. Andererseits kommt zunehmender Erfahrung und Bildung der Nutzer*innen eine Rolle zu. Dies wird im InSecTT Projekt durch die Veranstaltung von Summer Schools, Kursen und Vorlesungen an Universitäten und auch Schulungen für Expert*innen umgesetzt.

Mensch-zentrierte Entwicklungsansätze helfen, smarte Technologien unter Rücksichtnahme der Menschlichen Benutzungsanforderungen ethisch vertretbar zu gestalten. Wie diese früh in den Entwicklungsprozess eingebaut werden können und welche Anforderungsmanagementprozesse und Anwendungen dabei helfen, untersucht das genannte EU-Projekt. Bei Interesse wenden Sie sich bitte an die Autoren.

Über die Autoren

Dr. Peter Mörtl ist Gruppenmanager der Human Factors Gruppe bei Virtual Vehicle. Der Fokus der Gruppe liegt in der Einbringung menschbezogener Faktoren in technische Entwicklungsprozesse.

Dr. Michael Karner ist Lead Researcher Embedded Systems und Gesamtkoordinator des InSecTT Projekts.

Über das Unternehmen

Virtual Vehicle ist ein führendes internationales F&E Zentrum für die Automobil- und Bahnindustrie. Das Zentrum konzentriert sich auf die konsequente Virtualisierung der Fahrzeugentwicklung. Diese Verknüpfung von numerischen Simulationen und Hardware-Tests führt zu einem umfassenden Hardware-Software-System-Design.

Website | LinkedIn 

E-Mail:  Peter.Moertl@v2c2.at | michael.karner@v2c2.at

Dieser Beitrag ist Teil des DIGI FOR SDG Projekts und wird von der Industriellenvereinigung und Wirtschaftskammer unterstützt!