Künstliche Intelligenz (KI) ist eine Technologie, die in letzter Zeit immer stärker in den Fokus der Öffentlichkeit gerückt ist. Bei den meisten der heute von Unternehmen verwendeten KI-Anwendungen handelt es sich jedoch nur um KI-Anwendungen der Stufe Eins (etwa RPA) oder Stufe Zwei (bespielsweise. Chatbots). Das bedeutet, dass das Potenzial der KI derzeit nur teilweise ausgeschöpft wird. Ein Grund dafür ist die Eindimensionalität heutiger KI-Lösungen. Die meisten KI-Anwendungen verfügen lediglich über analytische Fähigkeiten.
Foto: metamorworks - shutterstock.com
In ihrer Master-Arbeit "Social Emotional Artificial Intelligence: Implications for Human-Machine Interfaces of AI Applications in Companies" stellt Cathrin Thormann fest, dass der heutigen KI zwei wesentliche Aspekte fehlen, um das Potenzial der Technologie in Bezug auf die Mensch-Maschine-Interaktion voll auszuschöpfen: die soziale und die emotionale Intelligenz (Social Emotional Artificial Intelligence - SEAI). In ihrer Arbeit geht sie auf die Einbindung sozialer und emotionaler Faktoren in die Künstliche Intelligenz und deren Auswirkungen auf die Künstliche Intelligenz ein. Dabei beleuchtet sie die Bedeutung der Mensch-Maschine-Schnittstelle für den Erfolg der SEAI und die Implikationen für diverse Stakeholder-Gruppen.
Verbesserte Entscheidungsfindung
Die Integration von emotionaler und sozialer Intelligenz soll der KI eine verbesserte Entscheidungsfindung und eine produktivere Zusammenarbeit zwischen Mensch und Maschine ermöglichen. Denn eine gute Entscheidungsfindung erfordert nicht nur analytische Fähigkeiten, sondern berücksichtigt auch soziale und emotionale Komponenten. Exemplarisch würde ein mit diesen Fähigkeiten ausgestatteter Chatbot mit einem wütenden Kunden anders umgehen als mit einem zufriedenen Kunden.
Zudem ließe sich die Prognosefähigkeit der KI durch die Berücksichtigung sozialer und emotionaler Aspekte deutlich verbessern, schreibt Thormann. Basierend auf emotionaler Intelligenz werden Maschinen in der Lage sein, menschliches Verhalten besser zu verstehen und somit zu antizipieren. Die soziale Intelligenz sorgt dafür, dass Maschinen mit der Zeit sich und ihren Kommunikationsstil an individuelle Kommunikationspartner anpassen, was eine starke Mensch-Maschine-Beziehung ermöglicht.
Vorsicht vor Orwell-ähnlicher Überwachung
Eine entscheidende Dimension im Bereich SEAI sind ethische Überlegungen. Sozial und emotional intelligente KI ist auf sensible Hinweise über den Benutzer angewiesen. In diesem Zusammenhang weist die Autorin in ihrer Master-Thesis darauf hin, dass die Privatsphäre der Nutzer nicht verletzt werden darf. Durch die ständige Analyse von Emotionen könnten Unternehmen in die Privatsphäre der Kunden eingreifen. Daher müssten Unternehmen darauf achten, dass sie SEAI nicht zu Orwell-ähnlicher Überwachung einsetzen.
Voreingenommenheit vermeiden
Ein weiterer kritischer Punkt sind unbewusste Verzerrungen. Die KI lernt in der Regel auf der Grundlage von Trainingsdaten und baut so Entscheidungsmuster auf. Sind in den Trainingsdaten jedoch Verzerrungen beziehungsweise Vorurteile enthalten, werden diese unbeabsichtigt von den KI-Anwendungen übernommen.
So bezeichnete ein Google-Bilderkennungsprogramm die Gesichter mehrerer Schwarzer als Gorillas, ein LinkedIn-Werbeprogramm zeigte eine Vorliebe für männliche Namen bei der Suche und ein Microsoft-Chatbot namens "Tay" verbrachte einen Tag damit, von Twitter zu lernen und begann, antisemitische Nachrichten zu versenden. Dieser Aspekt ist im SEAI-Bereich noch kritischer zu sehen als im allgemeinen KI-Bereich, da SEAI höchstwahrscheinlich sensiblere Entscheidungen zu treffen haben wird.
Insgesamt sind sich viele Forscher aber darin einig, dass wirklich intelligente Maschinen nie gefährlich sein werden. Da intelligente Maschinen nicht die Fähigkeit zur Selbstvervielfältigung besitzen und keinen persönlichen Ehrgeiz entwickeln, sind Szenarien, in denen Maschinen die Welt erobern werden, sehr unwahrscheinlich.
Mensch-Maschine-Schnittstellen als Ausgangspunkt für den Erfolg von SEAI
Die entscheidende Determinante für den Erfolg der "Social Emotional Artificial Intelligence" ist die Mensch-Maschine-Schnittstelle (Human-Machine-Interface - HMI). Es gibt derzeit zwei relevante Ansätze für die Zusammenarbeit von Mensch und Maschine: Einerseits könnten Maschinen gemäß dem humanen Emulationsansatz mit menschenähnlichen Fähigkeiten ausgestattet werden. Andererseits könnten Maschinen ihre einzigartigen technologischen Fähigkeiten bewusst nutzen, um den Menschen zu ergänzen (humaner komplementärer Ansatz). Insbesondere der humane Emulationsansatz profitiert von den Möglichkeiten von SEAI. Durch die Einbeziehung sozialer und emotionaler Aspekte in die KI können HMIs noch benutzerorientierter und anpassungsfähiger gestaltet werden.
Unabhängig davon, welcher Ansatz gewählt wird, sollte das HMI einfach zu warten, anzupassen und zu entwickeln sein, um Fehler korrigieren oder sich ändernde grundlegende Anforderungen berücksichtigen zu können. Um dies zu ermöglichen, sollten HMIs in einem offenen Systemansatz programmiert werden, der die Anpassung der Schnittstelle ermöglicht.
Ergonomische und gestalterische Herausforderungen für Entwickler
Bei der Gestaltung eines HMI sollten die Entwickler daher laut Thormann folgende ergonomische Anforderungen berücksichtigen:
Eignung für die Aufgabe,
transparente Bearbeitung der Aufgabe,
Steuerbarkeit,
Konformität mit den Erwartungen der Anwender, sowie
Fehlertoleranz und Lernfähigkeit.
Außerdem sollten Inhalt und Gestaltung des HMI gut organisiert sein, damit alle notwendigen Informationen leicht gefunden werden können. Im Idealfall sollte die Navigation innerhalb der Oberfläche in Bezug auf die Benutzeraktionen priorisiert werden, was die Navigation einfach und intuitiv macht. Die Kausalität von Befehlen und Aktionen sollte für den Benutzer deutlich sichtbar sein.
Weitere wichtige Gestaltungsaspekte sind die Verfügbarkeit in allen Sprachen, klare und eindeutige Symbole, die Vermeidung verschachtelter Untermenüs und zu vieler Einstellmöglichkeiten. Die Regel ist einfach: weniger ist mehr.
Alles eine Frage der Haftung und Ethik?
Gegenwärtig verfügen KI-Entwickler noch über jede Menge Freiheiten aber auch eine große Verantwortung bei der Gestaltung von SEAI-Schnittstellen, da soziale und emotionale Aspekte in der Regel sensible Informationen über Benutzer enthalten. Vor diesem Hintergrund wird die Forderung nach einer gesetzlichen Regelung bezüglich der Haftung des Entwicklers immer lauter. Zudem sollte Ethik Teil des akademischen Lehrplans für Entwickler werden, um sich mit wichtigen ethischen Fragen in diesem Zusammenhang besser auseinandersetzen zu können.
Moralische Verpflichtung und Mitarbeiterfürsorge
Aber auch die Führungskräfte in den Unternehmen sehen sich großen Herausforderungen gegenüber. Wird der Einsatz von SEAI in Betracht gezogen, müssen sich die Manager der Fähigkeiten und Grenzen der SEAI bewusst sein. Sie können sich nicht mehr alleine auf externe KI-Experten verlassen. Sie müssen verstehen, dass es viel Zeit braucht, um KI zu implementieren, und welche rechtlichen Implikationen damit verbunden sind.
Letztendlich sind sie es, die die Standards für die zukünftige SEAI definieren und festlegen. Sie haben als Unternehmer nicht nur die moralische Verpflichtung, die richtigen Technologien für das Unternehmen auszuwählen, sondern dürfen unter Arbeitnehmergesichtspunkten die menschlichen Aspekte in der Gleichung nicht unberücksichtigt lassen. Alles andere führt zu einer Entmenschlichung der Gesellschaft.
Gleichzeitig dürfen sie das Datenschutzproblem nicht aus den Augen verlieren. Einerseits werden enorme Datenmengen zum Trainieren der (sozialen emotionalen) KI-Algorithmen benötigt. Andererseits ist das Erfassen der notwendigen sensiblen Benutzerdaten ein extrem kritischer Punkt.
HMIs als Treiber für die Zusammenarbeit zwischen Mensch und Maschine
Wenn aber alle Interessengruppen ihre Verantwortung gegenüber SEAI ernst nehmen, werden HMIs insgesamt ein Treiber für eine optimierte Zusammenarbeit zwischen Mensch und Maschine sein, der sie effektiv, effizient und zuverlässig macht und so die allgemeine Zufriedenheit von Mitarbeitern erhöht.
Dazu müssen die KI-Entwickler auf der Grundlage moralischer und ethischer Überlegungen einen persönlichen Leitfaden für ihre zukünftige Arbeit entwickeln. Sie sind verantwortlich für die Gewährleistung von Privatsphäre und Fairness des KI-Designs. Ihr Engagement für faire und nachhaltige HMIs im Bereich SEAI sollte verstärkt werden, indem sie für ihre diesbezüglichen Entscheidungen rechtlich verantwortlich gemacht werden.
Gemeinsam mit allen Interessengruppen müssen sich die Entwickler für den sinnvollsten Ansatz zur Zusammenarbeit zwischen Mensch und Maschine entscheiden, der eine ausgewogene Aufgabenverteilung zwischen Mensch und Maschine widerspiegelt und gleichzeitig das Feedback der Benutzer berücksichtigt. Nur so lässt sich eine optimierte Zusammenarbeit zwischen Mensch und Maschine realisieren, die auch soziale und emotionale Faktoren miteinbezieht.