Künstliche Intelligenz - auch eine Frage der Ethik

Beispiel für die Umsetzung

Um diesen Vorsatz in die Tat umzusetzen, gründeten die Walldorfer ein sogenanntes AI Ethics Steering Committee aus neun hochrangigen Führungskräften. Es soll im Austausch mit den Mitarbeitern sicherstellen, dass die internen Prozesse und Produkte mit den ethischen Prinzipien, die sich SAP gesetzt hat, übereinstimmen. Diese Prinzipien hat das Komitee in sieben Richtlinien formuliert:

• Unsere Werte treiben uns an.

• Wir entwickeln für Menschen.

• Wir ermöglichen Business ohne Vorurteile.

• Wir streben nach Transparenz und Integrität in allem was wir tun.

• Wir wahren Qualitäts- und Sicherheitsstandards.

• Datensicherheit und Datenschutz sind für uns zentral.

• Wir beschäftigen uns mit den größeren gesellschaftlichen Herausforderungen von KI.

Die sieben Punkte orientieren sich an den oben genannten Vorschlägen der ESWA. Ein 14-seitiges Dokument definiert die Aussagen näher und beschreibt, worauf sie sich beziehen. Darunter sind beispielsweise das eigene Commitment für Menschenrechte und Qualitätssicherung, aber auch UN-Richtlinien. Außerdem beschreibt SAP die Struktur, wie die Vorsätze umgesetzt werden.

Unternehmen, die Verhaltenskodizes definieren, müssen sich oft den Vorwurf anhören, dass es keine Kontrollinstanz gäbe. SAP hat daher als erstes europäisches Unternehmen einen Ethik-Beirat einbezogen. Das Gremium besteht aus externen Fachleuten aus Wissenschaft, Politik und Industrie. Komitee und Beirat tauschen sich vierteljährlich zu den Aktivitäten im Unternehmen aus.

Der Beirat berät das Komitee, überprüft die Einhaltung der Leitlinien und hilft bei der Weiterentwicklung des Regelwerks. Zwar besitzt er nur beratende Funktion und hat keinerlei Entscheidungsgewalt - die behält sich weiterhin das Unternehmen vor - aber seine Beteiligung ist ein erster Schritt in Richtung einer unabhängigen Kontrolle.

Sind die Richtlinien wie im Beispiel SAP definiert, gilt es, sie in der Praxis umzusetzen. Da sich die Technologie und ihre Möglichkeiten rasend schnell weiterentwickeln, ist es praktisch unmöglich, nachhaltige Regeln auf einer technischen Ebene zu realisieren. Sie würden immer einen Schritt hinterherhinken. Lorena Jaume-Palasí, Mitgründerin der Initiative "Algorithm Watch", sagte in einem Interview mit der FAZ, dass sich das umgehen ließe "indem man nicht die Technik reguliert, sondern die menschlichen Konflikte und Risiken, die sich aus dem Umgang mit Technologie ergeben." Als Beispiel führt sie das Auto an: Gesetze begrenzten nicht die Anzahl der PS, sondern die Geschwindigkeit auf der Straße. Nicht die Technik werde reguliert, sondern der menschliche Einsatz.

Es geht also nicht darum, was Technik kann, sondern was der Mensch damit macht beziehungsweise machen darf. Vor diesem Hintergrund gilt es, Mitarbeiter in Schulungen für den verantwortungsvollen Umgang mit KI zu sensibilisieren. Laut einer weltweiten Studie von Forbes Insights unter 305 Geschäftsführern führen 70 Prozent der Unternehmen, die KI einsetzen, ethische Trainings für ihre Mitarbeiter in der IT durch. 63 Prozent besitzen Ethikkommissionen ähnlich der von SAP.

Bei Unternehmen, die bisher keine KI einsetzen, fehlt es allerdings noch an Bewusstsein. Hier trainieren lediglich 48 Prozent ihre Belegschaft in ethischen Fragen. Angesichts der Tatsache, dass KI laut Gartner bald allgegenwärtig sein soll, werden auch diese Unternehmen nicht umhinkommen, ihre Mitarbeiter ethisch zu schulen.

Bei allen Maßnahmen ist es wichtig, dass die Führungsebene voll dahinter steht. Gerade weil Ethik ein relativ uneindeutiges Thema ist, muss sie in der Praxis vorgelebt werden.

Langfristigen Erfolg sicherstellen

Wissen in der Breite zu vermitteln und Integrität zu demonstrieren ist der erste Schritt. Der zweite besteht darin, die Regeln langfristig durchzusetzen. Hierzu kann es sinnvoll sein, bestimmte Mechanismen im Unternehmen einzusetzen.

Die einfachste Methode ist es, ein Verhalten, das den Richtlinien zuwiderläuft, zu bestrafen. So könnte beispielsweise ein Mitarbeiter seinen Jahresbonus verlieren, wenn er versuchen würde, auf eine Art und Weise Umsatz aus Daten zu generieren, die gegen den Kodex verstößt. Dazu gilt es, Wege zu eröffnen, über die Richtlinienverstöße aufgedeckt werden können. Das ist besonders schwierig, wenn Mitarbeiter mit ethischen Verstößen von Vorgesetzten konfrontiert sind.

Als Anlaufstelle für die Mitarbeiter können Ethikbeauftragte in den Geschäftsbereichen oder eine zentrale Ethik-Abteilung eingesetzt werden. Sie sorgen dafür, dass die Belegschaft die Richtlinien kennt und weiß, wie sie im Alltag anzuwenden sind. Sie prüfen auf unethisches Verhalten, fungieren als Ansprechpartner bei Fragen und vermitteln bei Vorfällen.

Es besteht auch die Möglichkeit, die Mitarbeiter aktiv in den Prozess einzubinden. Das Unternehmen kann sie anhalten, unethisches Verhalten über eine Hotline oder ähnliches zu melden. Allerdings ist diese Methode selbst ethisch fragwürdig. Es besteht die Gefahr, Denunziantentum in der Belegschaft zu forcieren.

Entscheidet sich ein Unternehmen dennoch, die Mitarbeiter aktiv einzubeziehen, sollten einige Maßnahmen ergriffen werden. Katie Smith, Chief Ethics and Compliance Officer des auf Compliance-Programme spezialisierten Unternehmens Convercent, nennt drei Strukturen um so eine "Speak-Up-Kultur" zu schaffen:

1. Klarheit von Anfang an - Alle Mitarbeiter sollten genau wissen, wie sie Verstöße melden können. Um beurteilen zu können, welches Verhalten als unethisch gilt, sollte der Kodex in schriftlicher Form zugänglich sein. Neue Kollegen sollten beim Arbeitsantritt mit den Richtlinien im Detail vertraut gemacht werden.

2. Offene Kanäle - Mitarbeiter müssen sich laut Smith sicher fühlen, dem Prozess vertrauen und überzeugt sein, dass ihrer Meldung auch konkrete Maßnahmen seitens des Unternehmens folgen. Es gilt aktiv zu kommunizieren, dass die Initiative der Mitarbeiter begrüßt und ihre Anliegen ernst genommen werden. Der Prozess, um einen Vorfall zu melden, sollte klar definiert und vor allem so einfach wie möglich sein. Es ist wichtig, bei den Meldemöglichkeiten viele verschiedene Kommunikationskanäle anzubieten. So steht den Mitarbeiter derjenige offen, mit dem sie sich am wohlsten fühlen - zum Beispiel Telefon, Internet, anonyme SMS oder Chatbot.

3. Schutz für Whistleblower - Sobald ein Mitarbeiter einen Verstoß gemeldet hat, müssen Systeme greifen, die ihn vor möglichen Racheakten schützen. Ist der Mitarbeiter, der eine Anzeige stellte, bekannt, sollten die Ethikverantwortlichen nach beendeter Untersuchung regelmäßig - beispielsweise nach 30, 60 und 120 Tagen - den Kontakt suchen und ihn nach möglichen Repressalien fragen. Daneben gibt die Prüfung der Vergütungs- und Leistungsbeurteilungs-Daten des Melders Aufschluss über negative Entwicklungen.

Diesseits von Gut und Böse

Die Forderungen nach Verhaltensregeln für Forschung und Wirtschaft werden in Zeiten der Digitalisierung immer lauter. Es braucht einen Rahmen, damit technische Innovationen nicht in das Wertegerüst unserer Gesellschaft eingreifen können. Ethik und Geschäft rücken - angefeuert durch anhaltende Diskussionen über Möglichkeiten und Grenzen der KI - enger zusammen. Hält sich ein Unternehmen nicht an gesellschaftliche Normen, oder besteht auch nur der Verdacht, können daraus handfeste wirtschaftliche Nachteile entstehen. Ein Verhaltenskodex ist ein Weg für Unternehmen, dieses Risiko abzuwenden.