Fehler können peinlich und teuer werden

Bräunlich ist nicht nur KI-Verantwortlicher beim auf Kunden-Management-Software spezialisierten Schweizer Softwarehaus BSI, sondern auch Vize-Präsident der Swiss Data Insights Association, die sich mit ethischen Fragestellungen rund um KI und Datenmanagement beschäftigt. Er ist davon überzeugt, dass es den Unternehmen schadet, wenn sie im Umfeld von KI das Thema Ethik nicht ernstnehmen.

Ethische Probleme stellen sich demnach oft erst im Verlauf eines Projekts ein, wenn zuvor nicht ausreichend darüber nachgedacht wurde. Die Beispiele von Facebook und Amazon, wo die KI-gestützte Vorauswahl von Bewerbern zu einer Benachteiligung von Minderheiten und Frauen führte, sind weltweit bekannt. Die Fehlerursachen liegen in solchen Fällen in der Datenauswahl, in Modellierungsmängeln und auch in der Voreingenommenheit mancher Datenspezialisten:

Ethik-Probleme zeigen sich oft erst später

Laut Bräunlich können solche Probleme auch in ganz anderen Bereichen auftreten. Der BSI-Manager nennt als Beispiel eine CRM-Software, die auch dazu dient, einlaufende E-Mails via KI automatisiert auf die Teams zu verteilen. Dabei wird natürlichsprachiger Text analysiert - und wenn sich ein Kunde nicht auszudrücken weiß, kann es sein, dass die E-Mail in eine falsche Kategorie einsortiert wird oder ganz aus dem System herausfällt.

Bräunlich empfiehlt, in KI-Projekten immer die Rolle eines "Ethical Challengers" einzurichten. Jedes Projekt sollte darauf abgeklopft werden, ob sich ethische Fragestellungen ergeben, die von den Data Scientists berücksichtigt werden sollten. Dafür brauche es vor allem Zeit, die bei allem Deadline-Druck und Kostenzwängen unbedingt aufgebracht werden sollte. Ethische Fehler müssen Unternehmen sonst teuer bezahlen, oftmals mit der eigenen Reputation. (hv)