Künstliche Intelligenz
So managen CIOs KI-Risiken
- Bankkunden, denen ein Kredit verweigert wird, oder medizinische Algorithmen, die Menschenleben gefährden, sind typische Beispiele für Risiken durch KI
- Fast 80 Prozent der McKinsey-Kunden, die KI nutzen, beobachten bereits „moderaten“ Wert für das Unternehmen
- Führt KI zu falschen Entscheidungen, reichen die möglichen Schäden für das Unternehmen von juristischen Strafen bis zu Rufschädigung
Noch stecken Künstliche IntelligenzKünstliche Intelligenz und damit verbundene konkreten Anwendungsmöglichkeiten in den Kinderschuhen, so die Einschätzung der Unternehmensberatung McKinsey. Wirtschaftliche Vorteile zeichnen sich dennoch ab: Fast 80 Prozent der Unternehmen, die KI-Techniken nutzen, registrieren bereits einen "moderaten" wirtschaftlichen Wert. Gleichzeitig diskutieren Unternehmen wie auch die interessierte Öffentlichkeit mögliche Gefahren. In einem Positionspapier gibt McKinsey Entscheidern drei Prinzipien auf den Weg. Alles zu Künstliche Intelligenz auf CIO.de
Foto: McKinsey
Zunächst zu den Risiken von KI: McKinsey geht davon aus, dass Nutzern bei weitem noch nicht alle Gefahren und Risiken bewusst sind - und die möglichen Konsequenzen für Unternehmen auch nicht. Leichter erkennbare Risiken kann man bereits eindämmen. Ein Beispiel ist das Thema DatenschutzDatenschutz, das die Unternehmen im Zusammenhang von Advanced AnalyticsAnalytics bereits auf der Agenda stehen haben. Verstöße führen schnell zu juristischen Konsequenzen. Alles zu Analytics auf CIO.de Alles zu Datenschutz auf CIO.de
Je nach Einsatzgebiet kann KI massive Schäden anrichten. Publikumswirksame Beispiele sind Unfälle selbstfahrender Automobile. In der Medizin können falsche Algorithmen schlimmstenfalls dazu führen, dass Menschen sterben. Weniger dramatisch, aber ebenfalls nicht ohne Folgen sind Algorithmen bei Finanzdienstleistern, die bestimmten Kunden einen Kredit verweigern. So etwas kann auf unbewussten Vorurteilen des Programmierers basieren, die in den Algorithmus eingeflossen sind, und Image-Schäden nach sich ziehen. McKinsey gibt zu Bedenken, dass KI Einfluss auf die wirtschaftliche und politische Stabilität eines ganzen Landes haben kann.
Die Berater sprechen von fünf Schmerzpunkten ("Pain points"). Drei beziehen sich auf die Technologie an sich: erstens die Daten selbst (Vollständigkeit, Genauigkeit und anderes) sowie der Datenschutz, zweitens technologische Schwierigkeiten etwa nach dem Ausfall von Anwendungen und drittens das ganze Thema Sicherheit. Die letzten beiden Schmerzpunkte beziehen sich auf den Umgang mit KI. Dabei geht es zum einen um "Models misbehaving": Das KI-System zieht falsche Schlüsse oder trifft falsche Entscheidungen, weil beispielsweise die Datenbasis aufgrund menschlicher Denkfehler oder menschlicher Vorurteile bestimmte Personengruppen ausgeschlossen hat. Zum anderen spricht McKinsey von "Interaktionsproblemen" zwischen Mensch und Maschine oder auch zwischen Maschinen. Hier greift das Beispiel vom zu Unrecht verweigerten Kredit. Das KI-System muss wissen, in welchen Situationen die Einschätzung eines Menschen nötig ist.
Klarheit, Kommunikation und Kontrollen
McKinsey stellt für den gegenwärtigen Zeitpunkt drei Prinzipien auf, die CIOs und andere Entscheider berücksichtigen könnten:
1. Klarheit durch ein strukturiertes Vorgehen bei der Identifikation von Risiken: Als vorbildhaft nennt McKinsey eine europäische Bank. Deren COO (Chief Operating Officer) holte Entscheider aus Business, IT, Sicherheit und Risikomanagement an einen Tisch, um einen Überblick der Risiken und Gefahren im Zusammenhang mit KI zu erarbeiten. Sie stellten Fragen wie: welche sind die schlimmsten Szenarien? Wo fehlen Kontrollen? Setzen wir Zeit und andere Ressourcen richtig ein? McKinsey geht davon aus, dass hier kein Unternehmen "auf der grünen Wiese" startet - Risikomanagement sollte bereits etabliert sein.
2. Unternehmensweite Kommunikation: Kontrollen haben viel mit Kommunikation zu tun. Jeder Mitarbeiter muss wissen, welche Prinzipien er anzuwenden hat. Eine firmenweite Lückenanalyse kann aufzeigen, wo das bisherige Regelwerk durch den Einsatz von KI löchrig geworden ist. Außerdem braucht jedes Unternehmen einen "Rückfall-Plan": Welche Ereignisse führen dazu, dass das Risiko-Management erneut überarbeitet werden muss? All das muss an die Belegschaft kommuniziert werden.
Die Technologie wandelt sich ständig
3. Kontrollen, die immer wieder auf den neuesten Stand gebracht werden: Die Nutzung von KI verändert Unternehmen ständig, schon deswegen, weil sich die Technologie selbst immer weiterentwickelt. Kriterien dafür sind die Komplexität der Algorithmen, die Anforderungen an Daten, die Art der Mensch-Maschine-Kommunikation, der Grad an Prozess-Automation und die Gefahr, gehackt zu werden. Kontrolle und Monitoring sind ein ständiger Prozess.
McKinsey nennt das Beispiel eines Unternehmens, das den Umgang mit KI aktiv geändert hat. Die Mitarbeiter wollten genau verstehen können, wie das KI-System im Umgang mit dem Kunden zu den Lösungen kommt, die es vorschlägt. Sie monierten, das System nicht durchschauen zu können, und verlangten mehr Transparenz. Also verlagerten die Führungskräfte bestimmte Entscheidungen wieder an die Sachbearbeiter zurück. Damit verzichtet das Unternehmen auf Kostenvorteile. Aber die Sachbearbeiter fühlen sich mit den einfacheren KI-Systemen, die sie ja weiter nutzen, wohler. Das Unternehmen habe hier eine Balance hergestellt, so McKinsey.
- KI im Unternehmen und Personalmanagement
Künstliche Intelligenz (KI) birgt ein enormes Potenzial für Unternehmen, zum Beispiel beim Einsatz im Personalmanagement. Joachim Skura, Thought Leader Human Capital Management bei Oracle, nennt Vorteile der KI sowie wichtige Faktoren, die bei der Planung sowie Nutzung zu beachten sind. - Kooperation der Führungskräfte
Da die KI-Technologie heute alle Unternehmensebenen durchdringt, müssen HR-Verantwortliche mit den anderen Führungskräften zusammenarbeiten, um Automatisierungsstrategien für die einzelnen Teams zu entwickeln. - Intelligenz kombinieren
KI muss zu einem Umdenken in Bezug auf die Belegschaft führen: Es geht nicht mehr nur darum, Mitarbeiter einzustellen. Vielmehr müssen menschliche und künstliche Intelligenz kombiniert werden, um die Produktivität zu maximieren. - Sinnvolle Prozessautomatisierung
Ein ganz wesentlicher Aspekt der Nutzung von KI ist, das Streben nach mehr Effizienz in Relation zu den tatsächlichen Möglichkeiten zu setzen. Nur weil sich ein Prozess automatisieren lässt, heißt das noch lange nicht, dass man das auch tun sollte. Das gilt auch im Personalwesen. - Keine Big-Brother-Atmosphäre schaffen
KI kann für die Sicherheit des Unternehmens sehr hilfreich sein. Viele Betriebe nutzen KI-Technik, um Anwendungen, Systeme und Infrastruktur ständig zu überwachen und anomales Verhalten in Echtzeit zu erkennen und zu bewerten. Hier sollten Unternehmen aber unbedingt darauf achten, dass keine „Big-Brother-Atmosphäre“ geschaffen wird. Der Personalabteilung kommt dabei eine wichtige Rolle zu. - Daten und Technik ausschöpfen
KI sollte bei Einstellungs- und Besetzungsplänen zur Anwendung kommen. Der Grund: Es gilt, kontextbezogene Daten und Technologien auszuschöpfen, um Probleme wie hohe Fluktuationsraten in Angriff zu nehmen, Mitarbeiter besser zu verstehen und den vorhandenen Pool an Talenten effektiver zu nutzen. Nur so lässt sich Arbeit intelligenter, angenehmer und kollaborativer gestalten – und letztendlich auch wertschöpfender. - KI im Recruiting nutzen
Künstliche Intelligenz wird derzeit auch im Recruiting immer wichtiger. Recruiter nutzen KI, um herauszufinden, welche Skills das Unternehmen aktuell benötigt, und wo passende Kandidaten zu finden sind. - Bewerbungsmanagement automatisieren
Mit Hilfe von KI lassen sich zeitaufwendige Aufgaben wie das manuelle Screening von Lebensläufen und Bewerber-Pools automatisieren. - Candidate Experience aufbauen
Leistungsstarke und integrierte KI-Funktionen sowie klare Abläufe helfen, im Personalmanagement eine benutzerfreundliche und personalisierte Candidate Experience vom Erstkontakt bis hin zur Einstellung und Eingliederung zu schaffen. - Mehr Effizienz durch Machine Learning
Modernste Machine-Learning-Anwendungen unterstützen das Personalwesen, die Time-to-Hire zu verkürzen, indem sie proaktiv eine Vorauswahl der geeignetsten Kandidaten treffen und Empfehlungen geben. - Chatbots einsetzen
Ein Chatbot kann eine Datenquelle sein, mit deren Hilfe Unternehmen mehr über ihre Mitarbeiter erfahren. Machine-Learning-Analysen von Fragen und Gesprächen können einzigartige und bisher nicht mögliche Einblicke liefern. So lassen sich zugrundeliegende Probleme aufdecken – und das vielleicht noch, bevor sich der Mitarbeiter dieser überhaupt bewusst ist.