Die wichtigsten KI-Herausforderungen für CIOs

KIKI ist mittlerweile zum Motor fast aller klassischen IT-Themen wie zum Beispiel Datentechnik, digitale Nachhaltigkeit, Änderungsmanagement oder Cybersicherheit geworden. Laut einer aktuellen Studie von ISG Research planen weltweit 85 Prozent aller Unternehmen, in den kommenden zwei Jahrenin den kommenden zwei Jahren in KI-Technologien zu investieren. Die größte Herausforderung besteht jedoch darin, die grundlegende Art des Denkens über IT zu ändern. Denn die Transformationen, die KI anstößt, vollziehen sich disruptiv und exponentiell, nicht mehr linear. Alles zu IT Trends auf CIO.de Alles zu Künstliche Intelligenz auf CIO.de

Inmitten des rasanten technologischen Fortschritts ist es unerlässlich, den Blick über einzelne Innovationen hinaus zu lenken. Denn die heutigen und mehr noch die kommenden KI-Technologien machen die Steuerung von Unternehmen und der IT wesentlich komplexer - zumal auch die Auswirkungen auf Mensch, Gesellschaft und Umwelt viel einschneidender als bei bisherigen Technologieinnovationen ausfallen.

Datengesteuerte Innovationen und neue Skills

Vor allem hat sich die Rolle der Experten in der Produktentwicklung grundlegend gewandelt. Unternehmen geben zunehmend der datengesteuerten Innovation den Vorrang, indem sie den direkten Dialog mit KI-gestützten Systemen führen, vor allem mit Hilfe generativer KIgenerativer KI. Die Nutzung dieser neuartigen Kommunikationsschnittstelle erfordert jedoch sehr differenzierte Fähigkeiten bei der Formulierung von Fragen, zumal der einzigartige Kontext eines jeden Unternehmens dabei zu berücksichtigen ist. Alles zu Generative AI auf CIO.de

So sind Unternehmen aufgefordert, ihren Fokus auf Wissensmanagement, Prozessoptimierung und die Neugestaltung von Geschäftsmodellen zu richten. Nur so erreichen sie eine weitgehende Automatisierung von Entwicklungsprozessen und schaffen kreativen Teams jenen Raum, den diese brauchen, um die jeweils notwendige Dynamik zu erzeugen. Zugleich müssen sich Unternehmen den ethischen Implikationen der KI-Innovationen stellen und verantwortliche Lösungen finden.

All dies bedeutet für CIOs einen Balanceakt. Es sind vor allem sie, die ein Gleichgewicht zwischen Innovation und Regulierung finden müssen. Sind sie nicht technologieoffen genug, läuft ihr Unternehmen Gefahr, seine Wettbewerbsfähigkeit zu verlieren. Zugleich müssen sie KI-Innovationen jedoch ausreichend "einhegen". Sonst können diese am Ende nicht nur disruptiv, sondern zerstörerisch wirken.

KI-Herausforderungen

KI beschleunigt Arbeitsabläufe und wird mittel- und langfristig neue Arbeitsplätze schaffen. Davon geht zum Beispiel eine aktuelle Studie der Europäischen Zentralbank aus, derzufolge sich KI überwiegend positiv auf die Beschäftigung auswirkt - insbesondere in Ländern mit zügiger KI-Einführung und guter Bildung. Im gleichen Zug müssen sich Unternehmen auch mit Aspekten wie Vertraulichkeit, Sicherheit, Souveränität und Umweltauswirkungen auseinandersetzen, insbesondere im Kontext von ESG-Anforderungen (ESG - Environment, Social, Governance).

KI versus Nachhaltigkeit - ein Balance-Akt für CIOs

Und ein weiterer Balanceakt für CIOs steht schon vor der Tür: Laut Sajjad Moazeni, Assistenzprofessor für "Electrical & Computer Engineering (ECE)" an der University of Washington, erhält zum Beispiel ChatGPT täglich Hunderte Millionen von Abfragen. Der mit dieser Quantität verbundene Energieverbrauch der Infrastruktur beläuft sich auf rund eine Gigawattstunde pro Tag. Dies entspricht dem täglichen Energieverbrauch von etwa 33.000 US-Haushalten. Es wird also entscheidend sein, die Nutzung von KI durch Kosten- und CO₂-Einsparungen an anderer Stelle rechtfertigen zu können.

Als Folge der transformativen Natur der aktuellen KI-Generation werden sich Geschäftsabläufe über verschiedene Funktionen hinweg grundlegend verändern. So wird generative KI aktuell in ganzheitliche Lösungen integriert und beeinflusst dadurch Schnittstellen zwischen Marketing, Vertrieb, Nachfrage-Management, Produkten, Wertschöpfungsketten, Metriken und IT/DevOps. CIOs setzen deshalb vermehrt auf KI-Beauftragte, die Projekte umsetzen und beratend zur Seite stehen.

Unterschiedliche KI-Anwendungen und Anwendungsfälle erfordern unterschiedliche Apps oder LLMs (Large Language Models). Zusammen bilden sie eine KI-Plattform, auf der Unternehmen ihre Modelle trainieren und betreiben. Die dabei notwendige Wahl zwischen offenen und geschlossenen KI-Modellen sowie spezialisierten Anwendungen spielt eine entscheidende Rolle im strategischen Entscheidungsprozess von Unternehmen. Denn die einzelnen Modelle unterscheiden sich zum Teil deutlich in Bezug auf Sicherheit, Kosten und Implementierungskomplexität. Weitere Herausforderungen stellen die effektive Quantifizierung von Abfragen und die Anpassung von KI-Modellen an unternehmensspezifische Anforderungen dar. Dies spielt vor allem auch bei der Skalierung von Diensten eine wichtige Rolle.

Schneller Einsatz und Produktivität durch KI-Governance

Da KI für exponentiellen Wandel sorgt, kommen Unternehmen und CIOs ohne eine effektive KI-Governance nicht aus. Sie soll vor allem neue Möglichkeiten, Technologien und Anwendungen kontinuierlich erkennen und bewerten. Zurzeit ist es vor allem generative KI, die einen mehrstufigen Reifungsprozess durchläuft, wobei aktuell Wissensmanagement und funktionale Prozessoptimierung im Fokus stehen. Die nächste Phase, die sich auf die Umgestaltung von Produkten und Angeboten konzentriert, wird 2024 an Fahrt gewinnen. Die daran anschließende Phase beinhaltet eine vollständige Neugestaltung von Geschäftsabläufen mithilfe von KI-Anwendungen.

Governance ist dabei auch unverzichtbar, da die Akzeptanz exponentieller Veränderungen Zeit benötigt. Speziell für größere, etablierte Unternehmen stellt dies eine große Herausforderung dar, sodass sich Märkte für viele Startups öffnen, die sich als Spezialanbieter für KI-Produkte und -Dienstleistungen etablieren.

Ethische und urheberrechtliche Fragen

Beim Erwerb von KI-Basismodellen müssen CIOs viele ethische und urheberrechtliche Fragen klären, indem sie zum Beispiel Lizenzvereinbarungen sorgfältig prüfen und verstehen. Auch Fragen zu abgeleiteten Werken, beim Training verwendeten Daten und zum Urheberrechtsstatus von Modell-Outputs müssen geklärt werden, um eine verantwortungsvolle und legale Nutzung sicherzustellen. Hier entsteht in puncto Governance ein potenziell interessanter Markt für Abmahnanwälte.

Eine übergreifende Steuerungsebene muss zudem sicherstellen, dass KI-Funktionen im Einklang mit Sicherheitsstandards, ethischen Prinzipien und wirtschaftlicher Verantwortung stehen. Dieser ganzheitliche Ansatz sorgt vor allem für eine sichere KI (vor allem hinsichtlich der Abwehr von Nutzerverstößen und unbefugtem Zugriff), aber auch für eine verantwortungsvolle KI (Implementierung ethischer Standards gegen Voreingenommenheit und für Transparenz) sowie eine sich selbst finanzierende KI, die wirtschaftlich tragfähig ist und kostenoptimiert arbeitet.

Für die kommenden fünf bis acht Jahre ist zu erwarten, dass sich spezielle Einheiten für KI-Ethik entwickeln werden, sogenannte „AI Ethics Boards“. Ihre Zusammensetzung wird sehr vielfältig sein und unter anderem technische Experten, Rechts- und Compliance-Spezialisten sowie Ethik- und Management-Experten umfassen. Sie werden wahrscheinlich mit schärferen Regulierungen für Entwickler von großen KI-Modellen zu tun haben. Prominentestes Beispiel ist der neue „AI Act“ der Europäischen Union.

Der Markt für IT- und KI-Dienstleister

IT- und KI-Dienstleister werden von Anwendern besser bewertet, wenn sie auch hinsichtlich der Beratung eine (weltweit) weitreichende Präsenz und Kompetenz vorweisen. Anbieter mit umfassenden Beratungskapazitäten erhielten in der "Star of Excellence Voice of Customer"-Studie der Information Services Group (ISG) höhere Kundenbewertungen (durchschnittlich 87,4 von 100 Punkten) als jene Anbieter, die sich "nur" auf Technologieimplementierung (82,6) oder Geschäftsprozesse (78,9) konzentrieren.

ISG hat zudem eine Lücke bei vielen IT-Providern hinsichtlich einer robusten generativen KI-Architektur identifiziert. Die Studie betont jedoch zugleich das Potenzial dieser Technologie trotz bisheriger mangelnder Einbettung in die Architektur. Denn Unternehmen fordern ihre IT-Dienstleister zunehmend auf, generative KI in bestehende Dienste wie zum Beispiel Callcenter und virtuelle Assistenten zu integrieren. Erfolgreiche Anbieter engagieren sich darüber hinaus proaktiv etwa beim Aufbau spezifischer generativer KI-Modelle, bei der Entwicklung kundenspezifischer generativer KI-Anwendungsplattformen sowie dem Schaffen neuer Rollen, die generative KI-Lösungen unterstützen.

Der Markt für KI-Infrastruktur: Hyperscaler und Beschleuniger

Der KI-Infrastruktur-Markt wiederum ist vermehrt von "KI-Beschleunigern" geprägt, die die Modellierung und das Training von maschinellem Lernen vorantreiben. So entwickeln zum Beispiel Hyperscaler spezialisierte KI-Prozessoren und Architekturen, die Markteinführungszeiten und den Energieverbrauch reduzieren. Cloud-KI-Beschleuniger zeichnen sich durch verbesserte Kühlungssysteme und Dichte aus, während spezielle KI-fähige Hardware-Racks Einzug in Rechenzentren halten, vor allem im boomenden Colocation-Markt. Solche Fortschritte in der KI-Hardware deuten darauf hin, dass zukünftige Rechenleistungen für LLMs weniger Energie aufseiten der (Grafik-)Prozessoren und Datenspeicher benötigen. Dies ist wichtig, damit die neuen Lösungen der KI-Innovationszentren auch auf breiter Anwendungsebene nutzbar werden.

Wichtigste Einsatzfelder von Generative AI

Die Akzeptanz (generativer) KI fällt in den verschiedenen Branchen unterschiedlich aus. Vorreiter sind nicht nur hierzulande die Finanzdienstleister. So ist zum Beispiel Datenextraktion im Bereich Wissensmanagement ein grundlegender Anwendungsfall, der als Ausgangspunkt für viele nachgelagerte Anwendungsfälle wie Predictive AnalyticsPredictive Analytics, Performance Analytics und Recommendation Engines dient. Sogenannte "Co-Pilot-Modelle" kommen bei komplexen Aufgaben wie Diagnose und Risikoerkennung zum Einsatz. Dies reicht bis zur Beratung zu neuen Geschäftsmodellen. In diesem Anwendungsfeld vollzieht sich derzeit und auch noch 2024 der größte Wandel - sofern die vorhandenen Daten für die KI-Nutzung vorbereitet sind. Die Verfügbarkeit von für KI geeigneten Daten ist entscheidend für den Erfolg von KI-Anwendungen und ermöglicht es Unternehmen, sich zu datengesteuerten Organisationen zu entwickeln und somit wettbewerbsfähig zu bleiben. Alles zu Predictive Analytics auf CIO.de

Als weitere Anwendungsschwerpunkte sieht ISG für 2024 vor allem Lösungen für die Kundenbetreuung, die generative KI-basierte Anwendungsentwicklung, experimentelle Laborumgebungen sowie proprietäre Lösungen für interne Prozesse und generative KI-Plattformen. Lösungen wie Microsoft Bing und Copilot beschleunigen den Einsatz von KI weiter und tragen dazu bei, die Nutzung von IT zu demokratisieren.

KI-basierte Unternehmensstrategie

Unternehmen nähern sich (generativer) KI derzeit noch vorsichtig an, um Risiken zu minimieren. Sie legen Wert auf die Isolierung und Kontrolle der Daten für das Training generativer KI-Funktionen. ISG empfiehlt hier ein architektonisches Layout, das generative KI strategisch in eine kognitive und KI-fähige Infrastruktur einbettet (siehe Abbildung unten).

Diese KI-fähige Infrastrukturbasis umfasst Hybrid-Cloud-Technologie-Plattformen, Sicherheitsrichtlinien, Distributed Edge Computing-Komponenten sowie weitere Ressourcen, welche generative KI ermöglichen. Das architektonische Layout beinhaltet eine KI-Steuerungsebene und eine Datenebene. Die KI-Kontrollebene ist für das KI-Budget, die Ressourcen, das Eigentum und das eingesetzte Large Language Model (LLM) zuständig, außerdem für die KI-Ethikstruktur, den Rahmen für die Wertrealisierung und die Governance.

Die Datenebene besteht aus Data Lakes und allen strukturierten und unstrukturierten Daten eines Unternehmens in ihrer Rohform, die dann angereichert und bereinigt werden müssen. Diese Daten speisen LLM-Operationen und die Modellressourcen, die ein Unternehmen nutzen kann, um KI-Fähigkeiten schnell zu skalieren. Das Verständnis der Daten spielt eine Schlüsselrolle bei der Definition der Inputs für anstehende Proofs of Concept (PoCs) und um die volle Leistungsfähigkeit von KI zu erreichen.

Die Infrastruktur für kognitive Analysen und KI besteht aus miteinander verbundenen technischen Komponenten, einschließlich Hochleistungs-Grafikprozessoren, optimierter Speicherarchitektur, softwarebasierter Netzwerkinfrastruktur und KI-Werkzeugen wie TensorFlow und PyTorch. Eine dedizierte Orchestrierungsschicht mit Tools wie Kubernetes gewährleistet effizientes Management, Skalierung und Ressourcenzuweisung für KI-Workloads. APIs und Integrationen erleichtern die Kommunikation zwischen KI-Systemen und anderen Unternehmensanwendungen.

Die Infrastruktur für kognitive Analysen und KI wird als dynamisches Datensubstrat betrachtet, das kontinuierlich KI-Prozesse antreibt, sich weiterentwickelt und Feedback gibt. Diese lebendige Einheit steht im Mittelpunkt von Daten, die Erkenntnisse, Entwicklung und Innovation vorantreiben.

Schnell starten und skalieren

CIOs stehen, wie bei jeder anderen neuen Technologie, vor der Herausforderung, den Return on Investment (ROIROI) von KI-Initiativen abzuschätzen und die damit verbundenen Risiken angemessen zu berücksichtigen. Die Einführung und Entwicklung Künstlicher Intelligenz durchläuft dabei einen Reifeprozess mit verschiedenen Phasen der Technologienutzung. Zunächst sind CIOs gut beraten, wenn sie auf eine umfassende Architektur fokussieren, die eine Einführung generativer KI im gesamten Unternehmen ermöglicht und dann auch Projekte und Geschäftsstrategien skalieren kann. Hierbei spielen Daten- und Kontrollsäulen sowie Strategie- und Betriebsrahmen eine entscheidende Rolle (siehe Grafik) Alles zu ROI auf CIO.de

Die Architekturkarte kann als zentrales Werkzeug dienen, das für die Fehlersuche, Problemdiagnose und die Erleichterung der Kommunikation zwischen Teammitgliedern dient. Sie fungiert als gemeinsamer Bezugspunkt, der die Zusammenarbeit über verschiedene technische Skills hinweg erleichtert. Eine Roadmap für die Umsetzung der Transformation empfiehlt sich als strategischer Ansatz, um das Potenzial der generativen KI im Geschäftsbetrieb zu realisieren.

Zudem ist ein Inventar aller Anwendungsfälle sehr wichtig, um zum Beispiel deren ROI und die architektonische Reife zu bewerten und Risiken einzuschätzen. Nicht zuletzt gilt es zu erörtern, wie Quantität und Qualität der täglichen Prompts erhöht werden können und ob unternehmensspezifische, möglicherweise branchenspezifische Modelle trainiert werden sollen. Dazu braucht es ein interdisziplinäres Team - zusammengeführt aus bestehenden Cloud Centers of Excellence (CCoE) und solchen für Cyber Security sowie Data Engineering.

Nicht zuletzt ist die Zusammenarbeit mit externen Experten, Partnern und Systemintegratoren erfolgsentscheidend. In diesem Kontext empfiehlt ISG Unternehmen, ein sogenanntes "Empowered Strategy Realization Office" einzurichten. Dieses soll die Strategieumsetzung, die Beaufsichtigung von KI-Initiativen, strategische Entscheidungen und die Sicherstellung von Wertschöpfung und -bereitstellung taktisch und strategisch koordinieren. Zudem kann ein solches Team wesentlich dabei unterstützen, wenn es darum geht, KI-Projekte und -Anwendungen zu skalieren. (wh)