Zwischen Hyperpersonalisierung und KI-Inzucht

Nach guter Analystensitte hat auch das Beratungshaus PAC zum Jahreswechsel seine wichtigsten Prognosen für 2024 veröffentlicht. Darunter sind folgende fünf TrendsTrends und Marktentwicklungen, die sich auf unterschiedliche Weise auf den IT-Markt auswirken sollen: Alles zu IT Trends auf CIO.de

1. FinOps für GenAI

Mit dem deutlich gestiegenen Fokus auf Künstliche Intelligenz, insbesondere aufgrund der wachsenden Bedeutung von Generative AI (GenAI), ist aus Sicht von PAC nun ein FinOps-Modell essenziell. Der Grund, so die Analysten: GenAIGenAI erfordert hohe Rechen- und Datenverarbeitungskapazitäten, die nur durch Cloud-Dienste erschwinglich realisiert werden können. Alles zu Generative AI auf CIO.de

Bei allen Vorteilen von GenAI sehen die Analysten nämlich auch ein erhebliches Risiko, dass die Nachfrage nach solchen Diensten bei Unternehmen zu unerwarteten Kostensteigerungen führt - in einer Größenordnung und Geschwindigkeit, die weitaus gravierender sei als die anfänglichen Kostenprobleme bei der Ausbreitung der Cloud. "Unternehmen müssen daher die Cloud-Service-Kosten für KI in allen Geschäftsbereichen durch FinOps effektiv verwalten und eine Kultur der finanziellen Transparenz und Verantwortlichkeit schaffen", rät Spencer Izard, Principal Analyst von PAC.

2. Effektives Sicherheitsmanagement mit MLSecOps

Mit der Zunahme der KI-Nutzung steigen aber nicht nur die Kosten, sondern auch die Notwendigkeit, Sicherheitspraktiken an ML-bezogene Workflows anzupassen, warnt PAC. Aus diesem Grund werden MLSecOps-Rahmenwerke für die Absicherung von KI-Lösungen und -Diensten einen zunehmend höheren Stellenwert bekommen.

Als besondere Herausforderung sehen die Analysten dabei die "Multi-Hop-KI". Darunter versteht man die Verkettung mehrerer KI-Lösungen oder -Dienste und ihrer Datensätze zu einer integrierten Pipeline oder Lieferkette. Diese KI-Nutzung umfasst nicht nur Lösungen und Dienste von einer Vielzahl von IT-Anbietern. Zudem wird es zwischen den einzelnen "Hops" keine menschliche Interaktion geben.

PAC hält dies für einen revolutionären Schritt, warnt aber auch vor inhärenten Security-Risiken bei der Nutzung von KI. "Daten sind aus Sicht der Cybersicherheit das wertvollste Gut, das sich böswillige Akteure aneignen können - und da sie das Herzstück aller KI sind, ist dies ein Bereich, mit dem sich CxOs in den kommenden Jahren intensiv befassen müssen", so Izard.

3. Umgang mit der KI-Inzucht

Die sogenannte "KI-Inzucht" stellt aus Sicht von PAC ein zunehmend relevantes Problem im Zusammenhang mit Künstlicher Intelligenz dar. Dieses Phänomen tritt auf, wenn KI-SystemeKI-Systeme überwiegend von anderen KI-generierten Inhalten lernen, was zu einer Verzerrung und Entfremdung von der menschlichen Perspektive führen kann. Alles zu Künstliche Intelligenz auf CIO.de

Diese Entwicklung, besonders sichtbar im Bereich der generativen KI, könnte die Langzeitwirksamkeit von KI-Lösungen beeinträchtigen. "Wir von PAC halten dies für ein sehr ernstes Warnsignal für eine potenzielle Zukunft mit schwerwiegenden Auswirkungen auf den Nutzen der KI sowohl für Organisationen als auch für die Gesellschaft", warnt Izard. Verantwortungsvolle und erklärbare KI-Tools und Frameworks könnten indes als geeignete Instrumente zur Bewältigung dieses Problems angesehen werden.

4. Hyperpersonalisierung durch digitale Assistenten

Mit generativer KI besteht nun endlich auch die Möglichkeit, digitale Einkaufserlebnisse ähnlich einem persönlichen Einkaufsberater mit möglichst präziser Personalisierung zu bieten, so PAC. Diese sogenannte Hyperpersonalisierung zielt darauf ab, eine möglichst enge und langfristige Beziehung zum Kunden zu entwickeln, die das Engagement und die Loyalität erhöht und Cross- und Upselling-Möglichkeiten eröffnet.

Das Analystenhaus prognostiziert, dass GenAI ab 2024 vermehrt auf den Geräten von Mitarbeitern und Kunden zum Einsatz kommt, um sie bei der persönlichen Interaktion zu unterstützen. "GenAI wird den Zugang zu digitalen Assistentendiensten im Stil eines persönlichen Einkaufsberaters für die Verbraucher demokratisieren, den Kaufzyklus von Unternehmen vereinfachen und neue Umsatzmöglichkeiten schaffen", prognostiziert Izard.

5. Verschärfte ESG-Anforderungen

Ab 2024 regelt die Corporate Sustainability Reporting Directive (CSRD) EU-weit die Umweltberichterstattung und forciert damit die internationalen ESG-Bestrebungen. Die Experten von PAC sehen das Inkrafttreten der CSRD als Beschleuniger des Wandels hin zu mehr - und echter - Nachhaltigkeit. So würden Unternehmen vermehrt nach Integrationspartnern für die richtigen Softwarelösungen und Prozesse suchen, um ESG-relevante Daten effizient zu verfolgen, zu sammeln und zu analysieren, prognostiziert PAC-Analystin Mopia Kamdoum. Gleichzeitig zwinge die Vergleichbarkeit der Berichte die Unternehmen dazu, mindestens so nachhaltig ausgerichtet zu sein wie ihre direkten Mitbewerber.

Der Trend zu mehr Nachhaltigkeit wird aus Sicht der Analystin Unternehmen zudem weiter zu einer Cloud-First-Strategie ermuntern. Neben der Möglichkeit, einzelne Workloads mit vertretbarem Aufwand und Betriebskosten in die Cloud zu migrieren, würden Organisationen dabei zunehmend fragen, wie nachhaltig verschiedene Cloud-Angebote sind. Zudem erwartet PAC, dass auch die Cloud-Anbieter Effizienzparameter für Interessenten bereitstellen, um die Nachhaltigkeit ihrer Angebote zu belegen.