Foto: Jacob Lund - shutterstock.com
Vince Kellen ist sich der Grenzen von ChatGPT, DALL-E und anderer generativer KI-Technologien bewusst: dass die Antworten möglicherweise nicht der Wahrheit entsprechen, dass die generierten Bilder keine kompositorische Integrität aufweisen und dass die Ergebnisse verzerrt sein können. Dennoch beschäftigt sich Kellen, CIO an der University of California San Diego (UCSD), weiter mit dem Thema KI: Schließlich nutzen seine Mitarbeiter ChatGPT bereits, um Code und Stellenbeschreibungen anzufertigen.
Das textgenerierende ChatGPT von OpenAI und sein bildgenerierender Cousin DALL-E sind die bekanntesten Vertreter einer Reihe von großen Sprachmodellen, die auch als generative Sprachmodelle oder generative KI bekannt sind und in den vergangenen Monaten die Aufmerksamkeit auf sich gezogen haben. Die Modelle reagieren auf schriftliche Anfragen und generieren eine Vielzahl von Antworten, die von Textdokumenten über Bilder bis hin zu Programmiercode reichen.
CIO Kellen sieht in dem von ChatGPT erzeugten Code ein produktivitätssteigerndes Werkzeug, ähnlich wie Compiler eine Verbesserung gegenüber der Assemblersprache darstellten. "Etwas, das Bibliotheken und Software erzeugt, ist nicht viel anders als die Suche auf GitHub", sagt er. "Wir verwenden es auch, um Stellenbeschreibungen zu verfassen, die auf unsere Inhalte und Formate abgestimmt sind. Man kann dann sehr schnell zur Bearbeitung übergehen und nach Fehlern und Verwechselungen suchen."
KI: Bereit für die richtigen Anwendungen
Die Technologie steckt zwar noch in den Kinderschuhen, aber für einige Unternehmensanwendungen zeichnet sich ihr starker Einfluss bereits deutlich ab. Dennoch ist Vorsicht angebracht: Generative KI sei bereit für den Einsatz in der Codierung, in administrativen Workflows, in der Datenveredelung und in einfachen Anwendungsfällen wie dem Vorausfüllen von Formularen, berichtet Oliver Wittmaier, CIO und Product Owner bei der DB SYSTEL GmbH, einer 100-prozentigen Tochter der DB AG und digitaler Partner für alle Konzernunternehmen. Und in der Transportbranche, sagt Wittmaier, "kann KI direkt oder indirekt die Vermeidung, die Steuerung sowie das Management von Transporten beeinflussen".
Traumpaar Content und KI
Das Erstellen von Inhalten ist für Michal Cenkl, Director of Innovation and Experimentation bei der Mitre Corp., ein besonders interessanter KI-Bereich. "Ich möchte kontextbezogene Zusammenfassungen und einen verfeinerten Dialog - das können diese großen Sprachmodelle liefern." Derzeit untersucht sein Team Anwendungsfälle im Wissensbereich. "Wenn ich eine E-Mail an einen unserer Sponsoren schreiben möchte, will ich die für ihn relevante Arbeit zusammenfassen, die wir geleistet haben - und zwar im Kontext der bisherigen Kommunikation. Das ist unglaublich wirkungsvoll."
Der zweite Punkt betrifft die Projektbesetzung. Normalerweise prüft Cenkl Lebensläufe und sucht nach Kompetenz-Tags, um die richtigen Leute für ein Projekt zu finden. Generative KI erleichtert die Aufgabe: "Ich könnte zum Beispiel fragen: 'Was kann Michael bei diesem Projekt leisten?' - basierend auf dem, was er jetzt tut. Durch die KI kann ich eine Zusammenfassung über Michaels Skills erhalten, ohne dass ich die Informationen aus einem Lebenslauf zusammenstellen muss."
Kunden-Feedback und Kundenerfahrung
Der Gebrauchtwagenhändler CarMax setzt seit über einem Jahr generative KI ein und nutzt die APIs von OpenAI, um Kundenrezensionen zu Zusammenfassungen zu verdichten, die besser handhabbar und lesbar sind. Laut CIO Shamim Mohammad hat sein Team den Einsatz der Technologie auch auf andere Bereiche ausgeweitet.
Eine Anwendung wurde etwa zur Verbesserung der Kundenerfahrung konzipiert. Die KI optimiert Bilder aller Fahrzeuge, die das Unternehmen in seinen Bestand aufnimmt - dieser umfasst in der Regel zwischen 50.000 und 60.000 Fahrzeuge. "Wir machen jedes Bild so realistisch wie möglich, ohne dass es an Aussagekraft verliert", berichtet Mohammad. So haben die Data Scientists beispielsweise eine "digitale Kehrmaschine" entwickelt, die Fotos von Autos auf einem schmutzigen Boden durch Bilder ersetzt, in denen das Auto auf einem sauberen Boden steht. "Es ist immer noch dasselbe Auto, aber es sieht einfach besser aus und bietet dem Kunden ein besseres Erlebnis."
Use Cases für ChatGPT
In ähnlicher Weise habe Nike generative KI eingesetzt, um Bilder von Produktprototypen zu generieren, sagt Forrester-Analyst Rowan Curran. "Man kann einen Text-zu-3D-Modellierer verwenden, im 3D-Raum testen und ein viel intensiveres Gefühl dafür bekommen, wie das Produkt in der realen Welt aussehen wird - und das alles mit sehr wenig Aufwand." Auch Gary Jeter, CIO bei TruStone Financial Credit Union, verweist auf die Hebel, die seine Entwickler mit der GitHub-Implementierung von OpenAIs Codex verfolgt haben. Jeter zufolge hat der Einsatz generativer KI für die Codierung gut geklappt. Diese Modelle funktionierten bei Code besser, weil Programmiersprachen strukturierter sind.
CarMax hingegen experimentiert mit Copilot von GitHub, womit Entwickler in einigen Fällen potenziell bis zu 40 Prozent ihres Codes generieren können, wie CIO Mohammad berichtet. "Das entwickelt sich schnell weiter." Allerdings müsse man sicherstellen, dass keine Urheberrechtsverletzungen, gefälschte Inhalte oder Malware eingebettet sind, wenn man es zur Erstellung von Software verwendet. So ließe sich der Code nicht einfach ohne Aufsicht einfügen.
Andere Bereiche, die sich für Unternehmensanwendungen eignen, sind laut Forrester-Analyst Curran das Erstellen von Marketingtexten, Bildern und Designs sowie die Anfertigung besserer Zusammenfassungen von Informationen, damit diese effektiver genutzt werden können. "Einige Unternehmen nutzen diese großen Sprachmodelle sogar, um unstrukturierte Daten zu bereinigen", berichtet er aus der Praxis. Und bald könnten generative KI-Funktionen in Unternehmenssoftware - von Helpdesk-Tools bis hin zu Microsoft Office-Anwendungen - Einzug halten.
Nicht vertrauen, sondern verifizieren
CIOs müssen sich in Sachen KI aber auch über mögliche Probleme in Bezug auf das geistige Eigentum an den generierten Ergebnissen im Klaren sein, warnt Mohammad von CarMax. Generative Modelle wie DALL-E, die auf Daten aus dem Internet trainiert wurden, sollen Inhalte generiert haben, die möglicherweise urheberrechtlich geschützte Werke verletzen. Aus diesem Grund hat Getty Images kürzlich Stability AI wegen seines KI-gesteuerten Bilder-Tools Stable Diffusion verklagt.
Die Technologie müsse von Menschen überwacht werden, fordert Mitre-Manager Cenkl: "Systeme wie ChatGPT haben keine Ahnung, was sie schreiben, und sie sind sehr gut darin, uns davon zu überzeugen, dass ihre Aussagen korrekt sind - selbst wenn das nicht stimmt."
Es gebe keine KI-Gewährleistung, keine Informationen über die Urheberschaft und keine Verweise, aus denen hervorgeht, wie die Antwort zustande kam. Zudem kann die KI nicht angeben, warum etwas in einer spezifischen Art und Weise geschrieben oder gemalt wurde. "Man kennt die Grundlage ebenso wenig wie die Trainingsbestandteile, die das Modell beeinflussen", so Cenkl. "Was Sie erhalten, ist eine reine Analyse auf der Grundlage eines vorhandenen Datensatzes, so dass nicht nur Verzerrungen, sondern auch sachliche Fehler möglich sind."
KI als Bestandteil von Produkten
DB-Systel-CIO Wittmaier ist von KI zwar grundsätzlich überzeugt. Allerdings ist er noch nicht bereit, diese Technologie, die seiner Meinung nach noch in einem frühen Stadium ist, beim Kunden einzusetzen. Zum jetzigen Zeitpunkt sieht er ein kurzfristiges Potenzial in der Office-Software, bei Chatbots für den Kundenkontakt, bei Helpdesk-Funktionen und bei der Dokumentation im Allgemeinen. Aber in Bezug auf sicherheitsrelevante Bereiche im Geschäft des Bahnkonzerns sei die Antwort ein klares Nein, fügt er hinzu. "Wir müssen noch viel lernen und verbessern, um generative KI in solch sensiblen Bereichen einsetzen zu können."
CIO Jeter hat ähnliche Bedenken. Zwar hat sein Team mit ChatGPT eine notwendige Codekorrektur identifiziert und innerhalb von 30 Minuten auf einer Website implementiert - "ohne ChatGPT hätte das viel länger gedauert". Zudem hält er KI für nützlich bei der Formulierung von Vertragsbedingungen. Aber vollständig erprobt sei es noch längst nicht. "Wir werden keine generative KI an externe Mitglieder weitergeben", sagt er.
Der Schlüssel zum erfolgreichen KI-Einsatz liege heute immer noch in der Beteiligung eines Menschen, der die generierten Inhalte auf Richtigkeit und Konformität überprüft, bilanziert CIO Kellen von der University of California San Diego. "Es wird noch eine ganze Weile dauern, bis Unternehmen KI für risikoreiche Aufgaben wie medizinische Diagnosen einsetzen. Generative KI eignet sich jedoch gut für die Erstellung von Zusammenfassungen, vorausgesetzt, sie wird von einem Menschen beaufsichtigt." Dies verlangsame den Prozess zwar ein wenig, "aber es ist der richtige Ansatz", so Kellen.
KI-Bias: Verzerrungen vermeiden
Ein weiteres gut dokumentiertes Risiko neben der Richtigkeit der Aussagen ist die mögliche Verzerrung der Modelle, die durch Trainingsdaten entstehen kann. Dies ist besonders problematisch, wenn generative KI Inhalte aus dem Internet verwendet, wie es bei ChatGPT der Fall ist. Jedoch sei das Problem kleiner, wenn das Modell mit eigenen Unternehmensdaten trainiert wird, die sich auf mögliche Verzerrungen überprüfen lassen, sagt Kellen.
Veränderungen bei Aufgaben und Rollen
"Die Technologie hat die Dinge besser gemacht, aber sie hat auch eine Menge zusätzlicher Arbeit für uns geschaffen", fasst CIO Mohammad zusammen. Er glaubt jedoch, dass generative KI anders ist. "Sie ist aufregend, weil sie uns einige der Dinge abnimmt, die wir nicht gerne tun, sie wird den Menschen ergänzen." Forrester-Analyst Curran zufolge ist jedoch nicht zu erwarten, dass generative KI in naher Zukunft irgendeine Rolle vollständig ersetzen kann. "Sie wird vielleicht die Anzahl der Menschen reduzieren, die für eine bestimmte Aufgabe benötigt werden, etwa in der Content-Entwicklung, bei Produktinformationen oder in der Softwareentwicklung", sagt er. "Aber es wird immer einen Menschen in der Schleife brauchen. Nicht zuletzt, um die Qualität zu gewährleisten und die Inhalte zu verbessern."
Schritte für den KI-Einstieg
Nichtsdestotrotz sei es an der Zeit, sich mit der generativen KI vertraut zu machen und mit dem Experimentieren zu beginnen, meint Kellen. "CIOs müssen sich mit diesem Thema auseinandersetzen, bevor sie von Lieferanten, die KI in ihre Unternehmenssoftware einbinden, überrumpelt werden."
Generative KI-Modelle sind umfangreich, und es ist teuer, sie von Grund auf zu trainieren, erklärt Curran dazu. Deshalb sei es ratsam, einen Cloud-Dienst für den Einstieg zu nutzen: "Wir können riesige Datenmengen nutzen und sie sehr schnell verarbeiten, um unsere Modelle auszuführen. Wenn Sie ein kleines Team oder ein Business-Problem haben, das von der generativen KI-Technologie profitieren könnte, sollten Sie es unbedingt ausprobieren."
Dieser Artikel basiert auf einem Beitrag unserer Schwesterpublikation cio.com