Foto: sweet marshmallow - shutterstock.com
"Es ist relativ einfach, mit Generative AI Geld zu verschwenden", sagte Gartner-Analystin Mary Mesaglio kürzlich auf einer Veranstaltung in Australien. Die aktuelle Situation erinnere sie an die Anfangszeiten des Cloud Computing. Damals seien die ersten Rechnungen für viele Anwenderunternehmen ein regelrechter Schock gewesen - inklusive großer Verwirrung, was wie abgerechnet würde.
Das Gleiche könnte bei den Gebühren für GenAI passieren, warnte Mesaglio. Nach Einschätzung der Analystin könnten so manche Betriebe bei der Kalkulation ihrer AI-Kosten um den Faktor fünf bis zehn danebenliegen, berichtete das britische Nachrichtenportal "The Register" von der Gartner-Veranstaltung.
Aus Sicht Gartners gibt es dafür verschiedene Gründe. Neben Preissteigerungen der Anbieter würden einige Unternehmen im Vorfeld die auf sie zukommenden Kosten schlichtweg schlampig evaluieren. Darüber hinaus sollten die Verantwortlichen genauer darauf achten, wie sie die neuen KI-Tool einsetzten, rät Mesaglio. In vielen Fällen reiche eine einfache Suche oder Analyse aus, statt ein teures KI-Werkzeug einzusetzen.
Unternehmen müssen Daten-Hausaufgaben machen
Gerade im GenAI-Betrieb gelte es, auf Kostenfallen zu achten. Kämen Nutzerinnen und Nutzer auf den Geschmack, würden die Queries und Prompts gerne immer länger und komplexer. Das jedoch treibe vor allem bei Token-basierten Abrechnungssystemen die Kosten nach oben. Außerdem sollten die Unternehmen darauf schauen, welche Daten sie der KI zur Verfügung stellen. Gerade die Verarbeitung unstrukturierter Daten verspreche zwar bessere Ergebnisse, koste aber in aller Regel auch mehr Gebühren. Es sei daher unabdingbar, dass die Firmen ihre Hausaufgaben in Sachen Daten Management erledigten, mahnen die Analysten.
Schließlich sollten die Verantwortlichen in ihren Rechnungen mit einkalkulieren, welche Resultate die neuen GenAI-Tools in Relation zu den damit verbundenen Kosten wirklich bringen. Auch wenn sich mit Hilfe von KI bestimmte Aufgaben schneller bewältigen ließen, münde die gewonnene Zeit nicht automatisch in mehr Produktivität. "Ich würde mir erst einmal einen Milchkaffee gönnen", gibt Mesaglio unumwunden zu.
Oft reichen klassische KI-Techniken aus
Bei GenAI gebe es derzeit noch viel heiße Luft und wenig konkrete Use Cases, ergänzte ihr Gartner-Kollege Erick Brethenoux. Im Zuge des Hypes und der damit verbundenen Aufregung im Markt hätten die Verantwortlichen in den Unternehmen im vergangenen Jahr aufgehört darüber nachzudenken, welche Technik sich wirklich im konkreten Praxiseinsatz auszahle - doch das ändere sich gerade.
Zwar herrsche in einigen Unternehmen immer noch die Meinung vor, GenAI sei die Lösung aller Business-Probleme. Aber vielerorts sei man wieder auf dem Boden der KI-Tatsachen angelangt, so Brethenoux. Schließlich lasse sich ein Großteil der anstehenden Aufgaben statt mit Gen AI auch mit klassischen KI-Techniken lösen - zu geringeren Kosten.
GenAI bleibt unzuverlässig
Statt dem Hype hinterherzurennen, sollten Unternehmen auch darüber nachdenken, wo sie GenAI nicht einsetzen sollten, sagte Gartner Vice President Bern Elliot. Oft soll die Technik Probleme lösen, für die sie gar nicht konzipiert wurde. Doch GenAI produziert in erster Linie Inhalte - und das oft nicht einmal besonders gut. Angesichts der Halluzinationen bezeichnete Elliot GenAI als unzuverlässig wie ein Schweizer Käse: "Man weiß, dass er Löcher hat, nur nicht, wo diese sind - bis man ihn aufschneidet."
Gartner empfiehlt daher eine sogenannte Composite AI. Ein solcher zusammengesetzter KI-Ansatz sei sicherer, weil die fehlerbehafteten Ergebnisse von GenAI durch klassische KI-Techniken überprüft würden.