In 8 Schritten zur eigenen GenAI

5. Rechtliche Fragen klären

Die gesetzlichen Anforderungen an den Datenschutz und Sorge vor künftigen rechtlichen Entwicklungen gehören KI in der bereits zitierten Bitkom-Studie zu den Top drei der größten Hemmnisse beim Einsatz von generativer KI. Der AI-Act der EU schafft hier noch nicht die Klarheit, die aus Unternehmenssicht wünschenswert wäre.

Klar ist aber: Wer GenAI nutzt, um personenbezogene Daten zu verarbeiten, muss sicherstellen, dass dabei europäisches, respektive deutsches Datenschutzrecht eingehalten wird. Konkret bedeutet das unter anderem, dass die Daten den europäischen Rechtsraum nicht verlassen dürfen. Das ist mit den heute zur Verfügung stehenden Lösungen möglich.

User schulen

Es geht jedoch um mehr. Beispielsweise um urheberrechtliche Fragen, mit denen viele Mitarbeitende in ihrem bisherigen Arbeitsalltag nicht konfrontiert waren: Welche Daten darf die KI benutzen, um neue Bilder oder Videos zu generieren? Wie muss sie darauf verweisen? Wer darf diese neu generierten Inhalte wofür nutzen? Und: Wann und in welcher Form muss der Einsatz von KI kenntlich gemacht werden?

Die Diskussion über viele dieser Fragen läuft noch und sie wird sich mit zunehmender KI-Nutzung weiterentwickeln. Umso wichtiger ist es, frühzeitig das Bewusstsein der Mitarbeitenden für dieses Thema zu schärfen. Unser Good-GPT-Team setzt dafür neben Ankündigungen auf allen Kommunikationskanälen, Workshops und Schulungen einen eigenen Teams-Kanal ein.

6. Verantwortungsbewusst vorgehen

Unabhängig von den einschlägigen Rechtsvorschriften wirft der Einsatz von KI zudem ethische Fragen auf: Wie viele Ressourcen darf KI verbrauchen? Nach welchen Regeln erstellt sie ihre Entscheidungsvorlagen? Wer darf sie wofür nutzen?

Egal ob Diversität, ökologische Nachhaltigkeit oder menschenwürdige Arbeit: Gesellschaftliche und Unternehmenswerte sind auch beim KI-Einsatz zu berücksichtigen. So könnte ein Beitrag zum Klimaschutz darin bestehen, dass GenAI-Anwendungen je nach Komplexität der zu lösenden Aufgaben unterschiedliche Instanzen einsetzen, deren Energieverbrauch an die tatsächlich benötigte Rechenleistung angepasst ist.

Das hilft, den CO2-Fußabdruck der KI insgesamt zu minimieren, senkt die Energiekosten und beschleunigt die Umsetzung. Denn die verfügbaren Rechenkapazitäten, die den Anforderungen von KI-Anwendungen genügen, sind noch begrenzt.

7. Geeignete Lösung finden

Die Bandbreite des Angebots von generativen KI-Anwendungen wächst sprunghaft. Microsoft, Google, AWS und Co. liefern sich ein Wettrennen um die Führung beim Ausbau der Leistungsfähigkeit ihrer KI-Modelle. Hinzu kommen zahlreiche zusätzliche Services zu den verschiedenen Modellen, wie beispielsweise ChatWithPDF. Damit können Nutzer Dokumente durchsuchen, auswerten und zusammenfassen lassen.

Andere Anwendungen wie Dall-E oder Midjourney bearbeiten und erstellen Bilder und Grafiken. Und wer nicht nur einzelne Aufgaben mit generativer KI erledigen will, sondern eine komplette individualisierte AI-Umgebung erstellen möchte, kann auf eine wachsende Zahl von Open-Source-Tools zugreifen. Die Auswahl der richtigen Lösung erfordert vor allem die Bereitschaft, mit innovativen Technologien zu experimentieren. Und Fachleute, die neue Wege erkunden und dabei immer die Wirtschaftlichkeit der Lösung im Blick haben.

Oft reicht Open Source

Denn mehr Leistung bedeutet nicht immer mehr Nutzen. Wenn die Anwendung auf einen klar umrissenen Aufgabenbereich in einer Versicherung begrenzt ist, bringt GPT-4, das mit mehreren hundert Milliarden Parameter arbeitet, keinen Mehrwert gegenüber kleinen, feingetunten Versionen von Open-Source-Modellen mit "nur" sieben Milliarden Parameter. Für solche Anwendungen bieten sich beispielsweise Instanzen von LLaMA 2 oder Mistral an, die auf kostengünstiger Standard-Hardware betrieben werden können.

8. Dranbleiben und nach vorne schauen

Jede Innovation hat ihren Preis - nicht nur finanziell. GenAI und KI allgemein stellen die IT-Infrastruktur von Unternehmen und anderen Organisationen vor neue Herausforderungen. Rechenkapazität, Security und Integration sind hier nur drei von vielen Aspekten.

Für die technische Integration von GenAI in die Unternehmens-IT stehen zwar zahlreiche Tools zur Verfügung. Die Absicherung des Zugriffs auf die Ergebnisse der KI und der Schutz sensibler Daten vor unbefugtem Zugriff stehen jedoch weiter im Fokus der Entwicklung. Nicht nur deshalb ist die Offenheit für zukünftige Entwicklungen eine zentrale Anforderung an jedes KI-Projekt.

Für die Zukunft planen

Das zeigt auch unser Projekt: Während sich heute noch achtzig Prozent der Aufgaben von GoodGPT auf Basis von GPT-3.5 erledigen lassen, liegen schon Pläne für neue Anwendungen mit höheren Anforderungen bereit. Eine Lösung sollte deshalb so konstruiert sein, dass die einzelnen KI-Instanzen bei Bedarf rasch durch ein anderes Large Language Model ersetzbar sind. So ist sichergestellt, dass die eigene Lösung auch in Zukunft mit den Anforderungen an die generative KI wachsen kann.