Foto: MoinAI
Vor einer ähnlichen Frage wie MoinAI dürften viele Unternehmen stehen, vor allem Mittelständler: "Wie kann ich mit überschaubarem Aufwand KI-Anwendungen entwickeln und bereitstellen?".
Das Softwarehaus aus Hamburg hat einen selbstlernenden KI-Chatbot für die automatisierte Kundenkommunikation entwickelt. Er ist als SaaS-Anwendung (Software as a Service) bei 100 großen und mittelständischen Firmen im Einsatz, drunter Geberit, Cyberport und dem Energieversorger Teag. Sie setzen MoinAI beispielsweise im Kundenservice und bei der Produktberatung ein.
Hybrid-Ansatz nicht tragfähig
Zunächst hostete MoinAI seine Software bei einem Cloud-Hyperscaler. Doch dies erwies unter dem Aspekt des Datenschutzes als problematisch, etwa für Versicherungen, deren Kunden in den Chatbot-Widgets vertrauliche Daten eingeben.
"Insbesondere unsere Kunden aus dem deutschen Mittelstand möchten, dass wir einen Provider aus Deutschland oder Europa nutzen und höchste Datenschutz- und Sicherheitsstandards garantieren", sagt Florian Nommensen, Geschäftsführer und Chief Technology Officer von MoinAI.
Foto: MoinAI
Eine Hybrid-Infrastruktur war dagegen zu komplex: Für unkritische Anwendungen nutzte MoinAI Ressourcen bei Cloud-Hyperscalern, für die Bearbeitung vertraulicher Daten kleinere deutsche Provider.
Zentrale Plattform gesucht
Daher suchte MoinAI einen Anbieter, der KI-Modelle und Datenbanken in Europa hostet und hohe Sicherheitsstandards garantiert. Weitere Kriterien: eine hohe Verfügbarkeit und ein Rechenzentrum in Deutschland. All dies erfüllte OVHcloud.
Bei dem französische Provider implementierte MoinAI eine Infrastruktur mit Kubernetes-Clustern, gemanagten Databases und KI-Services. Der Kern ist ein Managed-Kubernetes-Service, inklusive Private Networks und Gateways. Darin werden Compute-Instanzen mit CPUs und GPUs betrieben.
Foto: OVHcloud
Hinzu kommen Datenbanken auf Basis von MongoDB. Die NoSQL-Datenbank ist als gemanagter Dienst in der Cloud von OVHcloud verfügbar. Für einige Dienste nutzt MoinAI außerdem die In-Memory-Datenbank Redis, ebenfalls als Managed Service.
Auch KI-Services aus der Cloud
Aus der Cloud bezieht MoinAI zudem KI-Ressourcen: "Wir nutzen viele KI-Services von OVHcloud. Mit dem AI Training können wir unsere eigenen Sprachmodelle besonders kosteneffizient trainieren", erläutert Florian Nommensen. Zum Einsatz kommen zudem AI Notebooks und AI Deploy für die Implementierung der Algorithmen bei bestimmten Use Cases.
Das Ergebnis: MoinAI kann nun flexibel auf Kundenanfragen reagieren und die Ressourcen entsprechend skalieren - ohne Sicherheitsrisiken und bei einem guten Preis-Leistungs-Verhältnis.
MoinAI | KI-Service
Branche: Industrie, Handel
Use Case: Entwicklung und Bereitstellung von KI-Chatbots
Lösung: Cloudbasierte Managed Databases und KI-Trainingsplattform
Partner: OVHcloud