Wir wollen hier eine Einschätzung geben. Jedoch ist es uns überaus wichtig auf folgendes hinzuweisen. Die im folgenden auf dieser Website bereitgestellten Informationen stellen keine Rechtsberatung dar und sollen keine rechtlichen Fragen oder Probleme behandeln, die im individuellen Fall auftreten können. Die Informationen in auf dieser Website sind allgemeiner Natur und dienen ausschließlich zu Informationszwecken. Wenn Sie einen rechtlichen Rat für Ihre individuelle Situation benötigen, sollten Sie den Rat von einem qualifizierten Anwalt einholen. Zudem ist diese Technologie sehr volatil, so dass das Folgende im zeitlichen Kontext gesehen werden muss. Wir haben diese Informationen im April 2025 aktualisiert.

Beschreibung in Kurzform und Abgrenzung zwischen ChatGPT und Mistral AI

Die rasante Entwicklung von Large Language Models (LLMs) ermöglicht Unternehmen die unterschiedlichsten Modelle als Hilfsmittel einzusetzen.  Zu den führenden Entwicklern in diesem Bereich gehören stand April 2025 OpenAI, der Schöpfer von Chat GPT und auch  Mistral AI, ein prominenter europäischer Konkurrent.

LLM unterscheiden sich erheblich in technologischen Ansätzen, Geschäftsmodellen und strategischen Ausrichtungen. Im folgenden beschränken wir uns aus der täglich anwachsenden Vielfalt auf eine Betrachtung von ChatGPT und Mistral. Und beziehen uns auf den Anwendungsfall im Contact Center über Voice/Chat Bots in Europa. Wir versuchen etwas Klarheit zu schaffen bezüglich der zugrundeliegenden Technologien, Leistungsmerkmale, Lizenzierungsstrukturen und Einsatzmöglichkeiten.

API (Application Interface)

Wir verfolgend den strukturellen Ansatz das jtel Portal (Bot Applikation) mit einem öffentlichen LLM Modell zu verbinden.
Ganz grundsätzlich könnte man eine Analogie bemühen, von der IT (Informationstechnologie) zur KI (Künstliche Intelligenz). In diesem möglichen Vergleich entspräche das IT Betriebssystem (Linux, Microsoft) dem KI LLM (Mistral, ChatGPT) und darauf bauen wir werthaltige Applikation (Bots). Die jtel Bots interagieren also über Schnittstellen (APIs) mit diesen 3rd Party KI Sprachmodellen. 

ChatGPT

ChatGPT ist vor allem selbst eine generative Chatbot-Anwendung, die von OpenAI 2022 entwickelt wurde (Hauptsitz in San Francisco, USA - "Capped-Profit"-Struktur mit einer Art von Gemeinnützigkeit) mit dem Fokus auf eine benutzerfreundliche Anwenderoberfläche, was zu einer massenhaften Verbreitung führte bei Endanwendern. Natürlich liefert der zentrale Dienst auch die benötigten API Schnittstellen um mit der jtel Plattform zu kommunizieren. Die kommerzielle GPT-Modellreihe umfasst derzeit GPT-4o (o1, o3-mini), GPT-4.5. Die Modelle von OpenAI werden auf riesigen Datensätzen trainiert, die öffentlich zugängliche Internet Informationen, von Dritten lizenzierte Daten und von Nutzern oder menschlichen Trainern erzeugte Daten umfassen. Vom Unternehmen OpenAI ist Microsoft ein Hauptinvestor und dieser stellt über Azure umfangreiche Cloud-Computing-Ressourcen zur Verfügung. Das erklärt die Örtlichkeit  in den USA wo die Datenverarbeitung nach amerikanischem Recht stattfindet. Es ist erwähnenswert das OpenAI wegen etwaiger Urheberrechtsverletzungen und KI-Sicherheitspraktiken unter Beobachtung steht.

Mistral AI

Mistral AI SAS hat im Gegensatz vielmehr den Fokus auf die API-Plattform "La Plateforme" sowie architektonische Effizienz und wurde 2023 gegründet (Hauptsitz in Paris, Frankreich - mit dem Anspruch auch durch Open-Source Modell eine Alternative zu bieten). Die Mistral AI Modellreihe umfasst eine Vielzahl von "Allzweck-", "Spezialisten-" und "Forschungsmodellen" als Dienst oder Open-Souce Variante zum Betrieb auf eigener Hardware (Self Hosting) . Optimierte kommerzielle Modelle sind derzeit über die API-Plattform zugänglich als Mistral Large, Mistral Small und andere spezialisierte Modelle.
Mistral AI hat sich umfangreiche Finanzmittel von verschiedenen Investoren gesichert, darunter Lightspeed Venture Partners, Andreessen Horowitz, Microsoft, Nvidia und BNP Paribas. Das Unternehmen ist auch eine Partnerschaft mit Microsoft eingegangen, um seine Modelle zusätzlich auf der Azure-Cloud-Plattform zur Verfügung zu stellen. Das Unternehmen betont seine europäischen Wurzeln und sein Engagement für die Einhaltung der Datenschutzgrundverordnung (GDPR) als ein wichtiges Unterscheidungsmerkmal.

Persönliche Einschätzung:

Während die größten Modelle von OpenAI oft die allgemeinen Benchmarks anführen, ist Mistral AI ein starker Konkurrent, insbesondere Mistral Large. Die auf Effizienz ausgerichteten Architekturen von Mistral bieten womöglich einen Vorteil in Geschwindigkeit mit vergleichbaren Fähigkeiten. Für europäische Unternehmen ist die effizientere Architektur und der spezielle Fokus auf die wichtigsten europäischen Sprachen womöglich ein entscheidender Faktor.  Benchmarks scheinen zu belegen, dass Mistral Large Modelle wie Llama 2 70B in den Bereichen Französisch, Deutsch, Spanisch und Italienisch brillieren. Dies deutet darauf hin, dass Mistral für Anwendungen, die auf diese spezifischen Sprachmärkte abzielen, eine überlegene Qualität, Genauigkeit und kulturelle Nuancierung bieten könnte.

Zudem erlaubt Mistral das Selbst-Hosting der offenen Modelle (die unter Apache 2.0 laufen, wie Mistral 7B und Mixtral). Diese können heruntergeladen und auf der eigenen Infrastruktur eines Unternehmens (Server vor Ort oder der jtel SaaS Private Cloud) eingesetzt werden. Somit vermeidet diese Anwendungsfall gesichert die Übermittlung von etwaigen im Gespräch erfassten personenbezogenen Daten außerhalb des Europäischen Wirtschaftsraums (EWR). 

Mistral’s europäische Basis und seine Open-Source-Philosophie liefert eine Grundlage um die Einhaltung der Datenschutzgrundverordnung (GDPR) überprüfbar darzustellen. Die Option des Selbsthostings für offene Modelle bietet darüber hinaus ein Höchstmaß an Datenkontrolle und Souveränität und geht damit direkt auf die wichtigsten GDPR-Bedenken in Bezug auf den Speicherort der Daten und den Zugriff durch Dritte ein. Eine EU ansässige Infrastruktur festigt jtel’s Möglichkeiten der Datenansässigkeit für seine LLM API-Dienste weiter. 

Je nachdem, welche Daten über die jtel Platform API mit den LLMs ausgetauscht werden, ob in der Konversation kundenspezifische Daten enthalten sind oder nur einzelne Schlüsselinformationen über entsprechende “Prompts” übergeben werden, kann es mehr oder weniger relevant sein, einen europäischen Mistral Service zu nutzen oder sogar eine lokale Mistral Instanz zu verwenden.

Das sind wichtige Bausteine, um die DSGVO Konformität zu erleichtern. Jedoch muss jedes Unternehmen, welche APIs zu LLMs nutzen, immer noch eine Sorgfaltspflicht einhalten, indem sie die lokalen DSGVO  Datenverarbeitungspraktiken fallspezifisch überprüfen.