Selbst gehostete KI: E-Mails mit Llama, Qwen oder Mistral versenden, ohne dass Ihre Daten das Haus verlassen

Selbst gehostete KI: E-Mails mit Llama, Qwen oder Mistral versenden, ohne dass Ihre Daten das Haus verlassen

Viele Unternehmen zögern, ihre Kundendaten einem Online-Assistenten anzuvertrauen: Fragen, Entwürfe und Antworten laufen über die Server des Anbieters. Die Antwort, die sich verbreitet, ist einfach: die KI selbst betreiben, mit einem offenen Sprachmodell.

Ein Problem bleibt: Ein bei Ihnen installiertes Modell kann nichts anderes als antworten. Damit es Ihre E-Mails vorbereitet und versendet, braucht es Werkzeuge. Die bekommt es von einem MCP-Server; so setzen Sie das mit Mailpro zusammen.

Die drei Bausteine

BausteinAufgabeBeispiele
Die EngineFührt das Modell auf Ihrer Hardware ausOllama, LM Studio
Die OberflächeSpricht mit dem Modell und gibt ihm WerkzeugeOpen WebUI, LibreChat, LM Studio
Der WerkzeugserverGibt Zugriff auf Ihre Kontakte, Vorlagen, Kampagnen, SMSDer MCP-Server von Mailpro

Achtung, eine häufige Falle: Ollama führt das Modell aus, verbindet sich aber selbst nicht mit MCP-Servern. Sie brauchen eine Oberfläche darüber, etwa Open WebUI oder LibreChat, die die OAuth-Verbindung zu Mailpro übernimmt.

Welches Modell wählen?

Um E-Mails zu versenden, muss ein Modell Werkzeuge aufrufen können („Function Calling“): die richtige Funktion wählen und ihr die richtigen Parameter übergeben. Ein zu kleines Modell ignoriert die Werkzeuge oder verwechselt die Argumente.

  • Qwen (Alibaba): 119 Sprachen und Dialekte, Apache-2.0-Lizenz für seine neueren dichten Modelle; ideal für mehrsprachige Kampagnen.
  • Mistral und Mixtral: ein europäischer Anbieter, mehrere Modelle unter Apache-2.0-Lizenz.
  • Llama (Meta): sehr verbreitet in internen Assistenten; Community-Lizenz von Meta, vor kommerzieller Nutzung zu lesen.
  • Gemma (Google): Die kleinsten Größen laufen auf einem gewöhnlichen Arbeitsplatzrechner.
  • DeepSeek: stark im logischen Denken; bei Ihnen installiert, übermittelt es nichts an den Anbieter, anders als seine Online-App.

Eine mittlere Größe ist ein guter Start: groß genug, um Lesen, Schreiben und Versenden zu verketten, klein genug für einen einzelnen Server.

Was Ihr Netz wirklich verlässt

Das ist die Frage an Ihren Datenschutzbeauftragten, und die Antwort ist eindeutig:

  • Bleiben bei Ihnen: das Modell, Ihre Fragen, Ihre Entwürfe, die Antworten der KI, Ihre internen Dokumente.
  • Gehen hinaus: nur die Aufrufe an den MCP-Server von Mailpro, per HTTPS, zu Ihrem in der Schweiz gehosteten Mailpro-Konto. Das sind dieselben Daten, die Sie ohnehin in Mailpro verwalten.

Verglichen mit einem Online-Assistenten, bei dem das, was der Assistent liest, auch über den KI-Anbieter läuft, beschränkt sich die Angriffsfläche auf das Nötigste.

Die Schutzmechanismen bleiben dieselben

Ein lokales Modell kann sich irren wie jedes andere. Mailpro wendet daher für alle Assistenten dieselben Regeln an: Standardmäßig wartet jeder Versand auf Ihre Freigabe, oder er geht direkt raus, im Rahmen eines Tageslimits, das Sie festlegen; ein Protokoll hält alles fest, und ein Klick setzt alle Versände aus.

Einrichtung Schritt für Schritt

  1. Installieren Sie die Engine (Ollama oder LM Studio) und ein Modell, das Werkzeuge aufrufen kann.
  2. Installieren Sie die Oberfläche: In Open WebUI fügt der Administrator die Verbindung in den Administrationseinstellungen hinzu (Integrationen, externe Werkzeugserver), Typ MCP, Authentifizierung OAuth.
  3. Geben Sie die Adresse des Servers an, die Sie in Ihrem Mailpro-Konto auf der Seite KI-Assistenten (MCP) finden; melden Sie sich bei Mailpro an und stimmen Sie den Rechten zu.
  4. Legen Sie in Mailpro die Versände dieses Assistenten fest: mit Freigabe oder direkt, Tageslimit.

Setzen Sie für Open WebUI eine stabile Variable WEBUI_SECRET_KEY: Sonst gehen die OAuth-Verbindungen bei jedem Neustart verloren. Die vollständige Anleitung: Selbst gehostete KI und Mailpro.

Sie könnten auch interessiert sein an:

Für viele Marketing Experten ist es eigentlich der Standard, dassE-Mail Marketing-Kampagnenimmer zwischen Dienstag und Donnerstag in den Morgenstunden versendet werden. Aber in manchen Fällen, können auch die Tage ...
Wie oft haben wir schon die Phrase“ Der erste Eindruck zählt“ gehört- und nirgends trifft dass so sehr zu, wie beim Email Marketing Man kann sagen, dass der Betreff der Email genauso wichtig ist, wie der Con...
Was ist eine automatisierte Email? Eine automatisierte Email, ist eine E-Mail, die verschickt wird, ohne dass du dafür tätig werden musst. Diese werden nur einmal erstellt und konfiguriert und werden dann an alle K...
Der Erfolg eines Unternehmens wird zu einem großen Teil durch die Marketingstrategien bestimmt. Während sich die meisten Unternehmen darauf konzentrieren, mehr Umsatz zu erzielen, wissen nur kluge Marketingspezialisten,...
E-Mails sind eine effektive Möglichkeit der direkten Kommunikation mit Kunden. Im Gegensatz zu Werbung, die darauf ausgerichtet ist, eine große Gruppe von Kunden anzuziehen, haben E-Mails einen persönlichen Bezug. Ziel des E-Mail...