Paperless NGX 3.20. Mistral AI

paperless-ngx
1

Hallo,
Leider funktioniert meine Mistral AI Anbindung nicht mehr.
Guthaben ist genug drauf.

Meine Konfiguration in der docker-compose.env sieht so aus:

=== Mistral AI Konfiguration für Paperless ===

PAPERLESS_AI_ENABLED=true

Text-Generierung (Titel, Tags, Korrespondenten)

PAPERLESS_AI_LLM_BACKEND=openai
PAPERLESS_AI_LLM_ENDPOINT=https://api.mistral.ai/v1
PAPERLESS_AI_LLM_API_KEY=mein key
PAPERLESS_AI_LLM_MODEL=mistral-small-latest

Optional, aber ratsam bei Synology/Mistral:

PAPERLESS_AI_MAX_TOKENS=1024
PAPERLESS_AI_REQUEST_TIMEOUT=120

Embeddings (Für die Vektor-Indizierung - das hat vorhin gefehlt!)

PAPERLESS_AI_EMBEDDING_BACKEND=openai
PAPERLESS_AI_EMBEDDING_ENDPOINT=https://api.mistral.ai/v1
PAPERLESS_AI_EMBEDDING_API_KEY=mein key
PAPERLESS_AI_EMBEDDING_MODEL=mistral-embed

Ich bekomme einen 502 Bad Gateway Fehler.
Das heißt wohl das die Mistral API meine Abfragen ablehnt.

Nutzt noch jemand vielleicht die Mistral Anbindung und kann mir helfen ob an meiner Konfig etwas falsch ist?
Denn seit dem Update auf V3 hatte ich die AI Anbindung eingerichtet und es lief bisher wunderbar.

Vielen Dank für eure Hilfe.

2

Hallo wuff,

ich weiß nicht, ob das vor einen Update anders war, aber jetzt gibt es die Variablen so nicht mehr.
PAPERLESS_AI_EMBEDDING_… => Falsch
PAPERLESS_AI_LLM_EMBEDDING_… => Richtig
Und immer „openai-like“ statt „openai“ bei den Backends.
PAPERLESS_AI_MAX_TOKENS finde ich gar nichts dazu.

Hoffe dir ist damit geholfen.

Mehr findest du in der offiziellen Doku.

https://docs.paperless-ngx.com/configuration/#PAPERLESS_AI_LLM_EMBEDDING_BACKEND

3

Guten Morgen @wuff

Ich kann Dir bei Deinem Problem leider nicht helfen, erlaube mir aber eine Frage zu Deinem Setup.

Tatsächlich überlege auch ich mir, meine Paperless-Instanz mit einer externen Ki zu verbinden. Mistral ist ebenfalls auf meiner Liste ganz oben.

Nebst der Text-Generierung - wie Du schreibst - für welche Funktionen nutzt du Mistral sonst noch im Zusammenhang mit Paperless?

Ich stelle mir vor, via Mistral eine Art Chat aufzubauen und Antworten auf bestimmte Fragen aus meinen rund 8’500 PDF-Dokumenten zu erhalten.

Wie ist das mit dem Datenschutz - irgendwie habe ich Respekt davor, meine persönlichen Dokumente von einer Ki bearbeiten zu lassen.

Wie siehst Du das?

Beste Grüsse