Gunicorn-Paperless NGX Hohe RAM-Auslastung

Hallo und frohe Weihnachten,

Ich habe mir einen neuen Unraid-Server mit 16GB RAM installiert, dazu
Paperless NGX mit Redis.

Nach dem Import von ca. 500 PDFs reagierte der Server nicht mehr, der RAM-Speicher war über 100% ausgelastet!

Nach diesem Fehler habe ich nochmal alles neu installiert und Importiert.
Der Fehler trat wieder auf!
Ohne Aktion war der RAM nach einigen Tagen wieder bei 100%.

Verursacht wurde der RAM-Überlauf von Gunicorn, das von Paperless NGX genutzt wird!

Wer hat eine Idee?

1 „Gefällt mir“

H,

Kenne jetzt weder Unraid noch Gunicorn, ich haben bei mir in der Paperless Yaml Datei CPU Leistung und Speicher begrenzt.

Beispiel für Paperless:
paperless:
image: Package paperless-ngx · GitHub
container_name: Paperless-NGX
hostname: paperless-ngx
mem_limit: 3g
cpu_shares: 1024

Beispiel für Redis:
hostname: paper-redis
mem_limit: 512m
mem_reservation: 256m
cpu_shares: 768

VG

Evtl mal mit den Task worker settings herumspielen und diese explizit begrenzen

Danke für die Rückantwort.

Ich werde erstmal die settings PAPERLESS_CONVERT_MEMORY_LIMIT=32 versuchen.

Gruß

Hallo zusammen :wink:
ich bin neu hier im Forum, aber lese schon eine Zeit lang interessiert mit. :slight_smile:

Bei mir ist es leider das gleiche Problem wie bei 6road. :rage:

Setup:
paperless-ngx Version 2.13.5 als Docker-Container
DB = SQLite
DS218+ mit 10Gb RAM
DSM 7.2.1-69057 Update 6
Clients = Web-Oberfläche und Paperparrot (IOS)

Der paperless-Container belegt im Leerlauf zwischen 250 und 500 Mb RAM, CPU-Last ist unter 1%.
Wenn ich mich über die Weboberfläche anmelde oder Paperparrot starte ändern sich die Werte so gut wie nicht.
Sobald ich dann aber in die Dokumente wechsele, schraubt sich die CPU auf über 80% hoch und der Speicherverbrauch auf über 7Gb:

Im Hintergrund werden zu diesem Zeitpunkt keine Dokumente konsumiert, noch läuft irgendeine andere Task.

Melde ich mich ab oder beende die App dauert es 1-2 Minuten, ehe CPU-Last und RAM-Verbrauch wieder auf „normale“ Werte runtergehen.

Auch bei mir ist es eindeutig der Prozess „gunicorn : worker [paperless.asgi:application]“ im paperless-Container.
Die anderen Container (redis, tika, gotenberg) sind komplett unauffällig.

Ich hätte paperless-ngx eigentlich schon wieder deinstalliert, aber das Teil gefällt mir einfach viel zu gut! :heart_eyes:

@6road : hattest Du mit einem der Tipps Erfolg?

Gruß
Mario

Hallo Mario,

auch ich habe Paperless komplett deinstalliert und alles neu eingegeben
E-Mail und Gotenberg etc. entfernt, nur noch Paperless.
Heute habe ich einen Memtest durchgeführt, alles ok.
Die nächsten zwei Tage wird der Server ohne Paperless laufen, um zu schauen ob der RAM über 50% ansteigt.

Haben kleine Firmen auch das Problem?

Gruß

Joachim

Die Tipps habe ich ausprobiert, auch ohne Erfolg.
Dokumente wurden nicht mehr vernünftig konsumiert.

Gruß

Joachim

Das habe ich auch schon ausprobiert - solange ich mich nicht am Paperless-Server anmelde (egal ob über den Browser oder über die App auf dem Smartphone) sind die Werte absolut in Ordnung:

image

Alle Paperless-Container laufen:

Ich habe noch ein paar andere Container laufen, von daher passen die Werte.
Sobald ich mich anmelde und in die Dokumente wechsele gehen die Werte schlagartig hoch.

Wenn ich das richtig verstanden habe ist Gunicorn ja der HTTP-Server, über den paperless die GUI und die Daten bereitstellt.
Was mich wundert ist, dass dieses Problem scheinbar nicht bei allen auftritt.
Also muss es ja rein logisch mit der Konfiguration zu tun haben.

Das frage ich mich auch, vielleicht hat ja hier jemand Infos dazu

Moin zusammen :wink:

Ich habe jetzt paperless als Docker Projekt über den Container Manager installiert wie hier beschrieben:

An der Stelle vielen Dank an @ROIOS :slight_smile:

Was den RAM-Verbrauch im Leerlauf angeht scheint das jetzt deutlich stabiler zu laufen.
Auch wenn ich mich an der Oberfläche anmelde und in den Dokumenten bewege gibt es keinen sprunghaften Anstieg des Speicherverbrauchs mehr.
Beim Konsumieren gehen CPU und Speicherverbrauch natürlich hoch - wenn der Vorgang abgeschlossen ist, normalisieren sich die Werte aber sofort wieder.

Zum Testen habe ich gestern 60 Dokumente am Stück reingezogen, das hat fehlerfrei funktioniert.

In den Container-Einstellungen für den paperless-ngx-Container habe ich eine RAM-Beschränkung auf 4Gb eingestellt:

image

Moin,

danke für deine Hilfe.

Wir nutzen einen Unraid-Server (Artemis)!
Synology ist anders aufgebaut, daher müssten wir diese Konfiguration, wenn möglich, auf Unraid umschreiben.

Liebe Grüße

Joachim

Hi,

vlt. kannst Du den gleichen Effekt mit dem Parameter „mem_limit“ in der YAML-Datei erzielen:

Den Wert kannst Du ja anpassen auf z.B. „4g“.
cpu_shares habe ich bei mir in der YAML nicht gesetzt und auch sonst keine Parameter wie
PAPERLESS_TASK_WORKERS, PAPERLESS_THREADS_PER_WORKER etc.

Gruß
Mario

Hallo Mario,

wir haben den Fehler gefunden.

Die App Mover Tuning und eine Einstellung war das Problem.
„Andrew Zawadzki Modified by hugenbdd“ funktioniert bei mir!
Gunicorn hat nur den Speicher beansprucht.

Gruß

1 „Gefällt mir“

Dieses Thema wurde automatisch 2 Tage nach der letzten Antwort geschlossen. Es sind keine neuen Antworten mehr erlaubt.