Umgang mit KI-Inhalten hier im Forum ("AI Slop")

Neuigkeiten
1

Hallo zusammen,

wie ihr vermutlich mitbekommt, nimmt „AI-Slop“ aktuell auf vielen Plattformen (LinkedIn in meinen Augen ganz vorne) massiv zu.
Was ist das? Das sind Texte, die nicht mehr von Menschen, sondern von ChatGPT und Co geschrieben sind. Vielleicht geht es nur mir so, aber ich sehe sowas sofort und mich stört es massiv, weil wir Menschen ja am Ende alle unsere Ecken und Kanten haben und das für mich für die Unterhaltungen in Foren mit dazugehört.

Ich will nicht, dass mein AI-Agent mit deinem AI-Agent spricht, ich möchte den Kontakt von Menschen untereinander und die damit einhergehenden Texte gerne bewahren.

Für mich spricht nichts gegen die Anwendung von KI zur Vorstrukturierung von Texten oder auch zur Entwicklung von Software (wenn man selbst aus der Branche kommt und versteht, was passiert!), wohl aber gegen komplett KI-generierte Texte bzw. Code.

Und bevor ich das von oben herab entscheide, möchte ich gerne eure Meinung zu dem Thema hören.

Mein aktueller Standpunkt ist:

  • Ich möchte keine rein KI-generierten Texte hier im Forum sehen
  • Ich möchte keine Links zu Vibe-Coded Apps sehen (teils brandgefährlich und weniger versierte Anwender können das nicht unterscheiden)

Bitte nicht falsch verstehen, ich befürworte es sehr, dass wir eine aktive Community sind, in der man sich gegenseitig hilft, aber wenn es technisch gesehen gefährlich wird, sind wir als Betreiber auch einer gewissen Verantwortung ausgesetzt.

Schreibt mir gern eure Meinung dazu.

1 „Gefällt mir“
3

Moin Stefan,

ich finde es schwer gut, dass du das Thema Umgang mit KI im Forum ansprichst.

Seit Februar 2024 bin ich im Forum aktiv und schätze den Austausch und das Wissen der Mitglieder im Forum. Oft wurde mir geholfen, wenn ich nicht mehr weitergekommen bin und mit der Zeit habe ich auch anderen Mitgliedern Hilfe geben können.

Ich teile deinen Standpunkt und finde dies sehr gut.

Viele Grüße Michael

4

ACHTUNG, ACHTUNG,ACHTUNG dies ist KI generierter Text, wer also Probleme damit hat sollte diesen POST nicht lesen!!!

Hallo zusammen,

ich kann die Bedenken verstehen, möchte aber gerne eine andere Perspektive einbringen: KI als Werkzeug zur Effizienzsteigerung.

Für mich ist KI wie eine IDE beim Programmieren: Sie nimmt mir nicht das Denken ab, aber sie hilft mir, meine Gedanken schneller und strukturierter auf „Papier“ zu bringen. Wenn ich an komplexen Setups arbeite (wie meinem Dual-Node Paperless-System, das mittlerweile über 4200 Dokumente verarbeitet hat), investiere ich sehr viel Zeit in Code, Architektur und Troubleshooting. Zeit ist mein wertvollstes Gut.

Wenn ich dann mein Wissen hier im Forum teile, nutze ich KI, um meine Notizen und Lösungswege so auszuformulieren, dass sie für andere klar und verständlich sind. Die KI korrigiert Tippfehler, optimiert den Ausdruck und spart mir schlichtweg Zeit – Zeit, die ich dann wieder in die Weiterentwicklung technischer Lösungen stecken kann, von denen die Community letztlich wieder profitiert. Der inhaltliche Kern, das Fachwissen und die Lösung stammen von mir, nicht von der KI.

Den Punkt mit dem „Vibe-Coded Apps“ verstehe ich, wenn absolute Anfänger fertigen Code zusammenkopieren, ohne ihn zu verstehen. Das ist gefährlich. Aber wenn jemand aus der IT kommt und KI nutzt, um fundiertes Fachwissen effizienter zu transportieren, sehe ich das als Gewinn.

Vielleicht sollten wir differenzieren zwischen „KI als Ersatz für Fachwissen“ (das führt zu dem genannten „Slop“) und „KI als Werkzeug für Experten, um Wissen schneller und sauberer zu teilen“.

Zudem finde ich es interessant, dass einerseits komplett KI-generierte Antworten kritisch gesehen werden, andererseits aber eine eigene Foren-KI (Marco-DMK) aktiv ist, die – ob sinnvoll oder nicht – wahrscheinlich aus dem “Forenwissen” zusammengefasste Antworten gibt. Letztendlich ist das ja ein ähnlicher Ansatz: Die KI fasst (hoffentlich) geprüftes Wissen zusammen, um schneller helfen zu können.

KI-Tetxt zu ände (Rechtschreibfehler bewusst eingefügt, so doof kann KI nicht schreiben)

Grüße Heiko

5

Hallo Michael und Heiko,

danke für eure ehrliche Meinung!

Und genau so soll es sein, danke dir!

Das verstehe ich absolut, danke für das Statement. Wenn es nur Tippfehler oder leichte Umformulierungen sind, habe ich damit kein Problem, aber ich sehe oft (nicht nur hier, sondern auch auf LinkedIn und Co) ganze Beiträge, die aus einem Prompt wie „Fass mir mal Thema xyz zusammen, das Repo kennst du ja, ich will XYZ zum Ausdruck bringen“ stammen.

Absolut. Um das von außen korrekt beurteilen zu können, braucht man aber eine ganze Menge Erfahrung und Zeit. Daher mein Vorschlag, den ich auch mit @ab_news schon 1:1 besprochen habe, dass wir solche Repos in eine geschlossene Gruppe packen, jeder bekommt freien Zugang nach einer kurzen Bestätigung, dass das auf eigenes Risiko passiert.

Da muss ich intervenieren. Marco ist ein echter Mitarbeiter, lediglich ein paar der letzten Beiträge wurden wie von dir durch KI „geglättet“. Wir haben das intern schon besprochen und es wird nicht mehr so gehandhabt.
Die einzigen „echten“ KI-Beiträge sind automatische Video-Teaser, dort ist es aber deutlich gekennzeichnet.

6

Ich habe eher ein Problem wirre Beiträge zu verstehen und würde mir wünschen man nähme sich mehr Zeit fürs schreiben und Korrekturlesen bzw. Lässt die KI final nochmal laufen oder die Korrektur… ABER es gibt auch “Erkrankungen” ( wurde ich jetzt nicht so bezeichnen wollen ) die ich jetzt mal als Neurodivergenz bezeichne die das so mit sich bringen ( umgangssprachlich als A(A)D(H)S oder einfach Autismus-Spektrum bezeichnet ).

Der eine oder andere wird sich jetzt vielleicht selbst ertappt fühlen aber Du bist hier nicht ganz alleine :grin: eher im Gegenteil…

KI kann viel gutes bewirken nur man sollte es nicht übertreiben und mit bedacht benutzt werden.

7

Gibt es nicht mittlerweile sogar ein Gesetz wo KI-Generierte Texte/Bilder/Videos eindeutig gekennzeichnet werden ?

Ich sehe den Einsatz von KI sehr gepalten.
Es hat mir geschäftlich schon einiges gebracht wie große Datenmengen auswerten.
Privat beschäftigt mich das auch immer mehr.
Ja, ich nehme auch KI zu Hilfe. Verstehen was passiert ist aber auch sehr wichtig.
Beispiel Paperless und RAG Datenbank, ein Vergleich zweier Systeme… beide mit KI-”ge-vibed”.
Keine Verurteilung. Nur eine Analyse:

Chunking KEINS — 1 Embedding pro Dokument (erste 1500 Zeichen!) 1600 Zeichen, 250 Overlap, Seitenzahl-Tracking
Vector DB ChromaDB, Single Vector, kein Hybrid Qdrant Named Vectors: dense + BM25 sparse
Hybrid Search Nein RRF Fusion (Dense + BM25)
Multi-Query Nein 3 LLM-generierte Varianten
Reranker Nein LLM-Reranker (Top 20 → Top 8)
Metadata im Embedding Nein Typ, Korrespondent, Tags, Datum
Asymmetrische Prefixe Nein (nutzen nomic-embed-text falsch!) search_document: / search_query:
Summary-Augmented Nein LLM-Summary pro Dokument
OpenWebUI Integration CRUD-Tool (kein RAG) + Streamlit-App (200 Zeichen Preview!) Vollständige Filter+Pipe Pipeline

Es gibt auch sehr viele Pipelines für OpenWebui zum Thema DSGVO… bei genauerem check sind nur ein paar Schlagworte drin die ersetzt werden. Sowas könnte ich niemals aus guten Gewissen veröffentlichen.

Ja, das “vibe-coded” ist sehr gefährlich wenn man noch nicht mal im Ansatz weiß, was man tut.
Und das gibt es leider viel zu häufig. Auch wenn es eine Lernkurve geben wird. Hoffentlich.
Wenn das SCript/Tool/App was auch immer mal draußen ist nehmen es noch unerfahrenere Personen. Reddit hat da viele Beispiele.

Oder manche Tools/Scripte werden sehr euphorisch beworben/beschrieben (Klar, die KI ist immer sehr euphorisch ohne kritischen Systemprompt :wink: ).
Hauptsache es läuft, Sicherheit ? Fehlanzeige. Wenigstens mal mit einem Schwachstellentester prüfen wenn es entsprechende Schnittstellen gibt…. sowas dauert aber Stunden.

Ich hoffe der Hype legt sich irgendwann.

1 „Gefällt mir“
8

Hallo,

wenn ich KI-Texte lesen will, befrage ich direkt einen Chatbot. Wenn ich hier im Forum lese oder schreibe, hat das seinen Grund, nämlich dass ich keine generischen Inhalte, sondern über Wissen, Erfahrung und Probleme von Menschen, die mit Paperless arbeiten lesen kann.

Darum: Wenn überhaupt KI-Texte, dann hier bitte nur als Zitat mit menschlicher Einordnung.

Gruß

Andreas

1 „Gefällt mir“