Details
Kategorie: KI

Tutorial

Speedup für lokale KI: Qwen & llama.cpp, wie sie wirklich schnell laufen

Ein lokales System mit AMD R9700, Qwen 3.8 und zwei Agent-Harnesses – und die beiden Fixes, die es endlich flüssig machen.

Zwei Probleme machen das Tempo kaputt: Ein Bug in llama.cpp verliert den MTP-Träger beim Cache-Checkpoint – er tritt auch ohne Parallelität auf. Und wenn pi und Hermes parallel laufen, vergleicht llama.cpp die Anfragen im Prompt-Cache manchmal falsch: Es erkennt nicht, dass der Prompt schon im Cache liegt, und verarbeitet ihn komplett neu. Genau dafür gibt es die beiden Begleit-Artikel:

MTP-Fix für llama.cpp →

Session-Slot-Router →

Weiterlesen: Speedup für lokale KI: Qwen & llama.cpp, wie sie wirklich schnell laufen

Details
Kategorie: Computer

Tutorial

vnc-wayland mit Script-Listener für KDE Plasma unter Wayland

Ein Setup, das krfb – KDEs eigenes Remote-Desktop-Framework – direkt in einer KDE-Plasma-Sitzung unter Wayland laufen lässt: Bildaufnahme und Eingaben laufen vollständig über das KDE-Portal, während ein kleiner Script-Listener das Display aufweckt und jede Verbindung an krfb weiterleitet.

vnc kde

Wie ihr wahrscheinlich bereits festgestellt habt, ist Remote-Desktop unter Wayland nicht einfach nur eine Frage von „Dienst starten und verbinden“. Genau an diesem Punkt setzt das vnc-wayland-Setup an.

Der Unterschied zu klassischen Setups besteht hier nicht nur darin, dass unter Wayland kein normales X11-Framebuffer mehr direkt zur Verfügung steht. Der eigentliche Punkt ist, dass krfb selbst die Bildaufnahme und die Eingabebehandlung über das KDE-Portal und PipeWire erledigt – ohne rawfb-Datei, ohne separaten x11vnc-Prozess. Einzige übrige Aufgabe ist ein kleiner Listener, der die VNC-Verbindung annimmt, ein schlafendes Display aufweckt und die Verbindung an den internen krfb-Port weiterleitet.

Weiterlesen: vnc-wayland mit Script-Listener für KDE Plasma unter Wayland

Details
Kategorie: Docker

Tutorial

Docker-Samba Setup mit Rechteverwaltung für den Raspberry Pi

Ein pragmatisches Docker-Samba-Setup, bei dem Gruppen, Benutzer und Freigaben zentral über die compose.yaml beschrieben werden, damit interne Netzfreigaben sauber und konsistent auf dieselben Host-Verzeichnisse zugreifen können.

docker sambaWie ihr wahrscheinlich bereits festgestellt habt, ist ein internes Samba-Setup schnell aufgesetzt, wird aber unübersichtlich, sobald mehrere Freigaben, Benutzer, Gruppen und unterschiedliche Zuständigkeiten zusammenkommen. Genau an diesem Punkt setzt dieses Docker-Samba-Setup an.

Der Unterschied zu vielen einfachen Samba-Containern besteht hier nicht nur darin, dass ein einzelner Share freigegeben wird, sondern dass Gruppen, Benutzer und Freigaben direkt über die Startparameter aufgebaut werden. Dadurch lässt sich die Konfiguration vergleichsweise kompakt halten, auch wenn mehrere Verzeichnisse mit unterschiedlichen Zugriffsregeln eingebunden werden.

Weiterlesen: Docker-Samba Setup mit Rechteverwaltung für den Raspberry Pi

Details
Kategorie: Docker

Tutorial

Docker-LAMP Tutorial mit pragmatischer Rechtebehandlung

Ein lokales Docker-LAMP-Setup, bei dem Apache und Host-Benutzer mit denselben Dateien arbeiten können, ohne ständig an Besitzern, Gruppen oder Root-Rechten zu scheitern.

docker lampWie ihr wahrscheinlich bereits festgestellt habt, ist das Rechtemanagement zwischen Docker-Containern und Host-Benutzern eine heikle Angelegenheit. Genau an diesem Punkt setzt dieses Docker-LAMP-Setup an.

Der Unterschied zu vielen anderen LAMP-Containern besteht hier nicht in einer exotischen Architektur, sondern in der Rechtebehandlung. Bei diesem LAMP-Setup setzt der Apache-Server automatisch die Rechte auf 777 beim Erstellen von Dateien. Dies geschieht durch die Verwendung von umask. Dadurch lassen sich Dateien auf dem Host leichter ohne root bearbeiten.

Weiterlesen: Docker-LAMP Tutorial mit pragmatischer Rechtebehandlung