Die KI Landschaft entwickelt sich immer weiter und nix davon fühlt sich für mich intuitiv an. Aus diesem Grunde ein neuer Blogeintrag zur Einordnung von KI Begriffen. Heute ordnen wir ein: LM Studio, Ollama, llama.cpp, TabbyAPI ExLlamaV2/V3, vLLM,llama-swap,MLC LLM / MediaPipe und MLX. Inferenz-Engines Das wichtigste zuerst. Wenn wir ein LLM haben, dann wollen wir es auch laufen lassen. Dafür…
Kategorie: IT
Wer hat Angst vorm OOM-Killer?
Manchmal vergesse ich, warum frühere Programmierergenerationen so sparsam mit ihren Ressourcen umgegangen sind. OK, das stimmt jetzt auch nicht so 100%, die Microcontroller/IoT Leute machen immer noch einen unglaublichen Job, aus Hardware das letzte Quäntchen Leistung heraus zu drücken. Aber auf dem Desktop? Nein, nicht wirklich. Und vor der Chipkrise war es üblich sich einen neuen Rechner zu kaufen, falls…
Linux Symbolic und Hardlinks
Ich stand letztens vor der Aufgabe, ein Bashscript, das ich brav in git versioniere, auf meiner Linuxmaschine in /usr/local/bin zu "installieren". Und genaugenommen hatte ich dafür drei Möglichkeiten, das Script in den jeweiligen Ordner kopieren, einen symbolischen Link oder einen harten Link erstellen. Ich dachte mir, ich schreibe mal über die Vor- und Nachteile der jeweiligen Optionen. Kopieren Eine Datei…
Mein Firefox flackert!
Wer direkt zur Problembehebung möchte, klickt hier. Problem Ich hab ja schon einiges an komischen Verhalten von Software erlebt, aber dieser ist wirklich etwas anormal. Ich sitze also so da und arbeite in claude.ai und ich bekomme mit, dass mein Bildschirm leicht flackert. Dachte ich jedenfalls. System neu gestartet. Flackern war weg, aber kam später wieder. Weitere Sachen versucht, wie…
Youtube History oder Gemini Programmierung für Anfänger
Wie ich schon in anderen Blogposts geschrieben habe, ist es jetzt für mich an der Zeit mich mit KI in der Programmierung auseinanderzusetzen, ob ich das nun schön finde oder nicht. Und am besten ist, man übt am Beispiel. Unser heutiges Problem, das es zu lösen gilt: Ich sehe sehr gern YouTube und es hat sich da auch langsam eine…
Transformer, LoRA, RAG, MCP und andere LLM Begriffe eingeordnet
Der Text erklärt keine Grundlagen, er soll helfen die Begriffe in ein Netz einzuordnen, um dann die Möglichkeit zu geben, diese je nach Interesse zu vertiefen. Was genau ist ein LLM? Ein LLM kann grob so definiert werden. Es hat die Fähigkeit auf Grundlage von Wahrscheinlichkeiten Text zu generieren. Die meisten LLMs basieren auf der Transformertechnologie. Nicht alle Systeme mit…
screen das Kommandozeilentool kurz vorgestellt
screen ist eins der Programme, dass ich lieben gelernt habe, obwohl ich nur eine Fähigkeit des Programms wirklich nutze. Die Fähigkeit, ein Progamm selbst auf einer schlechten SSH Verbindung weiter laufen lassen zu können. Was ist screen? Wer screen nicht kennt, screen ist eine Art Windowmanager für die Konsole. Wobei Fenster hier eher im übertragenen Sinne gemeint sind, es ermöglicht…
Postgresdatenbanken mit dblink verbinden
Ich habe ein kleines RSS Projekt, in dem ich fleißig Daten sammle. Und jetzt mit fast 7 Millionen Einträgen wird mir langsam die Platte auf dem Server zu klein. Was tun? In dieser Miniserie stelle ich vor, welche Schritte ich unternehme um diesem Problem zu begegnen. Ich denke, dass ich die Datenbank in Partitionen aufteilen werde und dann nur die…
Spaß auf der Kommandozeile für Anfänger: Heutiges Thema grep.
Was macht grep? grep sucht Zeichen im Output. Output in der Konsole erzeugen Für alle, die sich nicht so mit der Kommandozeile auskennen, es gibt mehrere Möglichkeiten sich Textdateien auf der Kommandozeile anzeigen zu lassen. Ich denke, eine der bekanntesten ist cat: cat test.txt soll der Text am Bildschirm nicht nur vorbei scrollen, z.b. wie bei längeren Logs etc., gibt…
Nextcloud mit Docker auf der Kommandzeile updaten
Spickzettel: Nextcloud über einen Dockercontainer auf der Kommandozeile Updaten: 1. Dockerfile erstellen (Version mit Postgresql, für Mysql bitte anpassen) FROM ubuntu:22.04 ENV DEBIAN_FRONTEND=noninteractive RUN apt update RUN apt install -y –no-install-recommends php8.1 RUN apt install -y ca-certificates RUN apt install -y sudo RUN apt install -y php8.1-cli RUN apt install -y php8.1-common RUN apt install -y php8.1-zip RUN apt install…