Ich hatte letztens das Problem, dass ich eine Website speichern wollte. Natürlich gibt es im Browser "Webseite speichern" oder gar "Webseite drucken". Leider kann es vorkommen, dass dort nicht die aktuellen Änderungen im DOM mit gespeichert werden. Vor allem bei einer Website, die aktiv versucht, nicht gespeichert zu werden. Jedoch sagt eine alte Cyber Security Weisheit, was einmal auf dem…
Kategorie: IT
Ollama, llama.cpp, vLLM, eine Einordnung
Die KI Landschaft entwickelt sich immer weiter und nix davon fühlt sich für mich intuitiv an. Aus diesem Grunde ein neuer Blogeintrag zur Einordnung von KI Begriffen. Heute ordnen wir ein: LM Studio, Ollama, llama.cpp, TabbyAPI ExLlamaV2/V3, vLLM,llama-swap,MLC LLM / MediaPipe und MLX. Inferenz-Engines Das wichtigste zuerst. Wenn wir ein LLM haben, dann wollen wir es auch laufen lassen. Dafür…
Wer hat Angst vorm OOM-Killer?
Manchmal vergesse ich, warum frühere Programmierergenerationen so sparsam mit ihren Ressourcen umgegangen sind. OK, das stimmt jetzt auch nicht so 100%, die Microcontroller/IoT Leute machen immer noch einen unglaublichen Job, aus Hardware das letzte Quäntchen Leistung heraus zu drücken. Aber auf dem Desktop? Nein, nicht wirklich. Und vor der Chipkrise war es üblich sich einen neuen Rechner zu kaufen, falls…
Linux Symbolic und Hardlinks
Ich stand letztens vor der Aufgabe, ein Bashscript, das ich brav in git versioniere, auf meiner Linuxmaschine in /usr/local/bin zu "installieren". Und genaugenommen hatte ich dafür drei Möglichkeiten, das Script in den jeweiligen Ordner kopieren, einen symbolischen Link oder einen harten Link erstellen. Ich dachte mir, ich schreibe mal über die Vor- und Nachteile der jeweiligen Optionen. Kopieren Eine Datei…
Mein Firefox flackert!
Wer direkt zur Problembehebung möchte, klickt hier. Problem Ich hab ja schon einiges an komischen Verhalten von Software erlebt, aber dieser ist wirklich etwas anormal. Ich sitze also so da und arbeite in claude.ai und ich bekomme mit, dass mein Bildschirm leicht flackert. Dachte ich jedenfalls. System neu gestartet. Flackern war weg, aber kam später wieder. Weitere Sachen versucht, wie…
Youtube History oder Gemini Programmierung für Anfänger
Wie ich schon in anderen Blogposts geschrieben habe, ist es jetzt für mich an der Zeit mich mit KI in der Programmierung auseinanderzusetzen, ob ich das nun schön finde oder nicht. Und am besten ist, man übt am Beispiel. Unser heutiges Problem, das es zu lösen gilt: Ich sehe sehr gern YouTube und es hat sich da auch langsam eine…
Transformer, LoRA, RAG, MCP und andere LLM Begriffe eingeordnet
Der Text erklärt keine Grundlagen, er soll helfen die Begriffe in ein Netz einzuordnen, um dann die Möglichkeit zu geben, diese je nach Interesse zu vertiefen. Was genau ist ein LLM? Ein LLM kann grob so definiert werden. Es hat die Fähigkeit auf Grundlage von Wahrscheinlichkeiten Text zu generieren. Die meisten LLMs basieren auf der Transformertechnologie. Nicht alle Systeme mit…
screen das Kommandozeilentool kurz vorgestellt
screen ist eins der Programme, dass ich lieben gelernt habe, obwohl ich nur eine Fähigkeit des Programms wirklich nutze. Die Fähigkeit, ein Progamm selbst auf einer schlechten SSH Verbindung weiter laufen lassen zu können. Was ist screen? Wer screen nicht kennt, screen ist eine Art Windowmanager für die Konsole. Wobei Fenster hier eher im übertragenen Sinne gemeint sind, es ermöglicht…
Postgresdatenbanken mit dblink verbinden
Ich habe ein kleines RSS Projekt, in dem ich fleißig Daten sammle. Und jetzt mit fast 7 Millionen Einträgen wird mir langsam die Platte auf dem Server zu klein. Was tun? In dieser Miniserie stelle ich vor, welche Schritte ich unternehme um diesem Problem zu begegnen. Ich denke, dass ich die Datenbank in Partitionen aufteilen werde und dann nur die…
Spaß auf der Kommandozeile für Anfänger: Heutiges Thema grep.
Was macht grep? grep sucht Zeichen im Output. Output in der Konsole erzeugen Für alle, die sich nicht so mit der Kommandozeile auskennen, es gibt mehrere Möglichkeiten sich Textdateien auf der Kommandozeile anzeigen zu lassen. Ich denke, eine der bekanntesten ist cat: cat test.txt soll der Text am Bildschirm nicht nur vorbei scrollen, z.b. wie bei längeren Logs etc., gibt…