IT, LLM

Transformer, LoRA, RAG, MCP und andere LLM Begriffe eingeordnet

Der Text erklärt keine Grundlagen, er soll helfen die Begriffe in ein Netz einzuordnen, um dann die Möglichkeit zu geben, diese je nach Interesse zu vertiefen. Was genau ist ein LLM? Ein LLM kann grob so definiert werden. Es hat die Fähigkeit auf Grundlage von Wahrscheinlichkeiten Text zu generieren. Die meisten LLMs basieren auf der Transformertechnologie. Nicht alle Systeme mit…

Continue Reading

LLM

LLMs in der Cloud kostenlos ausführen.

Kostenlos ist ein schwieriges Wort in der KI-Welt, denn es kommt immer darauf an, was genau zu den Kosten gezählt wird. Ich werde mich hier auf Anbieter konzentrieren, die vorweg kein Geld verlangen und mit dem Claude Code in irgendeiner Weise zusammenarbeiten können sollte. Zur Einordnung des Ganzen noch ein Gedanke. Cloud vs. VPS/Grafikkartenmiete vs. Lokal Während man hart zwischen…

Continue Reading

LLM

Ollama mit Claude Code lokal installieren

Ollama hat es sehr einfach gemacht Claude Code lokal zum laufen zu bekommen. Claude Code ist die CLI Programmierentwicklungsumgebung von Anthropic, dass die Nutzung der LLMs von Anthropic vereinfacht. Eine Besonderheit des Programms ist, dass es ziemlich viele Schritte vorbereitet bevor überhaupt ein LLM involviert ist. Ollama ist eine von mehreren Möglichkeiten ein LLM lokal einzubinden und hat vor einiger…

Continue Reading

LLM, Meinung

KI oder nicht KI für die Programmierung

Röntgenstrahlung, tolles Zeug, super praktische Anwendung, die unzählige Leben gerettet und verbessert hat, erzeugt in der Dauernutzung leider Krebs. Ich versuche hier nicht den Überblick zu behalten, jedoch die Frage die ich stelle ist, wie kann oder muss ich als Entwickler mit KI interagieren um noch erfolgreich zu sein. Status Quo Die Frage ist nicht mehr ob, sondern wie nutze…

Continue Reading