KI lokal mit vLLM selber betreiben

KI Modelle lokal selber betreiben? Klappt mit guter Grafikkarte und vLLM auch für kleine Arbeitsgruppen oder im Produktivbetrieb, Datenkontrolle und Kostenrisiko inklusive. In meinem Beitrag für das aktuelle iX-Magazin 8/2025 findet ihr eine kleine Anleitung mit Beispielen und Fallstricken.