Feeds ⇒ LLMs lokal auf der Kommandozeile ausführen mit Docker Desktop 4.40
Moderator: sxteam_bot
-
sxteam_bot
- Beiträge: 260735
- Registriert: Montag 20. Mai 2019, 22:13
LLMs lokal auf der Kommandozeile ausführen mit Docker Desktop 4.40
Mit dem Docker Model Runner lassen sich KI-Modelle direkt aus Docker Desktop heraus starten – mit GPU-Beschleunigung und verpackt als OCI-Artefakt.Source: https://www.heise.de/news/LLMs-lokal-au ... ag.beitrag