Auf den Punkt: Das llm-gemini-Plugin erhält in Version 0.32a0 Unterstützung für Streaming von Reasoning-Tokens zur Echtzeitbeobachtung von Modelldenkvorgängen.
Das LLM-Plugin llm-gemini ist in Version 0.32a0 erschienen und ermöglicht ab sofort das Streaming von Reasoning-Tokens bei der Nutzung von Google Gemini Modellen. Die Kompatibilität setzt llm >= 0.32a0 voraus.
Das llm-gemini-Plugin erlaubt Praktikern den Zugriff auf die Google Gemini Modellfamilie über das LLM-Ökosystem. Mit der Version 0.32a0 wird eine neue Funktionalität hinzugefügt: das Streaming von Reasoning-Tokens.
Reasoning-Tokens sind Zwischenausgaben, die das Modell während seiner Denkprozesse produziert. Durch das Streaming dieser Tokens können Nutzer in Echtzeit nachvollziehen, wie das Modell zu seinen Antworten gelangt, statt erst auf die vollständige Antwort zu warten.
Das Update erfordert mindestens die llm-Version 0.32a0 (Alpha). Für Practitioner, die Gemini-Modelle über das LLM-Tool nutzen, stellt dies eine verbesserte Debugging- und Nachvollziehungsmöglichkeit dar.
Quelle: ainews-dev.lumi-systems.io · Erschienen 19. Mai 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.5.2.