Auf den Punkt: datasette-llm-limits erlaubt Administratoren, tägliche Ausgabenlimits für LLM-API-Aufrufe in Datasette zu definieren und so die Kosten zu kontrollieren.
Ein neues Plugin für Datasette ermöglicht es, Ausgabengrenzen für die LLM-Nutzung festzulegen – entweder pro Benutzer oder global. Die Konfiguration erfolgt über das Datasette-Plugin-System.
Das Plugin datasette-llm-limits integriert sich mit den bestehenden Extensions datasette-llm und datasette-llm-accountant. Es ermöglicht die Festlegung von Ausgabengrenzen für die Nutzung von Large Language Models innerhalb einer Datasette-Instanz.
Die Limits können granular konfiguriert werden: entweder pro Benutzer (basierend auf dem Actor-Objekt) oder global für die gesamte Instanz. Die aktuelle Beispielkonfiguration zeigt ein tägliches Limit von 1,00 USD pro Benutzer im rollierenden 24-Stunden-Fenster. Dies wird über die Datasette-Konfigurationsdatei definiert, etwa unter dem Schlüssel limits mit den Unterparametern scope, window und amount_usd.
Für Praktiker ist diese Kontrollfunktion relevant, um unkontrollierte API-Kosten zu vermeiden. Insbesondere bei Multi-Tenant-Setups oder gemeinsam genutzten Datasette-Instanzen schützt ein solches Limit vor Überraschungen in der Abrechnung. Die Integration mit datasette-llm-accountant deutet darauf hin, dass Nutzung bereits gemessen wird und nun auch begrenzt werden kann.
Quelle: ainews-dev.lumi-systems.io · Erschienen 15. Mai 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.5.2.