LanguageModel: contextWindow-Eigenschaft
Eingeschränkt verfügbar
Diese Funktion ist nicht Baseline, da sie in einigen der am weitesten verbreiteten Browser nicht funktioniert.
Sicherer Kontext: Diese Funktion ist nur in sicheren Kontexten (HTTPS) in einigen oder allen unterstützenden Browsern verfügbar.
Die schreibgeschützte contextWindow-Eigenschaft der LanguageModel-Schnittstelle gibt die Gesamtanzahl der Kontextfenster-Token zurück, die für diese Sitzung verfügbar sind. Sie wird festgelegt, wenn die Sitzung erstellt wird, und ändert sich während der Lebensdauer der Sitzung nicht.
Vergleichen Sie contextWindow mit contextUsage, um zu bestimmen, wie viele Token noch verbleiben. Verwenden Sie measureContextUsage(), um zu schätzen, wie viele Token ein neuer Prompt verbrauchen würde, bevor Sie ihn senden.
Der Wert ist implementierungsspezifisch und variiert je nach Modell, Gerätefähigkeiten und Konfiguration der Sitzung. Ein Wert von Infinity weist darauf hin, dass der Benutzeragent keine feste Begrenzung auferlegt.
Wert
Eine Zahl, die die Kapazität des Kontextfensters der Sitzung in Token darstellt. Dieser Wert kann Infinity sein, wenn der Benutzeragent keine spezifische Begrenzung über den verfügbaren Speicher oder JavaScript-String-Beschränkungen hinaus auferlegt.
Beispiele
Warnung, wenn der Kontext fast voll ist
Das folgende Beispiel verwendet eine Funktion, um zu überprüfen, ob Kontext verfügbar ist, bevor LanguageModel.prompt() aufgerufen wird. Es berechnet zuerst den verbleibenden Kontext und übergibt diesen Wert an measureContextUsage(). Wenn needed kleiner oder gleich remaining ist, gibt es true zurück und die Sitzung wird fortgesetzt.
const promptText = "Let me ask you an interesting question...";
const session = await LanguageModel.create();
async function contextAvailable(promptText) {
if (session.contextWindow === Infinity) {
return true;
}
const remaining = session.contextWindow - session.contextUsage;
const needed = await session.measureContextUsage(promptText);
return needed <= remaining;
}
if (await contextAvailable(promptText)) {
const response = await session.prompt(promptText);
console.log(response);
} else {
console.warn("Prompt skipped: Not enough context window remaining.");
}
Spezifikationen
| Spezifikation |
|---|
| Prompt API # dom-languagemodel-contextwindow |