DistributedCachingChatClient Klasse
Definition
Wichtig
Einige Informationen beziehen sich auf Vorabversionen, die vor dem Release ggf. grundlegend überarbeitet werden. Microsoft übernimmt hinsichtlich der hier bereitgestellten Informationen keine Gewährleistungen, seien sie ausdrücklich oder konkludent.
Ein delegierender Chatclient, der die Ergebnisse von Antwortaufrufen zwischenspeichert und als JSON in einem IDistributedCache.
public ref class DistributedCachingChatClient : Microsoft::Extensions::AI::CachingChatClient
public class DistributedCachingChatClient : Microsoft.Extensions.AI.CachingChatClient
type DistributedCachingChatClient = class
inherit CachingChatClient
Public Class DistributedCachingChatClient
Inherits CachingChatClient
- Vererbung
Hinweise
Die DistributedCachingChatClient JSON-Serialisierung wird als Teil des Speicherns zwischengespeicherter Daten verwendet. Es ist nicht gewährleistet, dass die von , ChatOptions, ChatResponse, , ChatResponseUpdateoder eines der anderen Objekte in der Chatclientpipeline verwendeten ChatMessageObjektmodelle die JSON-Serialisierung mit voller Genauigkeit runden. Beispielsweise RawRepresentation werden Werte ignoriert, und Object Werte werden AdditionalProperties als deserialisiert JsonElement und nicht als ursprünglicher Typ. Im Allgemeinen sollte die Verwendung DistributedCachingChatClient von Code nur auf Daten zugreifen, die durch JSON-Serialisierung und Deserialisierung gut genug beibehalten werden können.
Die bereitgestellte Implementierung IChatClient ist threadsicher für die gleichzeitige Verwendung, solange der verwendete IDistributedCache threadsicher für die gleichzeitige Verwendung ist.
Konstruktoren
| Name | Beschreibung |
|---|---|
| DistributedCachingChatClient(IChatClient, IDistributedCache) |
Initialisiert eine neue Instanz der DistributedCachingChatClient-Klasse. |
Eigenschaften
| Name | Beschreibung |
|---|---|
| CacheKeyAdditionalValues |
Ruft zusätzliche Werte ab, die verwendet werden, um den cacheschlüssel zu informieren, der zum Speichern des Zustands verwendet wird, oder legt diese fest. |
| CoalesceStreamingUpdates |
Dient zum Abrufen oder Festlegen eines Werts, der angibt, ob Streamingupdates zusammengeklammert werden. (Geerbt von CachingChatClient) |
| InnerClient |
Ruft das innere IChatClientab. (Geerbt von DelegatingChatClient) |
| JsonSerializerOptions |
Ruft die JSON-Serialisierungsoptionen ab, die beim Serialisieren von Cachedaten verwendet werden sollen, oder legt diese fest. |
Methoden
| Name | Beschreibung |
|---|---|
| Dispose() |
Führt anwendungsdefinierte Aufgaben aus, die mit dem Freigeben, Freigeben oder Zurücksetzen nicht verwalteter Ressourcen verknüpft sind. (Geerbt von DelegatingChatClient) |
| Dispose(Boolean) |
Stellt einen Mechanismus zum Freigeben nicht verwalteter Ressourcen bereit. (Geerbt von DelegatingChatClient) |
| EnableCaching(IEnumerable<ChatMessage>, ChatOptions) |
Bestimmt, ob zwischenspeichern mit der angegebenen Anforderung verwendet werden soll. (Geerbt von CachingChatClient) |
| GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>) |
Berechnet einen Cacheschlüssel für die angegebenen Werte. |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Ein delegierender Chatclient, der die Ergebnisse von Antwortaufrufen zwischenspeichert und als JSON in einem IDistributedCache. (Geerbt von CachingChatClient) |
| GetService(Type, Object) |
Fragt nach IChatClient einem Objekt des angegebenen Typs |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Ein delegierender Chatclient, der die Ergebnisse von Antwortaufrufen zwischenspeichert und als JSON in einem IDistributedCache. (Geerbt von CachingChatClient) |
| ReadCacheAsync(String, CancellationToken) |
Gibt einen zuvor zwischengespeicherten ChatResponseWert zurück, falls verfügbar. Dies wird verwendet, wenn ein Aufruf erfolgt GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| ReadCacheStreamingAsync(String, CancellationToken) |
Gibt eine zuvor zwischengespeicherte Liste von ChatResponseUpdate Werten zurück, falls verfügbar. Dies wird verwendet, wenn ein Aufruf erfolgt GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheAsync(String, ChatResponse, CancellationToken) |
Speichert einen ChatResponse im zugrunde liegenden Cache. Dies wird verwendet, wenn ein Aufruf erfolgt GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken) |
Speichert eine Liste von ChatResponseUpdate Werten im zugrunde liegenden Cache. Dies wird verwendet, wenn ein Aufruf erfolgt GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |