DistributedCachingChatClient Klasse

Definition

Ein delegierender Chatclient, der die Ergebnisse von Antwortaufrufen zwischenspeichert und als JSON in einem IDistributedCache.

public ref class DistributedCachingChatClient : Microsoft::Extensions::AI::CachingChatClient
public class DistributedCachingChatClient : Microsoft.Extensions.AI.CachingChatClient
type DistributedCachingChatClient = class
    inherit CachingChatClient
Public Class DistributedCachingChatClient
Inherits CachingChatClient
Vererbung
DistributedCachingChatClient

Hinweise

Die DistributedCachingChatClient JSON-Serialisierung wird als Teil des Speicherns zwischengespeicherter Daten verwendet. Es ist nicht gewährleistet, dass die von , ChatOptions, ChatResponse, , ChatResponseUpdateoder eines der anderen Objekte in der Chatclientpipeline verwendeten ChatMessageObjektmodelle die JSON-Serialisierung mit voller Genauigkeit runden. Beispielsweise RawRepresentation werden Werte ignoriert, und Object Werte werden AdditionalProperties als deserialisiert JsonElement und nicht als ursprünglicher Typ. Im Allgemeinen sollte die Verwendung DistributedCachingChatClient von Code nur auf Daten zugreifen, die durch JSON-Serialisierung und Deserialisierung gut genug beibehalten werden können.

Die bereitgestellte Implementierung IChatClient ist threadsicher für die gleichzeitige Verwendung, solange der verwendete IDistributedCache threadsicher für die gleichzeitige Verwendung ist.

Konstruktoren

Name Beschreibung
DistributedCachingChatClient(IChatClient, IDistributedCache)

Initialisiert eine neue Instanz der DistributedCachingChatClient-Klasse.

Eigenschaften

Name Beschreibung
CacheKeyAdditionalValues

Ruft zusätzliche Werte ab, die verwendet werden, um den cacheschlüssel zu informieren, der zum Speichern des Zustands verwendet wird, oder legt diese fest.

CoalesceStreamingUpdates

Dient zum Abrufen oder Festlegen eines Werts, der angibt, ob Streamingupdates zusammengeklammert werden.

(Geerbt von CachingChatClient)
InnerClient

Ruft das innere IChatClientab.

(Geerbt von DelegatingChatClient)
JsonSerializerOptions

Ruft die JSON-Serialisierungsoptionen ab, die beim Serialisieren von Cachedaten verwendet werden sollen, oder legt diese fest.

Methoden

Name Beschreibung
Dispose()

Führt anwendungsdefinierte Aufgaben aus, die mit dem Freigeben, Freigeben oder Zurücksetzen nicht verwalteter Ressourcen verknüpft sind.

(Geerbt von DelegatingChatClient)
Dispose(Boolean)

Stellt einen Mechanismus zum Freigeben nicht verwalteter Ressourcen bereit.

(Geerbt von DelegatingChatClient)
EnableCaching(IEnumerable<ChatMessage>, ChatOptions)

Bestimmt, ob zwischenspeichern mit der angegebenen Anforderung verwendet werden soll.

(Geerbt von CachingChatClient)
GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>)

Berechnet einen Cacheschlüssel für die angegebenen Werte.

GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Ein delegierender Chatclient, der die Ergebnisse von Antwortaufrufen zwischenspeichert und als JSON in einem IDistributedCache.

(Geerbt von CachingChatClient)
GetService(Type, Object)

Fragt nach IChatClient einem Objekt des angegebenen Typs serviceType.

(Geerbt von DelegatingChatClient)
GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Ein delegierender Chatclient, der die Ergebnisse von Antwortaufrufen zwischenspeichert und als JSON in einem IDistributedCache.

(Geerbt von CachingChatClient)
ReadCacheAsync(String, CancellationToken)

Gibt einen zuvor zwischengespeicherten ChatResponseWert zurück, falls verfügbar. Dies wird verwendet, wenn ein Aufruf erfolgt GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

ReadCacheStreamingAsync(String, CancellationToken)

Gibt eine zuvor zwischengespeicherte Liste von ChatResponseUpdate Werten zurück, falls verfügbar. Dies wird verwendet, wenn ein Aufruf erfolgt GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

WriteCacheAsync(String, ChatResponse, CancellationToken)

Speichert einen ChatResponse im zugrunde liegenden Cache. Dies wird verwendet, wenn ein Aufruf erfolgt GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken)

Speichert eine Liste von ChatResponseUpdate Werten im zugrunde liegenden Cache. Dies wird verwendet, wenn ein Aufruf erfolgt GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

Erweiterungsmethoden

Name Beschreibung
AsBuilder(IChatClient)

Erstellt eine neue ChatClientBuilder Verwendung innerClient als inneren Client.

GetRequiredService(IChatClient, Type, Object)

Fragt nach IChatClient einem Objekt des angegebenen Typs serviceType und löst eine Ausnahme aus, wenn eine nicht verfügbar ist.

GetRequiredService<TService>(IChatClient, Object)

Fragt nach IChatClient einem Objekt vom Typ TService und löst eine Ausnahme aus, wenn ein Objekt nicht verfügbar ist.

GetResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Sendet eine Chatnachricht und gibt die Antwortnachrichten zurück.

GetResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Sendet eine Benutzerchattextnachricht und gibt die Antwortnachrichten zurück.

GetResponseAsync<T>(IChatClient, ChatMessage, ChatOptions, Nullable<Boolean>, CancellationToken)

Sendet eine Chatnachricht, die eine Antwort anfordert, die dem Typ Tentspricht.

GetResponseAsync<T>(IChatClient, ChatMessage, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Sendet eine Chatnachricht, die eine Antwort anfordert, die dem Typ Tentspricht.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, ChatOptions, Nullable<Boolean>, CancellationToken)

Sendet Chatnachrichten und fordert eine Antwort an, die dem Typ Tentspricht.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Sendet Chatnachrichten und fordert eine Antwort an, die dem Typ Tentspricht.

GetResponseAsync<T>(IChatClient, String, ChatOptions, Nullable<Boolean>, CancellationToken)

Sendet eine Benutzerchattextnachricht, die eine Antwort anfordert, die dem Typ Tentspricht.

GetResponseAsync<T>(IChatClient, String, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Sendet eine Benutzerchattextnachricht, die eine Antwort anfordert, die dem Typ Tentspricht.

GetService<TService>(IChatClient, Object)

Fragt nach IChatClient einem Objekt vom Typ TService.

GetStreamingResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Sendet eine Chatnachricht und streamt die Antwortnachrichten.

GetStreamingResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Sendet eine Benutzerchattextnachricht und streamt die Antwortnachrichten.

Gilt für: