ContentHarmEvaluator Klasse

Definition

Namespace:
Microsoft.Extensions.AI.Evaluation.Safety
Assembly:
Microsoft.Extensions.AI.Evaluation.Safety.dll
Paket:
Microsoft.Extensions.AI.Evaluation.Safety v10.7.0-preview.1.26309.5
Quelle:
ContentHarmEvaluator.cs

Eine IEvaluator, die den Azure AI Foundry Auswertungsdienst verwendet, um Antworten zu bewerten, die von einem KI-Modell für das Vorhandensein einer Vielzahl von schädlichen Inhalten wie Gewalt, Hassrede usw. erzeugt wurden.

public ref class ContentHarmEvaluator : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluator
public class ContentHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluator
type ContentHarmEvaluator = class
    inherit ContentSafetyEvaluator
Public Class ContentHarmEvaluator
Inherits ContentSafetyEvaluator
Vererbung
Object
ContentSafetyEvaluator
ContentHarmEvaluator
Abgeleitet

Hinweise

ContentHarmEvaluator kann verwendet werden, um Antworten für alle unterstützten Metriken für Inhaltsschäden in einem Einzigen auszuwerten. Sie können dies erreichen, indem Sie den metricNames Parameter weglassen.

ContentHarmEvaluator dient auch als Basisklasse für HateAndUnfairnessEvaluator, ViolenceEvaluatorund SelfHarmEvaluatorSexualEvaluator die verwendet werden kann, um Antworten für eine bestimmte Inhaltsschädigungsmetrik gleichzeitig auszuwerten.

Konstruktoren

Name Beschreibung
ContentHarmEvaluator(IDictionary<String,String>)

Eine IEvaluator, die den Azure AI Foundry Auswertungsdienst verwendet, um Antworten zu bewerten, die von einem KI-Modell für das Vorhandensein einer Vielzahl von schädlichen Inhalten wie Gewalt, Hassrede usw. erzeugt wurden.

Eigenschaften

Name Beschreibung
EvaluationMetricNames

Ruft die Names der EvaluationMetricvon diesem IEvaluatorerzeugten s ab.

(Geerbt von ContentSafetyEvaluator)

Methoden

Name Beschreibung
EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Eine IEvaluator, die den Azure AI Foundry Auswertungsdienst verwendet, um Antworten zu bewerten, die von einem KI-Modell für das Vorhandensein einer Vielzahl von schädlichen Inhalten wie Gewalt, Hassrede usw. erzeugt wurden.
EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken)

Wertet die bereitgestellte modelResponse mithilfe des Azure AI Foundry Auswertungsdiensts aus und gibt einen EvaluationResult zurück, der mindestens einen EvaluationMetrics enthält.

(Geerbt von ContentSafetyEvaluator)
FilterAdditionalContext(IEnumerable<EvaluationContext>)

Filtert die EvaluationContextvom Aufrufer bereitgestellten Daten nach additionalContext unten bis zu den s, die EvaluationContextfür die auswertung relevant sind, die von diesem ContentSafetyEvaluatorausgeführt wird.

(Geerbt von ContentSafetyEvaluator)

Erweiterungsmethoden

Name Beschreibung
EvaluateAsync(IEvaluator, ChatMessage, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Wertet den angegebenen modelResponse Wert aus und gibt ein enthaltenes oder EvaluationResultmehrere EvaluationMetric s zurück.
EvaluateAsync(IEvaluator, ChatMessage, ChatMessage, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Wertet den angegebenen modelResponse Wert aus und gibt ein enthaltenes oder EvaluationResultmehrere EvaluationMetric s zurück.
EvaluateAsync(IEvaluator, ChatMessage, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Wertet den angegebenen modelResponse Wert aus und gibt ein enthaltenes oder EvaluationResultmehrere EvaluationMetric s zurück.
EvaluateAsync(IEvaluator, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Wertet den angegebenen modelResponse Wert aus und gibt ein enthaltenes oder EvaluationResultmehrere EvaluationMetric s zurück.
EvaluateAsync(IEvaluator, String, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Wertet den angegebenen modelResponse Wert aus und gibt ein enthaltenes oder EvaluationResultmehrere EvaluationMetric s zurück.
EvaluateAsync(IEvaluator, String, String, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Wertet den angegebenen modelResponse Wert aus und gibt ein enthaltenes oder EvaluationResultmehrere EvaluationMetric s zurück.

Gilt für: