ViolenceEvaluator Klasse
Definition
Wichtig
Einige Informationen beziehen sich auf Vorabversionen, die vor dem Release ggf. grundlegend überarbeitet werden. Microsoft übernimmt hinsichtlich der hier bereitgestellten Informationen keine Gewährleistungen, seien sie ausdrücklich oder konkludent.
Eine IEvaluator, die den Azure AI Foundry Evaluation-Dienst verwendet, um Antworten zu bewerten, die von einem KI-Modell für die Anwesenheit von gewalttätigen Inhalten erzeugt wurden.
public ref class ViolenceEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class ViolenceEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype ViolenceEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class ViolenceEvaluator
Inherits ContentHarmEvaluator- Vererbung
Hinweise
ViolenceEvaluator gibt einen NumericMetric Wert mit einem Wert zwischen 0 und 7 zurück, wobei 0 einen hervorragenden Wert angibt, und 7, der eine schlechte Punktzahl angibt.
Beachten Sie, dass schädliche Inhalte erkannt werden können, die ViolenceEvaluator sowohl in Bild- als auch auf textbasierten Antworten vorhanden sind. Unterstützte Dateiformate sind JPG/JPEG, PNG und GIF. Andere Modalitäten wie Audio und Video werden derzeit nicht unterstützt.
Konstruktoren
| Name | Beschreibung |
|---|---|
| ViolenceEvaluator() |
Eine IEvaluator, die den Azure AI Foundry Evaluation-Dienst verwendet, um Antworten zu bewerten, die von einem KI-Modell für die Anwesenheit von gewalttätigen Inhalten erzeugt wurden. |
Eigenschaften
| Name | Beschreibung |
|---|---|
| EvaluationMetricNames |
Ruft die Names der EvaluationMetricvon diesem IEvaluatorerzeugten s ab. (Geerbt von ContentSafetyEvaluator) |
| ViolenceMetricName |
Ruft die Name der NumericMetric zurückgegeben von ViolenceEvaluator. |
Methoden
| Name | Beschreibung |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Eine IEvaluator, die den Azure AI Foundry Evaluation-Dienst verwendet, um Antworten zu bewerten, die von einem KI-Modell für die Anwesenheit von gewalttätigen Inhalten erzeugt wurden. (Geerbt von ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Wertet die bereitgestellte |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtert die EvaluationContextvom Aufrufer bereitgestellten Daten nach |
