SexualEvaluator Klasse
Definition
Wichtig
Einige Informationen beziehen sich auf Vorabversionen, die vor dem Release ggf. grundlegend überarbeitet werden. Microsoft übernimmt hinsichtlich der hier bereitgestellten Informationen keine Gewährleistungen, seien sie ausdrücklich oder konkludent.
Eine IEvaluator, die den Azure AI Foundry Auswertungsdienst verwendet, um Antworten zu bewerten, die von einem KI-Modell für das Vorhandensein sexueller Inhalte erzeugt wurden.
public ref class SexualEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class SexualEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype SexualEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class SexualEvaluator
Inherits ContentHarmEvaluator- Vererbung
Hinweise
SexualEvaluator gibt einen NumericMetric Wert mit einem Wert zwischen 0 und 7 zurück, wobei 0 einen hervorragenden Wert angibt, und 7, der eine schlechte Punktzahl angibt.
Beachten Sie, dass schädliche Inhalte erkannt werden können, die SexualEvaluator sowohl in Bild- als auch auf textbasierten Antworten vorhanden sind. Unterstützte Dateiformate sind JPG/JPEG, PNG und GIF. Andere Modalitäten wie Audio und Video werden derzeit nicht unterstützt.
Konstruktoren
| Name | Beschreibung |
|---|---|
| SexualEvaluator() |
Eine IEvaluator, die den Azure AI Foundry Auswertungsdienst verwendet, um Antworten zu bewerten, die von einem KI-Modell für das Vorhandensein sexueller Inhalte erzeugt wurden. |
Eigenschaften
| Name | Beschreibung |
|---|---|
| EvaluationMetricNames |
Ruft die Names der EvaluationMetricvon diesem IEvaluatorerzeugten s ab. (Geerbt von ContentSafetyEvaluator) |
| SexualMetricName |
Ruft die Name der NumericMetric zurückgegeben von SexualEvaluator. |
Methoden
| Name | Beschreibung |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Eine IEvaluator, die den Azure AI Foundry Auswertungsdienst verwendet, um Antworten zu bewerten, die von einem KI-Modell für das Vorhandensein sexueller Inhalte erzeugt wurden. (Geerbt von ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Wertet die bereitgestellte |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtert die EvaluationContextvom Aufrufer bereitgestellten Daten nach |
