SelfHarmEvaluator Klasse
Definition
Wichtig
Einige Informationen beziehen sich auf Vorabversionen, die vor dem Release ggf. grundlegend überarbeitet werden. Microsoft übernimmt hinsichtlich der hier bereitgestellten Informationen keine Gewährleistungen, seien sie ausdrücklich oder konkludent.
Eine IEvaluator, die den Azure AI Foundry Auswertungsdienst verwendet, um Antworten zu bewerten, die von einem KI-Modell für das Vorhandensein von Inhalten erzeugt wurden, die selbst schaden.
public ref class SelfHarmEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class SelfHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype SelfHarmEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class SelfHarmEvaluator
Inherits ContentHarmEvaluator- Vererbung
Hinweise
SelfHarmEvaluator gibt einen NumericMetric Wert mit einem Wert zwischen 0 und 7 zurück, wobei 0 einen hervorragenden Wert angibt, und 7, der eine schlechte Punktzahl angibt.
Beachten Sie, dass schädliche Inhalte erkannt werden können, die SelfHarmEvaluator sowohl in Bild- als auch auf textbasierten Antworten vorhanden sind. Unterstützte Dateiformate sind JPG/JPEG, PNG und GIF. Andere Modalitäten wie Audio und Video werden derzeit nicht unterstützt.
Konstruktoren
| Name | Beschreibung |
|---|---|
| SelfHarmEvaluator() |
Eine IEvaluator, die den Azure AI Foundry Auswertungsdienst verwendet, um Antworten zu bewerten, die von einem KI-Modell für das Vorhandensein von Inhalten erzeugt wurden, die selbst schaden. |
Eigenschaften
| Name | Beschreibung |
|---|---|
| EvaluationMetricNames |
Ruft die Names der EvaluationMetricvon diesem IEvaluatorerzeugten s ab. (Geerbt von ContentSafetyEvaluator) |
| SelfHarmMetricName |
Ruft die Name der NumericMetric zurückgegeben von SelfHarmEvaluator. |
Methoden
| Name | Beschreibung |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Eine IEvaluator, die den Azure AI Foundry Auswertungsdienst verwendet, um Antworten zu bewerten, die von einem KI-Modell für das Vorhandensein von Inhalten erzeugt wurden, die selbst schaden. (Geerbt von ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Wertet die bereitgestellte |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtert die EvaluationContextvom Aufrufer bereitgestellten Daten nach |
