ViolenceEvaluator Classe
Definizione
Importante
Alcune informazioni sono relative alla release non definitiva del prodotto, che potrebbe subire modifiche significative prima della release definitiva. Microsoft non riconosce alcuna garanzia, espressa o implicita, in merito alle informazioni qui fornite.
Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di contenuti violenti.
public ref class ViolenceEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class ViolenceEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype ViolenceEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class ViolenceEvaluator
Inherits ContentHarmEvaluator- Ereditarietà
Commenti
ViolenceEvaluator restituisce un NumericMetric oggetto con un valore compreso tra 0 e 7, con 0 che indica un punteggio eccellente e 7 che indica un punteggio scadente.
Si noti che può rilevare contenuto dannoso presente sia all'interno di immagini che ViolenceEvaluator di risposte basate su testo. I formati di file supportati includono JPG/JPEG, PNG e GIF. Altre modalità, ad esempio audio e video, non sono attualmente supportate.
Costruttori
| Nome | Descrizione |
|---|---|
| ViolenceEvaluator() |
Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di contenuti violenti. |
Proprietà
| Nome | Descrizione |
|---|---|
| EvaluationMetricNames |
Ottiene gli Nameoggetti dell'oggetto EvaluationMetricprodotto da questo IEvaluatoroggetto . (Ereditato da ContentSafetyEvaluator) |
| ViolenceMetricName |
Ottiene l'oggetto Name dell'oggetto NumericMetric restituito da ViolenceEvaluator. |
Metodi
| Nome | Descrizione |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di contenuti violenti. (Ereditato da ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Valuta il |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra gli EvaluationContextoggetti forniti dal chiamante tramite |
