ContentHarmEvaluator Classe

Definizione

Spazio dei nomi:
Microsoft.Extensions.AI.Evaluation.Safety
Assembly:
Microsoft.Extensions.AI.Evaluation.Safety.dll
Pacchetto:
Microsoft.Extensions.AI.Evaluation.Safety v10.7.0-preview.1.26309.5
Origine:
ContentHarmEvaluator.cs

Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di una varietà di contenuti dannosi, ad esempio violenza, parlato di odio e così via.

public ref class ContentHarmEvaluator : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluator
public class ContentHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluator
type ContentHarmEvaluator = class
    inherit ContentSafetyEvaluator
Public Class ContentHarmEvaluator
Inherits ContentSafetyEvaluator
Ereditarietà
Object
ContentSafetyEvaluator
ContentHarmEvaluator
Derivato

Commenti

ContentHarmEvaluator può essere usato per valutare le risposte per tutte le metriche di danno al contenuto supportate in un'unica operazione. È possibile ottenere questo risultato omettendo il metricNames parametro .

ContentHarmEvaluatorfunge anche da classe di base per HateAndUnfairnessEvaluator, ViolenceEvaluatorSelfHarmEvaluator e SexualEvaluator che può essere usata per valutare le risposte per una metrica di danno del contenuto specifica alla volta.

Costruttori

Nome Descrizione
ContentHarmEvaluator(IDictionary<String,String>)

Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di una varietà di contenuti dannosi, ad esempio violenza, parlato di odio e così via.

Proprietà

Nome Descrizione
EvaluationMetricNames

Ottiene gli Nameoggetti dell'oggetto EvaluationMetricprodotto da questo IEvaluatoroggetto .

(Ereditato da ContentSafetyEvaluator)

Metodi

Nome Descrizione
EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di una varietà di contenuti dannosi, ad esempio violenza, parlato di odio e così via.
EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken)

Valuta il modelResponse fornito usando il servizio di valutazione Azure AI Foundry e restituisce un EvaluationResult contenente uno o più EvaluationMetric.

(Ereditato da ContentSafetyEvaluator)
FilterAdditionalContext(IEnumerable<EvaluationContext>)

Filtra gli EvaluationContextoggetti forniti dal chiamante tramite additionalContext fino a s EvaluationContextrilevanti per la valutazione eseguita da questo ContentSafetyEvaluatoroggetto .

(Ereditato da ContentSafetyEvaluator)

Metodi di estensione

Nome Descrizione
EvaluateAsync(IEvaluator, ChatMessage, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Valuta l'oggetto fornito modelResponse e restituisce un oggetto EvaluationResult contenente uno o più EvaluationMetricoggetti .
EvaluateAsync(IEvaluator, ChatMessage, ChatMessage, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Valuta l'oggetto fornito modelResponse e restituisce un oggetto EvaluationResult contenente uno o più EvaluationMetricoggetti .
EvaluateAsync(IEvaluator, ChatMessage, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Valuta l'oggetto fornito modelResponse e restituisce un oggetto EvaluationResult contenente uno o più EvaluationMetricoggetti .
EvaluateAsync(IEvaluator, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Valuta l'oggetto fornito modelResponse e restituisce un oggetto EvaluationResult contenente uno o più EvaluationMetricoggetti .
EvaluateAsync(IEvaluator, String, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Valuta l'oggetto fornito modelResponse e restituisce un oggetto EvaluationResult contenente uno o più EvaluationMetricoggetti .
EvaluateAsync(IEvaluator, String, String, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Valuta l'oggetto fornito modelResponse e restituisce un oggetto EvaluationResult contenente uno o più EvaluationMetricoggetti .

Si applica a