モデレーションの作成

POST

https://api.openai.com/v1/moderations

入力テキストを基に、モデルがそれをOpenAIのコンテンツポリシー違反として分類するかどうかを出力します。

関連ガイド: モデレーション

テキストが OpenAI のコンテンツポリシーに違反しているかどうかを分類します

Request Example

Shell

JavaScript

Java

Swift

curl --location --request POST 'https://api.openai.com/v1/moderations' \
--header 'Content-Type: application/json' \
--data-raw '{
  "input": "I want to kill them."
}'

Response Example

{
  "id": "modr-5MWoLO",
  "model": "text-moderation-001",
  "results": [
    {
      "categories": {
        "hate": false,
        "hate/threatening": true,
        "self-harm": false,
        "sexual": false,
        "sexual/minors": false,
        "violence": true,
        "violence/graphic": false
      },
      "category_scores": {
        "hate": 0.22714105248451233,
        "hate/threatening": 0.4132447838783264,
        "self-harm": 0.005232391878962517,
        "sexual": 0.01407341007143259,
        "sexual/minors": 0.0038522258400917053,
        "violence": 0.9223177433013916,
        "violence/graphic": 0.036865197122097015
      },
      "flagged": true
    }
  ]
}

Request

Authorization

Provide your bearer token in the

Authorization

header when making requests to protected resources.

Example:

Authorization: Bearer ********************

Header Params

Authorization

string

optional

Example:

Bearer {{YOUR_API_KEY}}

Body Params application/json

input

string

required

分類する入力テキスト

model

string

required

2つのコンテンツモデレーションモデルが利用可能です： text-moderation-stable と text-moderation-latest。
デフォルトでは、text-moderation-latest が使用され、これは時間とともに自動的にアップグレードされます。これにより、常に最も正確なモデルを使用していることが保証されます。
text-moderation-stable を使用する場合、モデルの更新前に事前に通知いたします。text-moderation-stable の精度は、text-moderation-latest より若干低くなる可能性があります。

Examples

Responses

🟢200Create moderation

application/json

Body

string

required

model

string

required

results

array [object {3}]

required