Hướng dẫn sử dụng API Mistral Large 4

Mistral Large 4 đã chính thức ra mắt trên API của Mistral vào ngày 6 tháng 10 năm 2026, ba tuần trước khi các trọng số của nó được công khai. Nếu bạn muốn dùng thử “Le Chonk” với 1 nghìn tỷ tham số ngay bây giờ, API là cách duy nhất và hiện tại nó cũng là cách rẻ nhất: Mistral niêm yết với giá **0,68 đô la cho mỗi triệu token đầu vào và 2,09 đô la cho mỗi triệu token đầu ra** trong giai đoạn xem trước công khai, bằng một nửa so với giá niêm yết 1,36 đô la / 4,18 đô la.

Hướng dẫn này sẽ giúp bạn từ con số không đến cuộc gọi đầu tiên hoạt động chỉ trong khoảng năm phút, sau đó đề cập đến những phần thường gây khó khăn cho mọi người: các khối lập luận (reasoning chunks), đầu vào hình ảnh, gọi hàm (function calling), đầu ra JSON và chi phí. Mỗi yêu cầu có thể được lưu và phát lại trong Apidog để bạn có thể so sánh Large 4 với bất kỳ mô hình nào bạn đang chạy hiện nay.

nút

Bạn mới biết về bản thân mô hình này? Hãy đọc Mistral Is Back: Le Chonk Beats GPT-6 Astra and Claude at Cyber trước để biết các điểm chuẩn và lý do đằng sau tiêu đề cyber.

Những gì bạn cần

Bước 1: Lấy khóa API

1. Đăng nhập vào Mistral Studio (trước đây là La Plateforme).
2. Mở API Keys và tạo khóa mới. Đặt tên cho nó để biết nơi nó sẽ được sử dụng, ví dụ như local-dev hoặc ci-staging.
3. Sao chép nó một lần. Studio sẽ không hiển thị lại nó.
4. Xuất nó trong shell của bạn:

export MISTRAL_API_KEY="your-key-here"

Giữ khóa ra khỏi kiểm soát mã nguồn. Nếu bạn đang kết nối nó vào nhiều công cụ, hướng dẫn của chúng tôi về các phương pháp hay nhất về quản lý khóa API sẽ đề cập đến việc xoay vòng và giới hạn phạm vi.

Bước 2: Thực hiện cuộc gọi đầu tiên của bạn

Cách kiểm tra nhanh nhất là dùng lệnh curl đơn giản:

curl https://api.mistral.ai/v1/chat/completions \
  -H "Authorization: Bearer $MISTRAL_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral-large-4",
    "messages": [
      {"role": "user", "content": "Give me three edge cases to test on a pagination API."}
    ]
  }'

Một phản hồi thành công sẽ trả về `choices[0].message.content` với câu trả lời và một khối `usage` với `prompt_tokens`, `completion_tokens` và `total_tokens`. Nếu bạn nhận được `401`, khóa sai hoặc chưa được xuất. Lỗi `404` trên mô hình thường có nghĩa là lỗi chính tả trong ID mô hình.

Cuộc gọi tương tự trong Python

import os
from mistralai import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

response = client.chat.complete(
    model="mistral-large-4",
    messages=[
        {"role": "user", "content": "Give me three edge cases to test on a pagination API."}
    ],
)

print(response.choices[0].message.content)

Và trong TypeScript

import { Mistral } from "@mistralai/mistralai";

const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });

const response = await client.chat.complete({
  model: "mistral-large-4",
  messages: [
    { role: "user", content: "Give me three edge cases to test on a pagination API." },
  ],
});

console.log(response.choices[0].message.content);

Bước 3: Lưu vào Apidog

Việc gõ lệnh curl sẽ trở nên nhàm chán khi bạn bắt đầu so sánh các mô hình. Trong Apidog:

1. Tạo một yêu cầu HTTP mới: POST https://api.mistral.ai/v1/chat/completions.
2. Thêm biến môi trường MISTRAL_API_KEY và đặt tiêu đề Authorization: Bearer {{MISTRAL_API_KEY}}.
3. Dán phần nội dung JSON từ Bước 2 và nhấn Send.
4. Nhân đôi yêu cầu, thay đổi model thành mô hình bạn đang sử dụng (ví dụ mistral-medium-3-5), và chạy cả hai.

Bây giờ bạn có hai yêu cầu đã lưu với cùng một lời nhắc. Apidog hiển thị nội dung phản hồi, trạng thái, thời gian và kích thước cho từng yêu cầu, vì vậy bạn có thể so sánh chất lượng câu trả lời, độ trễ và số lượng token `usage` mà không cần viết script. Thêm một xác nhận sau phản hồi rằng `choices[0].message.content` không rỗng và bạn có một bài kiểm tra cơ bản có thể chạy lại bất cứ khi nào Mistral cập nhật bản xem trước.

Bước 4: Bật và tắt cơ chế lập luận

Large 4 là một mô hình lai: cùng một mô hình xử lý các câu trả lời nhanh và lập luận từng bước. Bạn điều khiển nó bằng một tham số, `reasoning_effort`:

curl https://api.mistral.ai/v1/chat/completions \
  -H "Authorization: Bearer $MISTRAL_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral-large-4",
    "messages": [
      {"role": "user", "content": "Our API returns 200 with an empty body under load. List likely causes in order of probability."}
    ],
    "reasoning_effort": "high"
  }'

Đây là phần gây lỗi cho các trình phân tích cú pháp. Với `reasoning_effort: "high"`, `message.content` không còn là một chuỗi nữa. Nó trở thành một danh sách các khối (chunks):

• một khối `thinking` chứa dấu vết lập luận, và
• một khối `text` chứa câu trả lời cuối cùng.

Vì vậy, `response.choices[0].message.content` sẽ in ra một danh sách, chứ không phải câu trả lời của bạn. Hãy trích xuất khối văn bản một cách rõ ràng:

response = client.chat.complete(
    model="mistral-large-4",
    messages=[{"role": "user", "content": "Why would a 200 response have an empty body?"}],
    reasoning_effort="high",
)

content = response.choices[0].message.content
if isinstance(content, str):
    answer = content
else:
    answer = "".join(c.text for c in content if c.type == "text")

print(answer)

Các token suy nghĩ được tính phí như token đầu ra, vì vậy `"high"` tốn kém hơn cho mỗi yêu cầu. Mặc định là `"none"` và chỉ chuyển sang `"high"` đối với các cuộc gọi cần thiết.

Bước 5: Gửi hình ảnh

Large 4 có khả năng đa phương thức tự nhiên, với một bộ mã hóa thị giác 1.6B tham số. Truyền hình ảnh như các phần nội dung bên cạnh văn bản của bạn:

curl https://api.mistral.ai/v1/chat/completions \
  -H "Authorization: Bearer $MISTRAL_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral-large-4",
    "messages": [
      {
        "role": "user",
        "content": [
          {"type": "text", "text": "This is a screenshot of our API error dashboard. Which endpoint is failing most and what is the error code?"},
          {"type": "image_url", "image_url": "https://example.com/dashboard.png"}
        ]
      }
    ]
  }'

Đối với các tệp cục bộ, thay vào đó, hãy gửi một URL dữ liệu base64: `"image_url": "data:image/png;base64,<encoded>"`. Mistral báo cáo Large 4 đạt 42% trên điểm chuẩn định vị trực quan Dense 200, chỉ nhỉnh hơn 41% của GPT-6 Astra, vì vậy ảnh chụp màn hình bảng điều khiển, biểu đồ và trạng thái giao diện người dùng là một sự phù hợp hợp lý.

Bước 6: Gọi hàm

Gọi hàm là nơi các điểm chuẩn của tác nhân Large 4 (59,9% trên AutomationBench) trở nên hữu ích. Bạn mô tả các công cụ, mô hình quyết định khi nào gọi chúng và mã của bạn chạy cuộc gọi.

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_order_status",
            "description": "Look up the status of an order by its ID.",
            "parameters": {
                "type": "object",
                "properties": {
                    "order_id": {"type": "string", "description": "The order ID, e.g. ORD-1042"}
                },
                "required": ["order_id"],
            },
        },
    }
]

messages = [{"role": "user", "content": "Where is order ORD-1042?"}]

response = client.chat.complete(
    model="mistral-large-4",
    messages=messages,
    tools=tools,
    tool_choice="auto",
)

tool_call = response.choices[0].message.tool_calls[0]
print(tool_call.function.name, tool_call.function.arguments)

Tự mình chạy hàm, sau đó gửi kết quả trở lại với `tool_call_id` tương ứng:

import json

result = {"order_id": "ORD-1042", "status": "shipped", "eta": "2026-10-09"}

messages.append(response.choices[0].message)
messages.append({
    "role": "tool",
    "name": "get_order_status",
    "content": json.dumps(result),
    "tool_call_id": tool_call.id,
})

final = client.chat.complete(model="mistral-large-4", messages=messages, tools=tools)
print(final.choices[0].message.content)

Sơ đồ công cụ là JSON Schema thuần túy. Nếu API của bạn đã có đặc tả OpenAPI, bạn có thể chuyển sơ đồ yêu cầu cho mỗi thao tác trực tiếp vào `parameters`. Việc thiết kế đặc tả trong Apidog trước tiên sẽ giữ cho các định nghĩa công cụ và API thực tế luôn đồng bộ.

Bước 7: Nhận lại JSON

Khi bạn cần đầu ra có thể đọc được bằng máy, hãy đặt `response_format`:

curl https://api.mistral.ai/v1/chat/completions \
  -H "Authorization: Bearer $MISTRAL_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral-large-4",
    "messages": [
      {"role": "user", "content": "Extract method, path and status code from: GET /v1/users/42 returned 404. Reply in JSON."}
    ],
    "response_format": {"type": "json_object"}
  }'

Nhắc đến JSON trong lời nhắc cũng như trong `response_format`. Đối với các định dạng nghiêm ngặt, Mistral cũng hỗ trợ `{"type": "json_schema", "json_schema": {...}}` với một sơ đồ đầy đủ. Trong Apidog, thêm một xác nhận JSON Schema trên phản hồi để một định dạng không khớp sẽ gây lỗi rõ ràng thay vì làm hỏng một dịch vụ phía sau.

Chi phí

Một ví dụ thực tế: một tác nhân thực hiện 10.000 cuộc gọi mỗi ngày, mỗi cuộc gọi với 3.000 token đầu vào (chủ yếu là lời nhắc hệ thống và công cụ được lưu trữ) và 500 token đầu ra.

• Đầu vào: 30M token. Nếu 2.500 trong số 3.000 token được lưu trữ, thì đó là 25M token được lưu trữ với giá 0,07 đô la và 5M token mới với giá 0,68 đô la, khoảng 5,15 đô la/ngày.
• Đầu ra: 5M token với giá 2,09 đô la, khoảng 10,45 đô la/ngày.
• Tổng cộng: khoảng 15,60 đô la/ngày theo giá xem trước, hoặc khoảng 31 đô la theo giá niêm yết.

Cùng một khối lượng công việc trên GPT-6 Astra (10 đô la / 50 đô la cho mỗi triệu, trước khi giảm giá bộ nhớ đệm) sẽ tốn vài trăm đô la mỗi ngày. Mistral chưa cho biết khi nào giá xem trước kết thúc, vì vậy hãy lập ngân sách dựa trên giá niêm yết.

Lỗi thường gặp

Câu hỏi thường gặp

Mistral Large 4 có tương thích với OpenAI không? Hình dạng yêu cầu rất giống: `model`, `messages`, `tools`, `tool_choice` và `response_format` đều hoạt động như bạn mong đợi. Sử dụng SDK của Mistral hoặc HTTP thuần túy để đảm bảo an toàn. Đầu ra lập luận sử dụng định dạng khối riêng của Mistral.

Khi nào tôi có thể chạy nó cục bộ? Mistral cho biết các trọng số sẽ được phát hành vào cuối tháng 10 năm 2026. Với tổng số 1,05 nghìn tỷ tham số, nó cần phần cứng máy chủ đa GPU. Hướng dẫn chạy Mistral 3 cục bộ của chúng tôi đề cập đến các công cụ cho các mô hình nhỏ hơn trong thời gian chờ đợi.

Bản xem trước có đủ ổn định cho sản xuất không? Chưa. Mô hình này được gắn nhãn xem trước công khai và có thể thay đổi trước khi các trọng số được phát hành. Gắn các bài kiểm tra của bạn, chạy lại chúng khi Mistral cập nhật mô hình và duy trì cấu hình mô hình dự phòng.

Tôi có thể sử dụng Large 4 với mã Mistral hiện có của mình không? Có. Cùng một URL cơ sở, cùng xác thực, cùng SDK. Thay đổi chuỗi `model` thành `mistral-large-4`. Nếu bạn đang chuyển từ Medium 3.5, hãy xem hướng dẫn API Mistral Medium 3.5 của chúng tôi để biết các phần có thể kế thừa.

Tóm tắt

Năm phút sẽ giúp bạn có một cuộc gọi hoạt động. Giờ tiếp theo nên dành để chạy các lời nhắc thực tế của bạn với Large 4 và mô hình hiện tại của bạn song song. Lưu cả hai yêu cầu trong Apidog, thêm các xác nhận về trạng thái và hình dạng phản hồi, và bạn sẽ biết trong vòng một ngày liệu Le Chonk có xứng đáng có một vị trí trong ngăn xếp của bạn hay không, trong khi giá xem trước vẫn còn giảm một nửa.

nút