NVIDIA đã phát hành mô hình chuyển giọng nói thành văn bản có trọng số mở chính xác nhất trên Bảng xếp hạng Open ASR của Hugging Face và bạn có thể sử dụng nó miễn phí ngay hôm nay. Nemotron 3.5 Transcribe (tên đầy đủ NVIDIA-Nemotron-3.5-Transcribe-30B-A4B) ra mắt ngày 28 tháng 10 năm 2026 theo giấy phép OpenMDW-1.1, cho phép sử dụng thương mại. Điều đó có nghĩa là ba con đường $0: Space demo của chính NVIDIA, trọng số miễn phí trên GPU của bạn và các Space cộng đồng bao bọc cùng một checkpoint.
Hướng dẫn này bao gồm từng con đường miễn phí, những gì nó có thể và không thể làm, và phương án trả phí rẻ nhất khi miễn phí không còn đủ. Mọi thông tin đều đến từ model card chính thức, bài đăng ra mắt của NVIDIA trên Hugging Face và Bảng xếp hạng Open ASR, tất cả được đọc vào ngày 29 tháng 10 năm 2026.
Nếu bạn chỉ cần API được host, hãy chuyển đến hướng dẫn API Nemotron 3.5 Transcribe của chúng tôi.
Nemotron 3.5 Transcribe có miễn phí không?
Có, theo hai cách. Trọng số được tải xuống miễn phí và giấy phép cho phép sử dụng thương mại và phi thương mại, vì vậy tự host chỉ tốn phần cứng. NVIDIA cũng chạy một Space demo miễn phí trên Hugging Face để bạn có thể thử trong trình duyệt.
Những gì không miễn phí: các API được host. DeepInfra tính $0.002 mỗi phút âm thanh và OpenRouter niêm yết ở mức $0.000033 mỗi giây. Không bên nào hiển thị biến thể miễn phí. Và tính đến ngày 29 tháng 10 năm 2026, mô hình không xuất hiện trên build.nvidia.com, nơi nhiều mô hình NVIDIA được dùng thử API miễn phí. Tìm kiếm "transcribe" ở đó trả về một mô hình ASR tiếng Tây Ban Nha không liên quan.
Tại sao mọi người muốn nó: những con số
Nemotron 3.5 Transcribe là một mô hình ngôn ngữ tăng cường giọng nói. Một bộ mã hóa ASR 600M tham số và một bộ mã hóa người nói cung cấp cho mô hình ngôn ngữ hỗn hợp chuyên gia Mamba-2 và Transformer lai. Nó có tổng cộng 34B tham số, nhưng chỉ khoảng 4.3B hoạt động mỗi token, đó là lý do nó chạy trên một GPU duy nhất.
Những gì nó làm được trong một checkpoint:
- Phiên âm 40 ngôn ngữ, với 13 ngôn ngữ được đánh giá "dẫn đầu" (tiếng Anh, Tây Ban Nha, Pháp, Đức, Hindi, Hàn Quốc, Bồ Đào Nha và những ngôn ngữ khác)
- Bản ghi dài tối đa một giờ trong một yêu cầu (ngữ cảnh 65.536 token)
- Gán nhãn người nói với tối đa tám người nói được dán nhãn
- Dấu thời gian ở cấp độ từ thông qua đầu căn chỉnh CTC
- Dịch giọng nói sang và từ tiếng Anh qua 31 ngôn ngữ
- Gợi ý ngữ cảnh: truyền tên và thuật ngữ để nó đánh vần đúng
- Hỏi đáp âm thanh (chỉ tiếng Anh)
Trên Bảng xếp hạng Open ASR, cập nhật ngày 28 tháng 10 năm 2026, nó đạt WER trung bình 5.33%. Điều đó đưa nó lên vị trí thứ 9 trong 61 mô hình. Tám mô hình trên nó (Otter, Zoom Scribe v2 Pro, ElevenLabs Scribe v2, Azure Speech và những mô hình khác) đều là API đóng, trả phí. Trong số các mô hình bạn có thể tải xuống, không có gì xếp hạng cao hơn. whisper-large-v3 của OpenAI đứng thứ 41 với 7.16%.
Model card của chính NVIDIA báo cáo WER trung bình 4.71% trên chín bộ công khai. Con số 5.33% của bảng xếp hạng thêm hai bộ riêng tư, vì vậy cả hai con số đều trung thực; chúng đo các hỗn hợp khác nhau.
Một giới hạn cần biết trước khi bắt đầu: đây là mô hình ngoại tuyến. Nó phiên âm các tệp đã ghi, không phải luồng micrô trực tiếp.
So sánh mọi con đường miễn phí và trả phí
| Con đường | Chi phí | Đăng nhập | Giới hạn | Phù hợp nhất cho |
|---|---|---|---|---|
Space demo của NVIDIA (nvidia/nemotron-transcribe) |
$0 | Không | Xem trước 60 giây trên các tab mẫu; hàng đợi chia sẻ | Kiểm tra chất lượng nhanh |
| Các Space cộng đồng | $0 | Thường là không | Thay đổi theo từng Space; có thể ngủ hoặc biến mất | Thử các giao diện khác |
| Trọng số tự host (BF16, FP8, NVFP4) | $0 giấy phép, GPU của bạn | Tài khoản Hugging Face để tải xuống | Một H100 80 GB cho BF16; card nhỏ hơn cần FP8 hoặc NVFP4 | Phiên âm riêng tư không giới hạn |
| API DeepInfra | $0.002 mỗi phút | Tài khoản và khóa API | Sử dụng trả phí | Sản xuất không cần GPU |
| OpenRouter | $0.000033 mỗi giây | Tài khoản và tín dụng | Chỉ định tuyến đến DeepInfra | Một khóa cho nhiều mô hình |
| build.nvidia.com | Chưa được liệt kê | không áp dụng | không áp dụng | Theo dõi không gian này |
Chỉ ba hàng đầu tiên là không tốn phí.
Con đường miễn phí 1: Space demo của NVIDIA
Cách nhanh nhất để nghe những gì mô hình có thể làm là Space chính thức của NVIDIA tại huggingface.co/spaces/nvidia/nemotron-transcribe.
- Mở Space trong trình duyệt của bạn. Không cần tài khoản để tải nó.
- Chọn một tab. Vào ngày 29 tháng 10 năm 2026, Space có ba tab: Karaoke (lời bài hát theo thời gian từ), Bản ghi Podcast (văn bản gán nhãn người nói) và Phụ đề phim (chú thích theo thời gian).
- Chọn một mẫu hoặc dán liên kết, tùy theo tab cho phép. Tab Karaoke lưu ý rằng bản xem trước của nó bao gồm 60 giây đầu tiên.
- Chạy nó và đọc đầu ra. Chế độ xem Karaoke làm nổi bật từng từ khi nó được hát, điều này thể hiện dấu thời gian từ.
Coi Space như một demo, không phải API miễn phí. Các Space công khai chia sẻ GPU, xếp hàng yêu cầu và có thể thay đổi mà không báo trước. Đừng xây dựng sản phẩm trên một Space.
Con đường miễn phí 2: tự chạy trọng số mở
Đây là bậc miễn phí thực sự: phiên âm không giới hạn trên phần cứng bạn đã có, không có gì rời khỏi máy của bạn. Giấy phép (OpenMDW-1.1) cho phép sử dụng thương mại, vì vậy bạn có thể đưa nó vào sản phẩm.
Vấn đề là phần cứng. Thiết lập tham chiếu của NVIDIA là một H100 80 GB ở BF16. Bảng tương thích trên model card liệt kê:
- BF16: H100, H200, A100 80 GB, B200, GB200, DGX Spark
- FP8: H100, H200, L40S 48 GB
- Chỉ NVFP4: RTX 5090 (32 GB) và RTX PRO 6000 Blackwell
Vì vậy, một RTX 5090 tiêu dùng hoạt động, với checkpoint NVFP4. Các card 24 GB cũ hơn như RTX 4090 không có trong danh sách.
Thử nghiệm nhanh nhất chỉ cần cài Transformers từ nguồn:
pip install git+https://github.com/huggingface/transformers
from transformers import AutoModelForMultimodalLM, AutoProcessor
model_id = "nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B"
processor = AutoProcessor.from_pretrained(model_id)
model = AutoModelForMultimodalLM.from_pretrained(model_id, device_map="auto")
inputs = processor.apply_transcription_request("meeting.wav").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=1024)
print(processor.decode(outputs[:, inputs.input_ids.shape[1]:], skip_special_tokens=True))
Điều đó ổn cho một số ít tệp. Đối với lô, bản ghi dài và một endpoint tương thích OpenAI, hãy phục vụ nó với vLLM 0.32.0 và plugin NeMo Speech. Hướng dẫn từng bước của chúng tôi về chạy Nemotron 3.5 Transcribe cục bộ có cài đặt chính xác và lệnh vllm serve từ model card.
Không có GPU cục bộ? Thuê một cái theo giờ là con đường "gần như miễn phí" rẻ nhất cho các backlog lớn. NVIDIA cho biết một RTX PRO 6000 Blackwell có thể xử lý 100 giờ âm thanh trong dưới ba phút với bản dựng NVFP4, mặc dù con số đó sử dụng các tối ưu hóa phục vụ chưa được mã nguồn mở.
Con đường miễn phí 3: các Space cộng đồng
Trang mô hình liệt kê một số Space cộng đồng được xây dựng trên cùng một checkpoint, bao gồm hugging-apps/nemotron-3-5-transcribe và mrfakename/nemotron-3.5-transcribe. Chúng hữu ích khi hàng đợi Space của NVIDIA dài hoặc bạn muốn một hộp tải lên đơn giản. Chúng được điều hành bởi các cá nhân, vì vậy hãy mong đợi thời gian ngủ, hạn ngạch và đôi khi liên kết chết.
Các prompt giúp có kết quả miễn phí tốt hơn
Nemotron 3.5 Transcribe nhận hướng dẫn bằng ngôn ngữ tự nhiên. Những điều này đến từ model card và danh sách DeepInfra. Giữ system prompt trống để phiên âm và sử dụng temperature 0.
Văn bản sạch, dễ đọc:
Audio transcription. Language: as spoken. Wording: omit fillers and accidental repetitions; keep the remaining spoken wording unchanged. Formatting: punctuation and capitalization. Output: transcript only.
Ai nói gì:
Transcribe verbatim, including fillers. Write numbers as spoken, without punctuation or capitalization. Start every speaker turn with <spk:0>, <spk:1>, etc. Keep one stable tag per speaker. Output only the speaker-tagged transcript.
Tên sản phẩm và thuật ngữ:
Transcribe with punctuation and capitalization. Context terms: Apidog, OpenAPI, Kubernetes, gRPC.
Dịch:
Please translate the given speech to English.
Các thuật ngữ ngữ cảnh quan trọng hơn bạn nghĩ. Trên benchmark ContextASR của NVIDIA, WER giảm từ 3.33% không có ngữ cảnh xuống 1.71% với ngữ cảnh chi tiết.
Khi miễn phí không đủ: con đường trả phí rẻ nhất
Nếu bạn không sở hữu GPU được hỗ trợ và cần nhiều hơn một demo, API được host là rẻ. Với mức $0.002 mỗi phút của DeepInfra, một bản ghi một giờ tốn $0.12, và 1.000 giờ tốn $120. Mức $0.000033 mỗi giây của OpenRouter tương đương khoảng $0.119 mỗi giờ, được định tuyến đến cùng nhà cung cấp.
Một yêu cầu DeepInfra tối thiểu, lấy từ trang API của nó:
curl -X POST \
-H "Authorization: bearer $DEEPINFRA_API_KEY" \
-F audio=@meeting.mp3 \
'https://api.deepinfra.com/v1/inference/nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B'
Phản hồi bao gồm text, segments với thời gian bắt đầu và kết thúc, words, và language được phát hiện. Hướng dẫn API của chúng tôi đi qua các khóa, trường phản hồi và chi phí một cách chi tiết.
Để coding agent của bạn kiểm tra endpoint với Apidog CLI
Dù bạn tự host hay dùng DeepInfra, bạn muốn một kiểm tra thất bại rõ ràng khi phiên âm trả về trống hoặc sai ngôn ngữ. Giao việc đó cho coding agent của bạn và Apidog CLI thay vì tự nhìn JSON.
npm install -g apidog-cli@latest
apidog login --with-token <YOUR_TOKEN>
npx -y skills add https://apidog.com # pick Claude Code, Codex, Cursor or OpenCode
Sau đó đưa cho agent của bạn một prompt:
In Apidog project <id>, create a test case for POST {{baseUrl}}/v1/inference/nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B
that uploads samples/hello.mp3 as the "audio" form field, asserts status 200, a non-empty "text",
"language" equal to "en", and at least one item in "words", then run it against the
deepinfra environment and summarize any failures.
Agent đọc schema, xác thực payload, viết test case và chạy nó:
apidog cli-schema get test-case-create
apidog cli-schema validate test-case-create --file case.json
apidog test-case create --project <id> --file case.json
apidog run --test-case <caseId> --project <id> -e <envId> -r cli,json
Thay đổi môi trường để trỏ đến máy chủ cục bộ của bạn khi bạn chuyển từ API sang tự host. Cùng lệnh apidog run với -r junit sẽ vào CI; xem chạy Apidog CLI trong pipeline CI/CD và Apidog CLI trong Claude Code để biết cách thiết lập.
Các giới hạn cần biết trước khi dựa vào nó
- Chỉ ngoại tuyến. Nó không truyền trực tuyến. NVIDIA chỉ đến một mô hình Nemotron 3.5 ASR Streaming riêng cho âm thanh trực tiếp.
- Hỏi đáp âm thanh chỉ tiếng Anh. Phiên âm bao gồm 40 ngôn ngữ, nhưng hiểu âm thanh và hướng dẫn bằng giọng nói chỉ được đánh giá bằng tiếng Anh.
- Nhãn người nói không phải danh tính.
<spk:0>có nghĩa là "giọng nói đầu tiên", không phải một người được đặt tên. - Đầu ra dài cần không gian. Một cuộc trò chuyện dày đặc một giờ có thể tạo ra khoảng 20.000 token đầu ra, vì vậy hãy đặt
max_new_tokenscho phù hợp. - Nó có thể ảo giác. Model card cảnh báo nó có thể "tạo ra một bản ghi hợp lý" cho âm thanh không rõ ràng. Xem xét mọi thứ liên quan đến pháp lý hoặc y tế.
Câu hỏi thường gặp
Nemotron 3.5 Transcribe có miễn phí cho sử dụng thương mại không? Có. Giấy phép OpenMDW-1.1 cho phép sử dụng thương mại và phi thương mại các trọng số. API được host tính phí cho compute.
Có khóa API Nemotron 3.5 Transcribe miễn phí không? Không phải những gì chúng tôi tìm thấy vào ngày 29 tháng 10 năm 2026. DeepInfra và OpenRouter đều trả phí, và nó chưa có trên build.nvidia.com. So sánh với API miễn phí của NVIDIA cho Nemotron Nano 12B v2 VL, đã có endpoint dùng thử miễn phí.
Tôi có thể chạy nó trên Mac không? Không có trong danh sách chính thức. Các runtime được hỗ trợ nhắm đến GPU NVIDIA trên Linux hoặc Windows (WSL2). Hỗ trợ GGML chỉ được liệt kê cho RTX 5090 và RTX PRO 6000.
Nó so với Whisper thế nào? Trên bảng xếp hạng ngày 28 tháng 10, nó đạt WER trung bình 5.33% so với 7.16% của whisper-large-v3. Xem hướng dẫn API Whisper của chúng tôi cho tùy chọn được host của OpenAI và các mô hình chuyển giọng nói thành văn bản mã nguồn mở tốt nhất của chúng tôi để biết toàn bộ danh sách.
Nó có hỗ trợ MP3 không? Có. Nó chấp nhận WAV, FLAC, MP3, OGG hoặc bất cứ thứ gì giải mã thành PCM mono 16 kHz. Sử dụng FFmpeg để chuyển đổi các định dạng khác.
Kết luận
Nemotron 3.5 Transcribe miễn phí ở những điểm quan trọng: trọng số, giấy phép và demo của NVIDIA. Thử Space để kiểm tra chất lượng, tự host trên H100, L40S hoặc RTX 5090 để sử dụng riêng tư không giới hạn, và dự phòng bằng DeepInfra ở mức $0.12 mỗi giờ khi bạn không có phần cứng. Dù bạn chọn con đường nào, hãy để agent của bạn chạy kiểm tra Apidog trên endpoint để bản ghi xấu không bao giờ đến được sản xuất.