OllamaでQwen 3.5を使う方法

まとめ

Ollamaは、Mac、Linux、またはWindowsマシンでQwen 3.5の小規模モデル（0.8B、2B、4B、9B）をローカルで実行する最も簡単な方法を提供します。シンプルなollama runコマンドを使用するだけで、クラウドAPIの費用なしで高性能なAI機能を利用できます。Ollamaをダウンロードし、モデルをプルして、5分以内にチャットを開始できます。

はじめに

大規模言語モデルをローカルで実行することは非常に一般的になっており、Ollamaはそれを簡単にします。データをクラウドに送信したり、トークンごとに料金を支払うことなく、AlibabaのQwen 3.5モデルを使用したい場合、Ollamaがその解決策です。

💡

OllamaのAPIを介してQwen 3.5のようなローカルLLMを呼び出すアプリケーションを構築する際には、応答をテストおよび検証するための信頼できる方法が必要です。ApidogのAPIテストツールを使用すると、Ollama APIエンドポイントの自動テストを設定でき、応答が正しく期待どおりであることを保証します。応答時間、コンテンツ構造、エラー処理のテストアサーションを作成しましょう。設定をテストする方法については、Ollama APIセクションをご覧ください。

button

このガイドでは、OllamaでQwen 3.5の小規模モデルを実行するために知っておくべきことすべてを説明します。迅速なタスクにはコンパクトな0.8Bモデルが必要な場合でも、複雑な推論にはより大きな9Bモデルが必要な場合でも、インストール、使用方法、統合について説明します。

Qwen 3.5にOllamaを使用する理由

OllamaはローカルLLM展開の頼りになるソリューションとなっています。

簡単なセットアップ
複雑なDockerやPythonのセットアップは不要です。アプリを1つダウンロードするだけで準備完了です。

プライバシー最優先
データはあなたのマシンに保存されます。これはビジネスデータや機密情報にとって重要です。

API費用なし
モデルをダウンロードすれば、実行は無料です。トークンごとの料金やサブスクリプションは不要です。

オフライン機能
インターネットなしでも、どこでもAIを使用できます。

ハードウェアアクセラレーション
Ollamaは利用可能な場合に自動的にGPUアクセラレーションを使用し、ローカルでの推論を高速化します。

Ollamaのインストール

Macでのインストール

Macをお使いの場合、インストールは数秒で完了します。

# ollama.comからダウンロードするか、Homebrewを使用
brew install ollama

これだけです。OllamaはApple Silicon (M1/M2/M3) を自動的に検出し、GPUアクセラレーションにMetalを使用します。

Linuxでのインストール

LinuxサーバーまたはWSLの場合：

# クイックインストール
curl -fsSL https://ollama.com/install.sh | sh

Windowsでのインストール

Windowsユーザーはインストーラーをダウンロードできます。Windows版はDirectMLを介したGPUアクセラレーションをサポートしています。

確認

インストール後、すべてが機能することを確認します。

ollama --version

バージョン番号が表示されるはずです。次にQwenモデルをいくつかプルしてみましょう。

Qwen 3.5モデルの実行

最初のモデルのプル

Ollamaはモデルのダウンロードを簡単にします。

9B: 
ollama run qwen3.5:9b

4B: 
ollama run qwen3.5:4b 

2B: 
ollama run qwen3.5:2b 

0.8B
ollama run qwen3.5:0.8b

各モデルのダウンロードには、インターネット速度に応じて数分かかります。2Bモデルは約1.5GB、9Bモデルは約5GBです。

チャットセッションの開始

プルしたら、すぐにチャットを開始します。

ollama run qwen3.5:9b

直接入力できるプロンプトが表示されます。

>>> 量子コンピューティングとは何か、簡単に説明してください。
量子コンピューティングは、ある種の計算で...

質問を入力してEnterキーを押します。終了するにはCtrl+Dを押します。

利用可能なモデルのリスト表示

インストールされているものを確認します。

ollama list

出力には、各モデル、そのサイズ、最終使用日時が表示されます。

モデルの削除

不要なモデルを削除してディスク容量を解放します。

ollama remove qwen3.5:9b

モデルの比較と選択

適切なモデルの選択は、ハードウェアと使用ケースによって異なります。

モデル	パラメータ	概算モデルサイズ (BF16、完全精度)	必要なRAM (BF16、Unslothガイド)	最適な用途
Qwen3.5-0.8B	0.8B	約1.6 GB	約9 GB	超軽量エッジ＆モバイル：高速オートコンプリート、シンプルなチャットボット、小型ツール、非常に低スペックなデバイスでの基本的な画像認識/OCR。
Qwen3.5-2B	2B	約4 GB	約9 GB	軽量アシスタント、小型エージェント、基本的なコーディング支援、控えめなRAMを搭載したラップトップでの優れたマルチモーダル機能。
Qwen3.5-4B	4B	約8 GB	約14 GB	「スマートオートコンプリート」開発ヘルパー、軽量エージェント、2Bよりも優れた推論とマルチモーダル機能、ローカルでの実行も容易。
Qwen3.5-9B	9B	約18 GB	約19 GB	強力な汎用アシスタント、優れた多言語+ビジョン、16～24GBのRAM/VRAMマシンでの主要なローカルAIとして利用可能。

ほとんどのユーザーへの推奨事項：`qwen2.5:2b`から始めてください。これは機能と速度の最適なバランスを提供します。より強力な推論能力が必要な場合にのみ、4Bまたは9Bにアップグレードしてください。

開発者向けOllama API

Ollamaは、アプリケーションが呼び出すことができるローカルAPIサーバーを実行します。これはQwen 3.5をプロジェクトに統合するのに最適です。

APIサーバーの起動

Ollamaはデフォルトでバックグラウンドサービスとして実行されます。APIは以下の場所で利用できます。

http://localhost:11434

基本的なチャット補完

チャットエンドポイントにリクエストを送信します。

curl http://localhost:11434/api/chat \
  -d '{
    "model": "qwen3.5:0.8b",
    "messages": [
      {"role": "user", "content": "Pythonとは何ですか？"}
    ],
    "stream": false
  }'

応答：

ストリーミング応答

リアルタイム出力の場合、ストリーミングを有効にします。

curl http://localhost:11434/api/chat \
  -d '{
    "model": "Qwen3.5-9B",
    "messages": [{"role": "user", "content": "5まで数えてください"}],
    "stream": true
  }'

これにより、トークンが生成されると同時にストリーミングされます。

生成エンドポイント

チャット以外のプロンプトの場合：

curl http://localhost:11434/api/generate \
  -d '{
    "model": "qwen3.5:0.8b",
    "prompt": "コーディングに関する俳句を書いてください",
    "stream": false
  }'

アプリケーションとの統合

Pythonとの統合

import requests

url = "http://localhost:11434/api/chat"
payload = {
    "model": "qwen3.5:0.8b",
    "messages": [
        {"role": "user", "content": "再帰を説明してください"}
    ],
    "stream": False
}

response = requests.post(url, json=payload)
result = response.json()
print(result["message"]["content"])

JavaScript/Node.jsとの統合

const response = await fetch('http://localhost:11434/api/chat', {
  method: 'POST',
  headers: {'Content-Type': 'application/json'},
  body: JSON.stringify({
    model: "qwen3.5:0.8b",
    messages: [{role: 'user', content: 'APIとは何ですか？'}]
  })
});

const data = await response.json();
console.log(data.message.content);

Apidogでの統合のテスト

Ollamaを呼び出すアプリケーションを構築する際には、APIテストツールを使用して応答を検証します。ApidogでOllama APIをテストする方法は次のとおりです。

`http://localhost:11434/api/chat`への新しいPOSTリクエストを作成します。
Content-Typeを`application/json`に設定します。
リクエストボディを追加します。

{
  "model": "qwen3.5:0.8b",
  "messages": [{"role": "user", "content": "こんにちは"}],
  "stream": false
}

ApidogがOllama APIエンドポイントをテストしているスクリーンショット

Apidogを使用すると、応答品質を検証し、さまざまなプロンプトをテストし、ローカルLLMエンドポイントを監視する自動テストケースを作成できます。これにより、本番環境で統合が確実に機能するようになります。

パフォーマンスとハードウェア要件

GPUアクセラレーション

Ollamaは利用可能な場合に自動的にGPUを使用します。

Apple Silicon (M1/M2/M3)：Metalを使用、非常に効率的
NVIDIA GPU：CUDAを使用、優れたパフォーマンス
AMD GPU：LinuxでROCmを使用
CPUのみ：動作するが遅い

予想されるパフォーマンス

モデル	GPU	トークン/秒 (概算)
0.8B	M1/M2	40-50
2B	M1/M2	20-30
4B	M1/M2	10-15
9B	M3 Max	15-20

CPUのみの推論は大幅に遅くなります（5〜10倍）。

メモリ要件

モデルごとの最小RAM：

0.8B：2GBの利用可能なRAM
2B：4GBの利用可能なRAM
4B：8GBの利用可能なRAM
9B：16GBの利用可能なRAM

最小限よりも多くのRAMがあると、応答性が向上します。

よくある問題のトラブルシューティング

「Ollamaが見つかりません」

OllamaがPATHに含まれていることを確認してください。Mac/Linuxでは、インストール後にターミナルを再起動してください。

パフォーマンスが遅い

GPUが使用されているか確認する：`ollama list`でモデル情報が表示されます
CPUのみの場合：速度が遅くなることを想定してください
他のGPUアプリケーションを閉じます

モデルのダウンロードに失敗する

より高速なインターネット接続で再度試してください。VPNを使用している場合は、VPNなしで試してください。

API接続が拒否される

Ollamaが実行されていることを確認してください：`ollama serve`（通常は自動的に実行されます）

メモリ不足

より小さなモデルを使用してください。9BモデルはかなりのRAMを必要とします。他のアプリケーションを閉じてください。

結論

Ollamaは、Qwen 3.5モデルをローカルで簡単に実行できるようにします。AIアプリケーションを構築する開発者であっても、単にローカルLLMを試したいだけであっても、このプロセスは数時間ではなく数分で完了します。

Qwen 3.5の強力な多言語機能とOllamaのシンプルなインターフェースの組み合わせは、ローカルAIを始める最も簡単な方法の1つです。

次のステップ：Ollama APIをセットアップしたら、Apidogを使用して、応答品質を検証し、さまざまなプロンプトをテストし、ローカルLLMエンドポイントを監視する自動テストケースを作成します。Apidogを無料で使い始めましょう。

button

よくある質問

Ollamaと他のデプロイメント方法との違いは何ですか？

Ollamaはシンプルさを追求して設計されています。Dockerや手動でのモデルデプロイとは異なり、シンプルなコマンドで（モデルのダウンロード、GPUアクセラレーション、API提供など）すべてを処理します。

Ollamaを他のQwenモデルと組み合わせて使用できますか？

はい、Ollamaは多くのモデルをサポートしています。完全なリストについては、ollama.com/libraryをご確認ください。

OllamaでQwenモデルを更新するにはどうすればよいですか？

最新バージョンをプルしてください：`ollama pull qwen2.5:2b`。これにより、利用可能な更新がダウンロードされます。

複数のモデルを同時に実行できますか？

はい、ただし各モデルはメモリを使用します。ほとんどのシステムでは1〜2個のモデルを同時に実行できます。

Ollamaを使用した場合、私のデータは安全ですか？

はい。すべてローカルで実行されます。外部サーバーにデータが送信されることはありません。

Ollamaを使用してQwenモデルをファインチューニングできますか？

Ollamaは推論専用です。ファインチューニングには、LoRAアダプターのような他のツールが必要になります。

Ollamaが使用するポートを変更するにはどうすればよいですか？

実行する前にOLLAMA_HOST環境変数を設定してください：`export OLLAMA_HOST=0.0.0.0:8080`