Ollama nâng cao khả năng AI cục bộ với API tìm kiếm web và MCP Server mới. Các nhà phát triển giờ đây có thể truy cập thông tin thời gian thực để tăng cường hiệu suất mô hình. Hơn nữa, bản cập nhật này hợp lý hóa việc tích hợp công cụ trên nhiều client khác nhau.
Ollama là một nền tảng mạnh mẽ để chạy các mô hình ngôn ngữ lớn cục bộ. Các kỹ sư tận dụng nó để triển khai các mô hình mà không cần phụ thuộc vào các dịch vụ đám mây. Tuy nhiên, việc bổ sung API tìm kiếm web đã mở rộng phạm vi của nó. API này cho phép các mô hình truy vấn internet trực tiếp. Do đó, các ứng dụng xử lý các sự kiện hiện tại và dữ liệu động hiệu quả hơn.
MCP Server bổ sung điều này bằng cách cung cấp một giao thức chuẩn hóa để trao đổi ngữ cảnh. Các nhà phát triển kết nối các mô hình với các công cụ bên ngoài một cách dễ dàng. Ví dụ, MCP Server tích hợp với các client như Cline, Codex và Goose. Thiết lập này cho phép các quy trình làm việc phức tạp, nơi các mô hình tương tác với kết quả tìm kiếm web trong thời gian thực.
Chuyển sang các chi tiết kỹ thuật, API tìm kiếm web của Ollama hoạt động thông qua các endpoint REST. Người dùng gửi yêu cầu POST đến https://ollama.com/api/web_search với một tham số truy vấn. Hệ thống trả về các kết quả liên quan, giới hạn tối đa 10 theo mặc định. Ngoài ra, API tìm nạp web tại https://ollama.com/api/web_fetch truy xuất nội dung từ các URL cụ thể. Cả hai đều yêu cầu khóa API từ tài khoản Ollama.
Ollama đảm bảo khả năng truy cập trên các nền tảng. Trên macOS, người dùng cài đặt qua Homebrew. Người dùng Windows tải xuống tệp thực thi trực tiếp. Linux hỗ trợ các trình quản lý gói đơn giản. Bất kể nền tảng nào, API đều tích hợp đồng nhất.
Những điều nhà phát triển cần biết về Ollama
Ollama cung cấp khả năng suy luận cục bộ cho các mô hình như Llama và Qwen. Nó tải xuống các mô hình lượng tử hóa một cách hiệu quả. Người dùng kéo các mô hình bằng các lệnh như ollama pull qwen3:4b. Quá trình này tối ưu hóa cho các phần cứng như GPU NVIDIA hoặc Apple Silicon.
Hơn nữa, Ollama hỗ trợ các tác vụ đa phương thức. Ví dụ, nó xử lý hình ảnh và video cùng với văn bản. Nền tảng này phát triển nhanh chóng, với các bản cập nhật nâng cao khả năng lập lịch và xử lý ngữ cảnh.
Các nhà phát triển đánh giá cao tính chất mã nguồn mở của Ollama. Họ tùy chỉnh các mô hình mà không bị ràng buộc bởi nhà cung cấp. Tuy nhiên, những hạn chế phát sinh với kiến thức tĩnh. Các mô hình được đào tạo trên dữ liệu cũ gặp khó khăn với thông tin gần đây. Tại đây, API tìm kiếm web can thiệp.
API của Ollama giải quyết khoảng trống này. Nó bổ sung phản hồi bằng dữ liệu mới. Kết quả là, hiện tượng ảo giác giảm đáng kể. Các kỹ sư xây dựng các ứng dụng đáng tin cậy cho nghiên cứu hoặc tự động hóa.
Chuyển sang MCP Server, thành phần này chuẩn hóa các tương tác. MCP, hay Giao thức Ngữ cảnh Mô hình, tạo điều kiện trao đổi dữ liệu giữa các mô hình và hệ thống. Ollama triển khai MCP Server bằng Python, cho phép sử dụng công cụ liền mạch.
Ví dụ, MCP Server cho phép các thao tác tệp, tính toán và truy cập web. Các nhà phát triển cấu hình nó cho các LLM cục bộ, mở rộng khả năng vượt ra ngoài suy luận cơ bản.
Khám phá chuyên sâu API tìm kiếm web của Ollama
API tìm kiếm web của Ollama cung cấp các kết quả có cấu trúc. Người dùng chỉ định các truy vấn và max_results tùy chọn. Phản hồi bao gồm các đoạn trích, URL và siêu dữ liệu. Định dạng này hỗ trợ việc phân tích cú pháp cho các tác nhân.
Để tích hợp, các nhà phát triển sử dụng thư viện Python. Cài đặt bằng pip install ollama. Sau đó, gọi ollama.web_search(query="example"). Hàm này xử lý xác thực thông qua các biến môi trường.
Tương tự, người dùng JavaScript sử dụng ollama-js. Nhập module và gọi Ollama().webSearch({query: "example"}). Các ví dụ trong kho lưu trữ minh họa cách xử lý lỗi và thử lại.
cURL cung cấp một tùy chọn cấp thấp. Tạo các yêu cầu với tiêu đề cho Xác thực (Authorization). Cách tiếp cận này phù hợp cho việc viết script hoặc kiểm thử.
Tuy nhiên, Apidog nâng cao quá trình này. Là một công cụ quản lý API, Apidog trực quan hóa các endpoint và tham số. Nó tạo ra các đoạn mã cho API của Ollama, đẩy nhanh quá trình phát triển.
API hỗ trợ các ngữ cảnh dài. Kết quả có thể kéo dài hàng nghìn token. Do đó, các mô hình có cửa sổ mở rộng hoạt động tốt nhất. Ollama khuyến nghị tối thiểu 32.000 token.
Hơn nữa, endpoint tìm nạp bổ sung cho tìm kiếm. Nó trích xuất nội dung từ các URL, bỏ qua nhu cầu trình duyệt trực tiếp. Kết hợp cả hai để tạo ra các tác nhân toàn diện.
Bảo mật vẫn là tối quan trọng. Ollama yêu cầu khóa API, ngăn chặn truy cập trái phép. Người dùng tạo khóa tại https://ollama.com/settings/keys.
Chuyển sang ứng dụng thực tế, hãy xem xét một tác nhân nghiên cứu. Tác nhân này truy vấn tìm kiếm web, tìm nạp các trang và tổng hợp câu trả lời. Quy trình làm việc này vượt trội so với các mô hình tĩnh.
Giải mã MCP Server cho người dùng Ollama
MCP Server kết nối các mô hình và công cụ. Nó triển khai Giao thức Ngữ cảnh Mô hình (Model Context Protocol), một khuôn khổ để chia sẻ ngữ cảnh. Trong Ollama, một script Python chạy máy chủ.
Thiết lập bao gồm việc sao chép các kho lưu trữ và thiết lập môi trường. Ví dụ, uv run web-search-mcp.py sẽ khởi chạy nó. Các client kết nối thông qua các giao diện tương thích.
Cline cấu hình bằng các lệnh trong cài đặt. Thêm OLLAMA_API_KEY vào môi trường. Codex chỉnh sửa các tệp config.toml. Goose tuân theo các mẫu tương tự.
Sự tích hợp này mở khóa tìm kiếm web trong các client. Các mô hình gọi các công cụ một cách linh hoạt, tăng cường khả năng tương tác.
Hơn nữa, MCP Server hỗ trợ các tiện ích mở rộng. Các nhà phát triển thêm các công cụ tùy chỉnh cho email, GitHub hoặc hình ảnh. Tính linh hoạt này định vị Ollama là cơ sở hạ tầng cho các tác nhân.
Trên Windows với NVIDIA, việc cài đặt bao gồm trình điều khiển CUDA. Linux sử dụng Docker để cách ly. macOS hưởng lợi từ khả năng tăng tốc gốc.
Chuyển sang các thiết lập nâng cao, hãy nhóm nhiều MCP Server. Điều này phân phối tải cho quy mô doanh nghiệp.
Cách tích hợp API của Ollama và MCP Server
Tích hợp bắt đầu bằng việc tạo tài khoản. Đăng ký miễn phí tại trang web của Ollama. Tạo khóa API ngay lập tức.
Tiếp theo, cài đặt Ollama cục bộ. Chạy ollama serve để khởi động máy chủ. Kéo các mô hình phù hợp cho các công cụ, như gpt-oss.
Đối với tìm kiếm web, hãy đặt OLLAMA_API_KEY. Kiểm tra với Python:
import ollama
response = ollama.web_search(query="latest AI news", max_results=5)
print(response)
Điều này trả về JSON với các kết quả.
Để tích hợp MCP Server, hãy tải xuống các ví dụ từ GitHub. Chạy script và cấu hình các client.
Đối với Cline: Chỉnh sửa cấu hình để trỏ đến endpoint MCP. Kiểm tra các lời nhắc gọi tìm kiếm.
Codex yêu cầu cập nhật toml. Chỉ định lệnh và đối số.
Goose tích hợp thông qua cài đặt MCP, cho phép các công cụ web.
Hơn nữa, xây dựng các tác nhân tùy chỉnh. Sử dụng các vòng lặp để xử lý các tương tác đa lượt. Phân tích các lệnh gọi công cụ và trả về kết quả.
Xử lý lỗi là rất quan trọng. Thực hiện thử lại cho các giới hạn tốc độ. Giám sát việc sử dụng để duy trì trong các cấp.
Apidog hỗ trợ ở đây. Nó mô phỏng phản hồi, kiểm tra xác thực và tài liệu hóa các quy trình làm việc. Tải xuống Apidog để tạo mẫu tích hợp Ollama một cách nhanh chóng.
Xây dựng các tác nhân tìm kiếm mạnh mẽ với Ollama
Các tác nhân đại diện cho một trường hợp sử dụng cốt lõi. Ollama cung cấp các ví dụ với Qwen 3.
Kéo mô hình: ollama pull qwen3:4b.
Trong Python, định nghĩa các công cụ:
tools = [
{"type": "function", "function": {"name": "web_search", "description": "Search the web"}},
{"type": "function", "function": {"name": "web_fetch", "description": "Fetch URL content"}}
]
Vòng lặp trò chuyện xử lý tin nhắn, gọi công cụ và thêm kết quả.
Tác nhân này trả lời các truy vấn như "Thời tiết hiện tại ở Tokyo là gì?" bằng cách tìm kiếm và tìm nạp.
Mở rộng sang thị giác: Phân tích hình ảnh thông qua các mô hình đa phương thức, sau đó tìm kiếm ngữ cảnh.
Chuyển sang tối ưu hóa, tăng độ dài ngữ cảnh. Các mô hình đám mây xử lý đến toàn bộ dung lượng.
Các tác nhân giảm chi phí bằng cách giảm thiểu các lệnh gọi không cần thiết. Lưu trữ kết quả cục bộ.
Hơn nữa, kết hợp với các API khác. Tích hợp cơ sở dữ liệu hoặc các công cụ tính toán thông qua MCP.
Chi tiết giá cả cho Ollama trên các nền tảng
Ollama cung cấp giá theo cấp. Gói cơ bản miễn phí, với giới hạn tìm kiếm hào phóng. Điều này phù hợp cho những người có sở thích và thử nghiệm.
Đối với sản xuất, hãy nâng cấp gói đăng ký. Truy cập đám mây bắt đầu từ khoảng 20 đô la mỗi tháng, dựa trên các cuộc thảo luận cộng đồng. Các cấp cao hơn cung cấp các truy vấn không giới hạn và hỗ trợ ưu tiên.
Các nền tảng ảnh hưởng gián tiếp đến chi phí. Chạy cục bộ trên macOS, Windows, Linux không phát sinh phí ngoài phần cứng. Các mô hình đám mây tính phí theo mức sử dụng.
API tìm kiếm web tính phí mỗi lệnh gọi trong các gói nâng cao. Tuy nhiên, các gói miễn phí đáp ứng hầu hết các nhu cầu.
So sánh với các lựa chọn thay thế: Tìm kiếm của OpenAI có giá 10 đô la cho mỗi 1 nghìn lệnh gọi. Ollama vượt trội hơn về giá cho người dùng ưu tiên cục bộ.
Các doanh nghiệp tính toán ROI. Suy luận cục bộ tiết kiệm chi phí truyền dữ liệu, trong khi API thêm chi phí phụ tối thiểu.
Chuyển sang lập ngân sách, giám sát qua bảng điều khiển. Ollama cung cấp số liệu thống kê sử dụng.
Các trường hợp sử dụng và ví dụ thực tế
Các nhà phát triển áp dụng điều này trong chatbot. Một bot tìm kiếm tin tức, tìm nạp bài viết, tóm tắt.
Trong giáo dục, các công cụ truy vấn sự thật, giảm lỗi.
Các nhà nghiên cứu xây dựng các tác nhân để đánh giá tài liệu. Tìm kiếm các trang web học thuật, tìm nạp PDF.
Thương mại điện tử tích hợp để đề xuất sản phẩm. Tìm kiếm xu hướng, tìm nạp đánh giá.
Ví dụ mã cho tác nhân:
import ollama
import json
def run_agent(prompt):
messages = [{"role": "user", "content": prompt}]
while True:
response = ollama.chat(model="qwen3:4b", messages=messages, tools=tools)
if "tool_calls" in response["message"]:
for call in response["message"]["tool_calls"]:
if call["function"]["name"] == "web_search":
args = json.loads(call["function"]["arguments"])
result = ollama.web_search(**args)
messages.append({"role": "tool", "content": str(result)})
else:
return response["message"]["content"]
Vòng lặp này xử lý các lần lặp.
Hơn nữa, sử dụng thị giác: Mô tả hình ảnh, tìm kiếm các kết quả phù hợp.
Các doanh nghiệp tự động hóa báo cáo. Các tác nhân biên soạn dữ liệu từ các nguồn web.
Lợi ích khi áp dụng các tính năng mới của Ollama
Ollama tăng cường quyền riêng tư. Dữ liệu vẫn ở cục bộ, với các lệnh gọi API là tùy chọn.
Độ chính xác được cải thiện thông qua việc bổ sung thời gian thực. Các mô hình xử lý các chủ đề đang phát triển.
Khả năng mở rộng theo sau. MCP Server phân phối các tác vụ.
Hiệu quả chi phí nổi bật. Các gói miễn phí giảm thiểu chi phí.
Năng suất của nhà phát triển tăng lên. Các tích hợp như Apidog tăng tốc quy trình làm việc.
Chuyển sang cộng đồng, các diễn đàn thảo luận về tối ưu hóa.
Hệ sinh thái phát triển. Các công cụ như OpenWebUI giao tiếp với Ollama.
Những thách thức và giải pháp tiềm năng
Thách thức bao gồm giới hạn tốc độ. Giải pháp: Nâng cấp gói đăng ký.
Hạn chế phần cứng giới hạn các mô hình. Sử dụng các biến thể đám mây.
Phức tạp trong tích hợp phát sinh. Theo dõi tài liệu và ví dụ.
Bảo mật: Xoay vòng khóa API thường xuyên.
Gỡ lỗi tác nhân yêu cầu ghi nhật ký. Triển khai chế độ chi tiết.
Hơn nữa, kiểm tra trên các nền tảng để đảm bảo tính nhất quán.
Tổng kết những tiến bộ của Ollama
API tìm kiếm web và MCP Server của Ollama đánh dấu một bước tiến đáng kể. Các nhà phát triển tận dụng chúng để tạo ra các ứng dụng mạnh mẽ. Với các gói miễn phí và hỗ trợ đa nền tảng, việc áp dụng đang tăng tốc. Hãy khám phá thêm, tích hợp với Apidog và xây dựng thế hệ công cụ AI tiếp theo.