Nếu bạn muốn xây dựng một ứng dụng LLM hoặc một tác nhân AI mà không cần kết nối từng thành phần trong Python, Flowise cung cấp cho bạn một giao diện trực quan thay thế. Đây là một công cụ mã nguồn mở, low-code, nơi bạn kéo và thả các node, kết nối chúng, và có được một quy trình làm việc AI hoạt động với một điểm cuối API ở cuối. Hướng dẫn này giải thích Flowise là gì, sự khác biệt giữa chatflow và agentflow của nó, cách bạn triển khai nó và cách bạn kiểm tra điểm cuối dự đoán cũng như các API mà luồng của bạn gọi. Nếu bạn đã đọc bài giải thích của chúng tôi về LangGraph, Flowise nằm ở thái cực đối lập: ưu tiên trực quan thay vì ưu tiên mã. Bạn có thể đọc README của dự án trên GitHub để biết mã nguồn.
Flowise là gì
Flowise là một nền tảng phát triển AI tạo sinh mã nguồn mở để xây dựng các tác nhân AI và quy trình làm việc LLM. Nó được phát hành theo giấy phép Apache 2.0, vì vậy bạn có thể chạy nó cục bộ, tự host hoặc fork nó.
Ý tưởng cốt lõi là một canvas dựa trên node. Mỗi node là một khối xây dựng: một mô hình trò chuyện, một kho vectơ, một bộ tải tài liệu, một mô-đun bộ nhớ, một bộ truy xuất, một công cụ. Bạn kéo chúng vào canvas, vẽ các kết nối giữa chúng, và các kết nối đó định nghĩa cách dữ liệu chảy. Khi luồng hoàn tất, Flowise sẽ hiển thị nó dưới dạng một API REST mà bạn có thể gọi từ bất kỳ ứng dụng nào.
Về bản chất, Flowise kết nối các thành phần từ các framework như LangChain và LlamaIndex. Vì vậy, các khái niệm trừu tượng sẽ quen thuộc nếu bạn đã sử dụng một trong hai: chains, agents, vector stores, query engines. Sự khác biệt là bạn lắp ráp chúng bằng cách nhấp và kết nối thay vì nhập các lớp và gọi các hàm tạo. Đó là sự đánh đổi mà Flowise thực hiện. Bạn từ bỏ một số kiểm soát chi tiết và bạn có được tốc độ cũng như một mô hình trực quan chung mà toàn bộ nhóm của bạn có thể đọc được.
Chatflows, agentflows và Assistants
Flowise cung cấp cho bạn ba loại trình xây dựng, và việc chọn đúng loại rất quan trọng.
| Loại trình xây dựng | Phù hợp nhất cho | Phạm vi |
|---|---|---|
| Assistant | Người mới bắt đầu; trợ lý trò chuyện tuân theo hướng dẫn, sử dụng công cụ và thực hiện RAG trên các tệp đã tải lên | Hẹp nhất, được hướng dẫn nhiều nhất |
| Chatflow | Hệ thống tác nhân đơn, chatbot, các luồng LLM đơn giản hơn; hỗ trợ Graph RAG và rerankers | Tác nhân đơn |
| Agentflow | Hệ thống đa tác nhân và điều phối phức tạp với phân nhánh, lặp và định tuyến | Rộng nhất; là một tập hợp siêu của Chatflow và Assistant |
Một chatflow là luồng Flowise cổ điển. Bạn xây dựng một quy trình logic: nhận một câu hỏi, truy xuất ngữ cảnh, gọi một mô hình, trả về một câu trả lời. Nó xử lý tốt chatbot tác nhân đơn và RAG.
Một agentflow là canvas lớn hơn. Flowise định vị nó là một tập hợp siêu của chatflow và assistant. Đây là nơi bạn xây dựng các hệ thống đa tác nhân, định tuyến giữa các nhánh, lặp và chạy các điều phối quy trình làm việc phức tạp hơn. Nếu thiết kế của bạn có nhiều tác nhân giao việc cho nhau, agentflow là lớp bạn muốn.
Assistant là tùy chọn được hướng dẫn nhiều nhất. Bạn cung cấp hướng dẫn, gắn các công cụ và chỉ nó vào các tệp để truy xuất. Đó là cách nhanh nhất để có được thứ gì đó hữu ích mà không cần nghĩ về cấu trúc đồ thị.
Cách một luồng được hình thành trên canvas
Xây dựng trong Flowise trông như thế này. Bạn bắt đầu một chatflow, sau đó thêm các node từ bảng điều khiển bên trái.
- Kéo một node mô hình trò chuyện và chọn nhà cung cấp (OpenAI, Anthropic, một mô hình cục bộ, v.v.).
- Thêm bộ tải tài liệu và kho vectơ nếu bạn cần truy xuất.
- Thêm một node bộ nhớ để luồng ghi nhớ cuộc trò chuyện.
- Kết nối các đầu ra với đầu vào để ngữ cảnh chảy vào mô hình.
- Lưu, sau đó mở bảng trò chuyện để kiểm tra trực tiếp.
Trình chỉnh sửa trực quan hỗ trợ các biểu thức, các node mã tùy chỉnh, phân nhánh, lặp và logic định tuyến. Vì vậy, bạn không bị giới hạn. Khi một node không tồn tại cho trường hợp của bạn, bạn viết một node hàm tùy chỉnh nhỏ và giữ phần còn lại trực quan.
Triển khai Flowise và điểm cuối dự đoán REST
Flowise chạy như một ứng dụng Node trên cổng 3000 theo mặc định. Cách khởi động nhanh nhất là npm:
npm install -g flowise
npx flowise start
# open http://localhost:3000
Để triển khai lặp lại, hãy sử dụng Docker:
docker run -d --name flowise -p 3000:3000 flowiseai/flowise
Flowise cũng hỗ trợ triển khai tự host và air-gapped, điều này quan trọng nếu dữ liệu của bạn không thể rời khỏi mạng của bạn.
Sau khi một luồng được lưu, Flowise biến nó thành một API REST. Tài liệu dự đoán chính thức bao gồm định dạng yêu cầu đầy đủ. Mọi chatflow và agentflow đều có điểm cuối dự đoán riêng:
POST /api/v1/prediction/{id}
{id} là ID của luồng. Bạn gửi một body JSON với ít nhất một trường question, và bạn nhận lại phản hồi của luồng. Một lệnh gọi tối thiểu trông như thế này:
curl -X POST http://localhost:3000/api/v1/prediction/<flow-id> \
-H "Content-Type: application/json" \
-d '{"question": "What are your store hours?"}'
Body yêu cầu hỗ trợ nhiều hơn là chỉ câu hỏi. Bạn có thể truyền streaming để phát trực tiếp các token, overrideConfig để thay đổi cài đặt luồng theo yêu cầu, history để gieo các lượt trước đó và uploads cho hình ảnh hoặc âm thanh. Khi streaming bật, Flowise phát ra các sự kiện như start, token và metadata, sau đó là một sự kiện end cuối cùng. Flowise cũng cung cấp các SDK Python và TypeScript chính thức bao bọc điểm cuối này.
Điểm cuối duy nhất đó là hợp đồng giữa Flowise và phần còn lại của ngăn xếp công nghệ của bạn. Giao diện người dùng, backend, các dịch vụ khác của bạn đều giao tiếp với luồng thông qua nó. Đây chính xác là lý do tại sao nó đáng để kiểm tra cẩn thận.
Khi nào low-code phù hợp, và khi nào code-first chiến thắng
Flowise là một lựa chọn tốt khi bạn muốn tốc độ, một mô hình trực quan chung và khả năng lặp lại nhanh chóng. Các bản thử nghiệm, chatbot nội bộ, trợ lý RAG trên một bộ tài liệu và các bản demo đều được tạo ra nhanh chóng. Những người không phải là kỹ sư trong nhóm có thể đọc canvas và hiểu tác nhân làm gì, điều này khó có được từ một tệp Python.
Các framework ưu tiên mã (code-first) vượt trội khi bạn cần kiểm soát chặt chẽ. Nếu bạn đang quản lý phiên bản logic tác nhân trong Git với đầy đủ các bản khác biệt, viết các bài kiểm tra đơn vị dày đặc xung quanh mỗi bước, hoặc xây dựng các máy trạng thái khác thường, một thư viện như LangGraph hoặc Bộ công cụ phát triển tác nhân của Google sẽ cung cấp cho bạn nhiều không gian hơn. Điều tương tự áp dụng cho OpenAI Agents SDK khi các tác nhân của bạn dựa vào các lệnh gọi công cụ tùy chỉnh. Nhiều nhóm sử dụng cả hai: tạo mẫu trong Flowise, sau đó chuyển thiết kế đã được chứng minh sang mã khi các yêu cầu ổn định.
Sự thật là đây không phải là một lựa chọn nhị phân. Flowise có quyền truy cập API, CLI và SDK, cộng với các tính năng theo dõi, đánh giá và tương tác người-trong-vòng lặp, vì vậy nó có thể mở rộng hơn một công cụ đơn thuần. Nhưng logic của bạn càng giống phần mềm thực tế, thì một ngăn xếp ưu tiên mã càng mang lại nhiều lợi ích cho bạn.
Kiểm thử điểm cuối dự đoán và các API mà luồng của bạn gọi
Một tác nhân được xây dựng trong Flowise chỉ đáng tin cậy như các API đằng sau nó. Luồng gọi một API LLM, và nó thường gọi cả các công cụ bên ngoài hoặc API REST. Đó là những phần có thể gặp lỗi trong môi trường sản xuất, và chúng chính xác là những gì bạn có thể kiểm tra trong Apidog.
Bắt đầu với chính điểm cuối dự đoán. Xử lý POST /api/v1/prediction/{id} như bất kỳ điểm cuối REST nào khác. Trong Apidog, bạn đặt URL, gửi tải trọng question và viết khẳng định API để kiểm tra cấu trúc phản hồi và các trường chính. Chạy điều đó như một thử nghiệm tự động để một thay đổi luồng làm hỏng hợp đồng sẽ được phát hiện trước khi ứng dụng của bạn làm.
Sau đó kiểm tra các API cơ bản mà luồng của bạn phụ thuộc vào. Nhà cung cấp LLM và mọi điểm cuối công cụ đều có thể được gọi trực tiếp. Nếu bạn muốn phát triển với LLM mà không tốn token hoặc vượt quá giới hạn tốc độ, hãy trỏ luồng đến một API giả trả về các phản hồi được chuẩn bị sẵn, thực tế. Mánh tương tự cũng hiệu quả với API công cụ bên thứ ba không ổn định: giả lập nó, khẳng định luồng của bạn xử lý đúng cấu trúc và giữ cho bộ thử nghiệm của bạn có tính xác định. Có một hướng dẫn đầy đủ hơn trong hướng dẫn về công cụ kiểm thử tác nhân AI của chúng tôi.
Apidog cũng xử lý các phần nhàm chán nhưng quan trọng. Bạn lưu trữ khóa nhà cung cấp cho từng môi trường, vì vậy luồng phát triển của bạn sử dụng khóa thử nghiệm và môi trường sản xuất sử dụng khóa thật mà không cần thay đổi mã. Để tải xuống Apidog và thiết lập điều này chỉ mất vài phút.
Các câu hỏi thường gặp
Flowise có miễn phí và mã nguồn mở không?
Có. Flowise là mã nguồn mở theo giấy phép Apache 2.0, và bạn có thể chạy nó miễn phí bằng cách tự host với npm hoặc Docker. Ngoài ra còn có một tùy chọn đám mây được host nếu bạn không muốn quản lý cơ sở hạ tầng. Đối với các thiết lập riêng tư hoặc air-gapped, việc tự host giữ mọi thứ bên trong mạng của bạn.
Flowise có sử dụng LangChain không?
Flowise kết nối các thành phần từ cả LangChain và LlamaIndex. Các node trên canvas ánh xạ tới các khái niệm quen thuộc từ các framework đó: chains, agents, vector stores, retrievers và query engines. Bạn nhận được các khối xây dựng tương tự mà không cần tự viết mã kết nối.
Sự khác biệt giữa chatflow và agentflow là gì?
Một chatflow được xây dựng cho các hệ thống tác nhân đơn, chatbot và các pipeline LLM đơn giản hơn. Một agentflow là tập hợp siêu: nó xử lý các hệ thống đa tác nhân và điều phối phức tạp với phân nhánh, lặp và định tuyến. Bắt đầu với một chatflow cho một trợ lý đơn giản, và chuyển sang agentflow khi nhiều tác nhân cần phối hợp.
Làm cách nào để kiểm tra API của luồng Flowise?
Gọi điểm cuối dự đoán, POST /api/v1/prediction/{id}, với một body JSON chứa một question. Bạn có thể làm điều này bằng curl, các SDK chính thức hoặc một công cụ chuyên dụng. Trong Apidog, bạn gửi yêu cầu, khẳng định phản hồi, giả lập các API LLM và công cụ mà luồng gọi, và chạy tất cả trong CI. Để biết chi tiết về xác thực và streaming cụ thể cho các điểm cuối LLM, hãy xem hướng dẫn của chúng tôi về kiểm thử API ChatGPT với Apidog.
Tóm tắt
Flowise là con đường low-code để tạo ra các ứng dụng LLM và tác nhân AI. Bạn xây dựng trên một canvas node, chọn giữa chatflows, agentflows và assistants, và xuất ra một điểm cuối dự đoán REST mà không cần tự viết mã điều phối. Nó rất phù hợp cho các bản thử nghiệm và các luồng dễ đọc cho cả nhóm, và các framework ưu tiên mã vẫn chiến thắng khi bạn cần kiểm soát sâu. Dù bạn chọn con đường nào, luồng sẽ tồn tại hay không phụ thuộc vào các API mà nó gọi. Hãy kiểm tra điểm cuối dự đoán đó và giả lập các API LLM và công cụ đằng sau nó trong Apidog, và tác nhân của bạn sẽ hoạt động giống hệt trong môi trường sản xuất như trên canvas.