Blog

Apa itu LangWatch, Cara Install dan Menggunakan LangWatch

Ashley Goolam

Ashley Goolam

18 July 2025

Apa itu LangWatch, Cara Install dan Menggunakan LangWatch

Sulit mengevaluasi dan mengoptimalkan pipeline model bahasa besar (LLM) Anda? Hadir LangWatch, platform pengubah permainan yang memudahkan Anda untuk memantau, mengevaluasi, dan menyempurnakan alur kerja LLM kustom Anda. Dalam panduan ini, kita akan menyelami apa itu LangWatch, mengapa ini luar biasa, dan cara menginstal serta menggunakannya untuk meningkatkan proyek AI Anda. Kita akan membahas pengaturan chatbot sederhana, mengintegrasikan LangWatch, dan mengujinya dengan contoh pertanyaan—semuanya sambil menjaga agar mudah diikuti. Mari kita mulai!

💡
Menginginkan alat Pengujian API hebat yang menghasilkan Dokumentasi API yang indah?

Menginginkan platform Terintegrasi, All-in-One untuk Tim Pengembang Anda bekerja sama dengan produktivitas maksimum?

Apidog memenuhi semua permintaan Anda, dan menggantikan Postman dengan harga yang jauh lebih terjangkau!
button

Apa Itu LangWatch dan Mengapa Anda Harus Peduli?

LangWatch adalah platform pilihan Anda untuk mengatasi masalah sulit evaluasi LLM. Berbeda dengan model tradisional dengan metrik standar seperti skor F1 untuk klasifikasi, BLEU untuk terjemahan, atau ROUGE untuk ringkasan, LLM generatif bersifat non-deterministik dan sulit untuk ditentukan. Ditambah lagi, setiap perusahaan memiliki data, model yang disesuaikan, dan pipeline kustomnya sendiri, membuat evaluasi menjadi sakit kepala. Di sinilah LangWatch bersinar!

LangWatch memungkinkan Anda untuk:

Baik Anda membangun chatbot, alat terjemahan, atau aplikasi AI kustom, LangWatch membantu Anda memastikan LLM Anda memberikan hasil terbaik. Siap melihatnya beraksi? Mari kita instal dan gunakan LangWatch!

langwatch official website

Panduan Langkah demi Langkah untuk Menginstal dan Menggunakan LangWatch

Prasyarat

Sebelum kita mulai, Anda akan membutuhkan:

Langkah 1: Daftar untuk LangWatch

Buat Akun:

Dapatkan Kunci API Anda:

create an account with langwatch

Langkah 2: Siapkan Proyek Python dengan LangWatch

Mari kita buat proyek Python dan integrasikan LangWatch untuk melacak chatbot sederhana.

  1. Buat Folder Proyek:
mkdir langwatch-demo
cd langwatch-demo

2. Siapkan Lingkungan Virtual:

python -m venv venv
source venv/bin/activate  # Di Windows: venv\Scripts\activate

3. Instal LangWatch dan Dependensi:

pip install langwatch chainlit openai

4. Buat Kode Chatbot:

import os
import chainlit as cl
import asyncio
from openai import AsyncClient

openai_client = AsyncClient()  # Asumsi OPENAI_API_KEY diatur di lingkungan
model_name = "gpt-4o-mini"
settings = {
    "temperature": 0.3,
    "max_tokens": 500,
    "top_p": 1,
    "frequency_penalty": 0,
    "presence_penalty": 0,
}

@cl.on_chat_start
async def start():
    cl.user_session.set(
        "message_history",
        [
            {
                "role": "system",
                "content": "You are a helpful assistant that only reply in short tweet-like responses, using lots of emojis."
            }
        ]
    )

async def answer_as(name: str):
    message_history = cl.user_session.get("message_history")
    msg = cl.Message(author=name, content="")
    stream = await openai_client.chat.completions.create(
        model=model_name,
        messages=message_history + [{"role": "user", "content": f"speak as {name}"}],
        stream=True,
        **settings,
    )
    async for part in stream:
        if token := part.choices[0].delta.content or "":
            await msg.stream_token(token)
    message_history.append({"role": "assistant", "content": msg.content})
    await msg.send()

@cl.on_message
async def main(message: cl.Message):
    message_history = cl.user_session.get("message_history")
    message_history.append({"role": "user", "content": message.content})
    await asyncio.gather(answer_as("AI Bites"))

5. Atur Kunci API OpenAI Anda:

export OPENAI_API_KEY="kunci-api-openai-anda"  # Di Windows: set OPENAI_API_KEY=kunci-api-openai-anda

6. Jalankan Chatbot:

chainlit run app.py
test chainlit application

Langkah 3: Integrasikan LangWatch untuk Pelacakan

Sekarang, mari kita tambahkan LangWatch untuk melacak pesan chatbot.

  1. Modifikasi app.py untuk LangWatch:
import os
import chainlit as cl
import asyncio
import langwatch
from openai import AsyncClient

openai_client = AsyncClient()
model_name = "gpt-4o-mini"
settings = {
    "temperature": 0.3,
    "max_tokens": 500,
    "top_p": 1,
    "frequency_penalty": 0,
    "presence_penalty": 0,
}

@cl.on_chat_start
async def start():
    cl.user_session.set(
        "message_history",
        [
            {
                "role": "system",
                "content": "You are a helpful assistant that only reply in short tweet-like responses, using lots of emojis."
            }
        ]
    )

async def answer_as(name: str):
    message_history = cl.user_session.get("message_history")
    msg = cl.Message(author=name, content="")
    stream = await openai_client.chat.completions.create(
        model=model_name,
        messages=message_history + [{"role": "user", "content": f"speak as {name}"}],
        stream=True,
        **settings,
    )
    async for part in stream:
        if token := part.choices[0].delta.content or "":
            await msg.stream_token(token)
    message_history.append({"role": "assistant", "content": msg.content})
    await msg.send()

@cl.on_message
@langwatch.trace()
async def main(message: cl.Message):
    message_history = cl.user_session.get("message_history")
    message_history.append({"role": "user", "content": message.content})
    await asyncio.gather(answer_as("AI Bites"))

2. Uji Integrasi:

chainlit run app.py
langwatch trace message

Langkah 4: Siapkan Alur Kerja untuk Mengevaluasi Chatbot Anda

Mari kita buat dataset dan evaluator di LangWatch untuk menilai kinerja chatbot.

  1. Buat Dataset:
Pertanyaan Jawaban yang Diharapkan
Apa kata bahasa Prancis untuk hari ini? Aujourd’hui

2. Siapkan Evaluator:

workflow structure

3. Jalankan Evaluator:

run the llm answer match

Anda akan melihat sesuatu seperti:

pop up result

4. Evaluasi Alur Kerja:

evaluate the entire llm workfolw

Langkah 5: Optimalkan Alur Kerja Anda

Setelah evaluasi Anda selesai, mari kita optimalkan kinerja chatbot.

1. Jalankan Optimasi:

start the llm optimization process

2. Periksa Peningkatan:

workflow optimization results

Langkah 6: Pengaturan LangWatch Lokal Opsional

Ingin menjalankan LangWatch secara lokal untuk pengujian dengan data sensitif? Ikuti langkah-langkah ini:

  1. Kloning Repositori:
git clone https://github.com/langwatch/langwatch.git
cd langwatch

2. Siapkan Lingkungan:

cp langwatch/.env.example langwatch/.env

3. Jalankan dengan Docker:

docker compose up -d --wait --build

4. Akses Dasbor:

Catatan: Pengaturan Docker hanya untuk pengujian dan tidak dapat diskalakan untuk produksi. Untuk produksi, gunakan LangWatch Cloud atau Enterprise On-Premises.

Mengapa Menggunakan LangWatch?

LangWatch memecahkan teka-teki evaluasi LLM dengan menyediakan platform terpadu untuk memantau, mengevaluasi, dan mengoptimalkan pipeline AI Anda. Baik Anda menyempurnakan prompt, menganalisis kinerja, atau memastikan chatbot Anda memberikan jawaban yang akurat (seperti "Aujourd’hui" untuk "today" dalam bahasa Prancis), LangWatch membuatnya mudah. Integrasinya dengan Python dan alat seperti Chainlit dan OpenAI berarti Anda dapat mulai melacak dan meningkatkan aplikasi LLM Anda dalam hitungan menit.

Misalnya, chatbot demo kami sekarang merespons dalam semburan mirip tweet dengan emoji, dan LangWatch membantu memastikan itu akurat dan dioptimalkan. Ingin meningkatkan skala? Tambahkan lebih banyak pertanyaan ke dataset Anda atau bereksperimen dengan model LLM yang berbeda di evaluator.

Kesimpulan

Begitulah! Anda telah mempelajari apa itu LangWatch, cara menginstalnya, dan cara menggunakannya untuk memantau dan mengoptimalkan chatbot. Dari menyiapkan proyek Python hingga melacak pesan dan mengevaluasi kinerja dengan dataset, LangWatch memberdayakan Anda untuk mengendalikan pipeline LLM Anda. Pertanyaan uji kami—"Apa kata bahasa Prancis untuk hari ini?"—menunjukkan betapa mudahnya melacak dan meningkatkan respons AI.

Siap meningkatkan permainan AI Anda? Kunjungi app.langwatch.ai, daftar, dan mulai bereksperimen dengan LangWatch hari ini.

💡
Menginginkan alat Pengujian API hebat yang menghasilkan Dokumentasi API yang indah?

Menginginkan platform Terintegrasi, All-in-One untuk Tim Pengembang Anda bekerja sama dengan produktivitas maksimum?

Apidog memenuhi semua permintaan Anda, dan menggantikan Postman dengan harga yang jauh lebih terjangkau!
button

Mengembangkan API dengan Apidog

Apidog adalah alat pengembangan API yang membantu Anda mengembangkan API dengan lebih mudah dan efisien.

Daftar gratisUnduh