OpenAI GPT-3.5 Turbo dan GPT-4 (Harga Lebih Rendah & Model Baru)

Pada tanggal 13 Juni 2023, OpenAI mengumumkan serangkaian pembaruan pada rangkaian model bahasanya, termasuk peningkatan kemampuan kemudi, peningkatan kemampuan pemanggilan fungsi, jendela konteks yang diperluas, dan harga yang lebih rendah. Hanya dalam enam bulan, ChatGPT, model saudara dari InstructGPT yang dilatih untuk mengikuti instruksi dan memberikan respons terperinci, dengan cepat mendapatkan popularitas di seluruh dunia sejak diluncurkan pada 30 November 2022. Pembaruan ini mencakup enam area utama, dan kami sangat senang untuk membahas detailnya bersama Anda.

kemampuan pemanggilan fungsi baru di Chat Completions API
versi gpt-4 dan gpt-3.5-turbo yang diperbarui dan lebih mudah dikendalikan
versi konteks 16k baru dari gpt-3.5-turbo (vs versi standar 4k)
Pengurangan biaya 75% pada model embeddings kami yang canggih
Pengurangan biaya 25% pada token input untuk gpt-3.5-turbo
Pengumuman jadwal penghentian untuk model gpt-3.5-turbo-0301 dan gpt-4-0314

Pemanggilan fungsi

Pembaruan terbaru untuk GPT-4-0613 dan GPT-3.5-turbo-0613 memungkinkan pengembang untuk mendeskripsikan fungsi ke model, yang kemudian dapat menghasilkan objek JSON yang berisi argumen untuk memanggil fungsi tersebut. Ini memberikan cara baru bagi model GPT untuk terhubung dengan alat dan API eksternal untuk menghasilkan output data terstruktur.

Model telah disetel dengan baik untuk mendeteksi kapan suatu fungsi perlu dipanggil dan dapat merespons dengan JSON yang sesuai dengan tanda tangan fungsi. Hal ini memungkinkan pengembang untuk membuat chatbot yang menjawab pertanyaan dengan memanggil alat eksternal, mengubah bahasa alami menjadi panggilan API atau kueri database, dan mengekstrak data terstruktur dari teks. Parameter API baru mendukung pemanggilan fungsi tertentu, dan pengembang dapat merujuk ke dokumentasi pengembang untuk menambahkan evaluasi guna meningkatkan pemanggilan fungsi.

Contoh pemanggilan fungsi

Langkah 1·OpenAI API

Panggil model dengan fungsi dan input pengguna

Contoh kode permintaan:

curl https://api.openai.com/v1/chat/completions -u :$OPENAI_API_KEY -H 'Content-Type: application/json' -d '{
  "model": "gpt-3.5-turbo-0613",
  "messages": [
    {"role": "user", "content": "What is the weather like in Boston?"}
  ],
  "functions": [
    {
      "name": "get_current_weather",
      "description": "Get the current weather in a given location",
      "parameters": {
        "type": "object",
        "properties": {
          "location": {
            "type": "string",
            "description": "The city and state, e.g. San Francisco, CA"
          },
          "unit": {
            "type": "string",
            "enum": ["celsius", "fahrenheit"]
          }
        },
        "required": ["location"]
      }
    }
  ]
}'

Anda dapat menggunakan Apidog untuk mengirim permintaan cURL. Apidog adalah alat pengembangan dan pengujian API yang kuat yang menawarkan berbagai fitur dan manfaat bagi pengembang. Seperti Postman, Apidog memungkinkan pengguna untuk mengirim permintaan cURL, yang sangat berguna bagi mereka yang sudah familiar dengan cURL di terminal atau antarmuka baris perintah. Dengan memanfaatkan antarmuka Apidog yang mudah digunakan dan berbagai fungsi, Anda dapat membuat dan mengirim permintaan cURL bersama dengan jenis permintaan lain dengan sangat mudah. Hal ini memungkinkan pengembang untuk menguji API secara efisien, dengan cepat mengidentifikasi dan men-debug potensi masalah, dan memaksimalkan alur kerja pengembangan API mereka.

Baik Anda seorang pengembang berpengalaman atau baru memulai dengan pengujian API, fungsionalitas permintaan cURL Apidog adalah alat penting yang harus Anda miliki.

Anda perlu mengganti $OPENAI_API_KEY dengan parameter Key yang sebenarnya saat menempelkan perintah permintaan cURL.

Setelah mengklik tombol "kirim", Anda akan menerima serangkaian karakter respons.

Respons lengkap:

{
  "id": "chatcmpl-123",
  ...
  "choices": [{
    "index": 0,
    "message": {
      "role": "assistant",
      "content": null,
      "function_call": {
        "name": "get_current_weather",
        "arguments": "{ \"location\": \"Boston, MA\"}"
      }
    },
    "finish_reason": "function_call"
  }]
}

Langkah 2·API pihak ketiga

Gunakan respons model untuk memanggil API Anda, permintaan seperti di bawah ini:

curl https://weatherapi.com/...
{ "temperature": 22, "unit": "celsius", "description": "Sunny" }

Langkah 3·OpenAI API

Kirim respons kembali ke model untuk diringkas.

Contoh kode permintaan:

curl https://api.openai.com/v1/chat/completions -u :$OPENAI_API_KEY -H 'Content-Type: application/json' -d '{
  "model": "gpt-3.5-turbo-0613",
  "messages": [
    {"role": "user", "content": "What is the weather like in Boston?"},
    {"role": "assistant", "content": null, "function_call": {"name": "get_current_weather", "arguments": "{ \"location\": \"Boston, MA\"}"}},
    {"role": "function", "name": "get_current_weather", "content": "{\"temperature\": "22", \"unit\": \"celsius\", \"description\": \"Sunny\"}"}
  ],
  "functions": [
    {
      "name": "get_current_weather",
      "description": "Get the current weather in a given location",
      "parameters": {
        "type": "object",
        "properties": {
          "location": {
            "type": "string",
            "description": "The city and state, e.g. San Francisco, CA"
          },
          "unit": {
            "type": "string",
            "enum": ["celsius", "fahrenheit"]
          }
        },
        "required": ["location"]
      }
    }
  ]
}'

Anda dapat menggunakan Apidog untuk mengirim permintaan.

Setelah mengklik tombol "kirim", Anda akan mendapatkan respons yang berhasil.

Respons lengkap:

{
    "id": "chatcmpl-******",
    "object": "chat.completion",
    "created": *****,
    "model": "gpt-3.5-turbo-0613",
    "choices": [
        {
            "index": 0,
            "message": {
                "role": "assistant",
                "content": "The weather in Boston is currently sunny with a temperature of 22 degrees Celsius."
            },
            "finish_reason": "stop"
        }
    ],
    "usage": {
        "prompt_tokens": 127,
        "completion_tokens": 17,
        "total_tokens": 144
    }
}

Cuaca di Boston saat ini cerah dengan suhu 22 derajat Celsius.

Jendela Konteks yang Lebih Besar

Dengan pembaruan terbaru, GPT-4-32k-0613 dan GPT-3.5-turbo-16k sekarang dapat menangani teks yang lebih besar, yang meningkatkan efektivitasnya untuk aplikasi yang memerlukan pemrosesan sejumlah besar data teks. GPT-3.5-turbo-16k sekarang dapat menangani sekitar 20 halaman teks dalam satu permintaan, yang empat kali lebih besar dari model sebelumnya. Dengan kata lain, pengguna akan segera dapat mengunggah hingga 20 halaman teks ke ChatGPT sekaligus, memberikan peningkatan signifikan pada kemampuannya dalam menangani data teks yang lebih besar.

Model Baru

OpenAI baru-baru ini mengumumkan pembaruan pada model GPT-4 dan GPT-3.5 Turbo mereka. GPT-4-0613 menampilkan model yang diperbarui dan ditingkatkan dengan kemampuan pemanggilan fungsi. Sementara itu, GPT-4-32k-0613 memiliki peningkatan pemanggilan fungsi yang sama dengan GPT-4-0613, bersama dengan panjang konteks yang diperluas untuk pemahaman yang lebih baik tentang teks yang lebih besar.

Pembaruan ini ditetapkan untuk memungkinkan lebih banyak orang mencoba GPT-4, dan OpenAI mengundang lebih banyak lagi dari daftar tunggu selama beberapa minggu mendatang, dengan maksud untuk menghapus daftar tunggu sepenuhnya dengan model ini. Demikian pula, GPT-3.5-Turbo-0613 telah menambahkan pemanggilan fungsi dan kemampuan kemudi yang lebih andal dengan pesan sistem.

GPT-3.5-Turbo-16k memiliki panjang konteks empat kali lipat dari GPT-3.5-Turbo, dengan harga dua kali lipat yaitu 0,003 per 1K token input dan0.003per1Kinputtokensand0.004 per 1K token output. Pembaruan ini berarti model sekarang dapat mendukung ~20 halaman teks dalam satu permintaan.

OpenAI akan meningkatkan dan menghentikan model awal GPT-4 dan GPT-3.5 Turbo yang diumumkan pada bulan Maret. Aplikasi yang menggunakan nama model stabil akan secara otomatis ditingkatkan ke model baru pada tanggal 27 Juni. Pengembang juga dapat menggunakan model yang lebih lama hingga 13 September dengan menentukan nama model yang sesuai dalam permintaan API mereka. OpenAI menyambut umpan balik dari pengembang untuk memastikan transisi yang lancar.

Mengingat pembaruan ini, model OpenAI menjadi lebih kuat dan mudah digunakan, memberikan pengembang kemampuan baru yang menarik untuk dijelajahi. Dari peningkatan pemanggilan fungsi hingga panjang konteks yang lebih besar, pembaruan ini mendorong batasan pemrosesan bahasa alami dan menempatkan teknologi mutakhir di tangan pengembang di seluruh dunia.

Harga Lebih Rendah

OpenAI baru-baru ini mengumumkan penurunan harga yang signifikan untuk model embeddings populernya, yang telah mengalami penurunan biaya sebesar 75%, menjadi $0,0001 per 1K token. Pembaruan ini merupakan bagian dari upaya berkelanjutan OpenAI untuk membuat sistem mereka lebih efisien dan meneruskan penghematan tersebut kepada pengembang.

Model obrolan populer GPT-3.5 Turbo yang mendukung ChatGPT untuk jutaan pengguna juga telah menerima penurunan harga, dengan penurunan 25% dalam biaya token input. Pengembang sekarang dapat menggunakan model ini hanya dengan $0,0015 per 1K token input dan $0,002 per 1K token output. Versi konteks 16k, GPT-3.5-Turbo-16k, dihargai 0,003 per 1K token input dan0.003per1Kinputtokensand0.004 per 1K token output, memungkinkan pengembang untuk memanfaatkan model yang kuat ini untuk pemrosesan teks yang lebih besar.

OpenAI menghargai umpan balik dari pengembang, dan saran mereka merupakan bagian integral dari evolusi platform yang berkelanjutan. Pembaruan terbaru ini ditetapkan untuk memberikan peningkatan nilai dan peluang aplikasi yang lebih luas bagi pengembang yang menggunakan model OpenAI. Dengan harga yang lebih rendah dan fitur baru lainnya, OpenAI terus menjadi pemimpin di bidang pemrosesan bahasa alami.

Model GPT-4 vs Model Obrolan (GPT-3.5-turbo)

GPT-3.5-turbo menonjol dengan biaya yang lebih rendah, kinerja yang memadai untuk aplikasi umum, dan persyaratan sumber daya yang lebih rendah, sehingga ideal bagi mereka yang memiliki kendala anggaran atau beroperasi di lingkungan dengan sumber daya terbatas. Namun, jendela konteksnya yang terbatas dan pemanggilan fungsi yang kurang kuat mungkin tidak cocok untuk aplikasi tingkat lanjut.

Di sisi lain, GPT-4 menawarkan peningkatan pemanggilan fungsi dan jendela konteks yang lebih besar, yang bermanfaat untuk aplikasi kompleks yang memerlukan penyimpanan informasi masa lalu yang ekstensif. Namun, harganya lebih tinggi dan membutuhkan sumber daya komputasi yang lebih besar. Memilih model yang tepat untuk kebutuhan kita dapat memaksimalkan manfaat sambil tetap sesuai anggaran.

Penghentian model

Proses peningkatan dan penghentian versi awal gpt-4 dan gpt-3.5-turbo telah dimulai, yang diumumkan pada bulan Maret. Nama model stabil, termasuk gpt-3.5-turbo, gpt-4, dan gpt-4-32k, akan secara otomatis ditingkatkan ke model baru pada tanggal 27 Juni. Untuk membandingkan kinerja model antar versi, pustaka Evals kami mendukung evaluasi publik dan pribadi untuk menunjukkan bagaimana perubahan model akan memengaruhi kasus penggunaan Anda.

Jika pengembang membutuhkan lebih banyak waktu untuk beralih ke model baru, mereka masih dapat menggunakan model yang lebih lama dengan menentukan gpt-3.5-turbo-0301, gpt-4-0314, atau gpt-4-32k-0314 dalam permintaan API mereka. Model yang lebih lama akan tersedia hingga 13 September, setelah itu permintaan untuk nama model tersebut tidak akan berhasil. Untuk terus mendapatkan informasi terbaru tentang penghentian model, Anda dapat mengunjungi halaman penghentian model kami. Karena ini adalah pembaruan pertama untuk model ini, kami akan menghargai umpan balik pengembang untuk memastikan transisi yang lancar.

Kesimpulan

OpenAI telah merilis model dan fitur baru yang akan memungkinkan pengembang untuk membangun aplikasi yang kuat. Harga yang dikurangi sangat menarik, karena memungkinkan lebih banyak eksperimen dengan aplikasi web sambil meminimalkan pengeluaran. Akan menarik untuk melihat bagaimana pengembang lain memanfaatkan pembaruan ini.

Selain itu, plugin ChatGPT adalah alat bertenaga AI yang dapat membantu Anda menangani layanan pelanggan, pemasaran, dan tugas bisnis lainnya secara efisien. Artikel ini akan memperkenalkan beberapa kasus penggunaan kreatif untuk memberikan lebih banyak nilai bagi bisnis Anda.