2023년 6월 13일, OpenAI는 향상된 조작 가능성, 개선된 함수 호출 기능, 확장된 컨텍스트 창 및 가격 인하를 포함한 언어 모델 업데이트를 발표했습니다. 2022년 11월 30일 출시 이후, 지침을 따르고 상세한 응답을 제공하도록 훈련된 InstructGPT의 형제 모델인 ChatGPT는 전 세계적으로 빠르게 인기를 얻었습니다. 이 업데이트는 여섯 가지 주요 영역을 포함하며, 여러분과 함께 자세한 내용을 알아보게 되어 기쁩니다.
- Chat Completions API에서 새로운 함수 호출 기능
gpt-4및gpt-3.5-turbo의 업데이트된 및 더욱 조작 가능한 버전- 표준 4k 버전 대비 새로운 16k 컨텍스트 버전의
gpt-3.5-turbo - 최첨단 임베딩 모델의 75% 비용 절감
gpt-3.5-turbo의 입력 토큰에 대해 25% 비용 절감gpt-3.5-turbo-0301및gpt-4-0314모델에 대한 사용 중단 일정 발표
함수 호출
최신 업데이트된 GPT-4-0613 및 GPT-3.5-turbo-0613은 개발자가 모델에게 함수를 설명할 수 있게 하여, 모델이 이러한 함수를 호출하는 인수를 포함하는 JSON 객체를 출력하도록 합니다. 이는 GPT 모델이 외부 도구 및 API와 연결하여 구조화된 데이터 출력을 생성하는 새로운 방법을 제공합니다.
모델은 함수 호출이 필요할 때를 감지하도록 미세 조정되었으며 함수 시그니처를 준수하는 JSON으로 응답할 수 있습니다. 이는 개발자가 외부 도구를 호출하여 질문에 답하는 챗봇을 만들고, 자연어를 API 호출 또는 데이터베이스 쿼리로 변환하며, 텍스트에서 구조화된 데이터를 추출할 수 있게 합니다. 새로운 API 매개변수는 특정 함수 호출을 지원하며, 개발자는 함수 호출을 개선하는 평가를 추가하기 위해 개발자 문서를 참조할 수 있습니다.
함수 호출 예시
1단계·OpenAI API
함수와 사용자 입력으로 모델 호출
샘플 요청 코드:
curl https://api.openai.com/v1/chat/completions -u :$OPENAI_API_KEY -H 'Content-Type: application/json' -d '{
"model": "gpt-3.5-turbo-0613",
"messages": [
{"role": "user", "content": "보스턴의 날씨는 어떤가요?"}
],
"functions": [
{
"name": "get_current_weather",
"description": "주어진 위치의 현재 날씨를 가져옵니다.",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "도시와 주, 예: 샌프란시스코, CA"
},
"unit": {
"type": "string",
"enum": ["celsius", "fahrenheit"]
}
},
"required": ["location"]
}
}
]
}'
cURL 요청을 보내기 위해 Apidog를 사용할 수 있습니다. Apidog 은 개발자들에게 다양한 기능과 혜택을 제공하는 강력한 API 개발 및 테스트 도구입니다. Postman처럼 Apidog는 사용자들이 cURL 요청을 보낼 수 있게 하며, 이는 터미널 또는 명령 줄 인터페이스에서 cURL에 익숙한 사용자들에게 특히 유용합니다. Apidog의 사용자 친화적인 인터페이스와 많은 기능을 활용하여, 다른 유형의 요청과 함께 cURL 요청을 간편하게 생성하고 보낼 수 있습니다. 이를 통해 개발자들은 API를 효율적으로 테스트하고, 잠재적인 문제를 빠르게 식별 및 디버깅하며, API 개발 작업 흐름을 극대화할 수 있습니다.
경험이 풍부한 개발자든 API 테스트를 시작하는 개발자든, Apidog의 cURL 요청 기능은 필수 도구입니다.
cURL 요청 명령을 붙여넣을 때 $OPENAI_API_KEY를 실제 키 매개변수로 바꿔야 합니다.
"보내기" 버튼을 클릭한 후 응답 문자열을 받게 될 것입니다.
완전한 응답:
{
"id": "chatcmpl-123",
...
"choices": [{
"index": 0,
"message": {
"role": "assistant",
"content": null,
"function_call": {
"name": "get_current_weather",
"arguments": "{ \"location\": \"Boston, MA\"}"
}
},
"finish_reason": "function_call"
}]
}
2단계·타사 API
모델 응답을 사용하여 여러분의 API를 호출하고 아래와 같이 요청합니다:
curl https://weatherapi.com/...
{ "temperature": 22, "unit": "celsius", "description": "맑음" }
3단계·OpenAI API
응답을 모델로 다시 보내 요약합니다.
샘플 요청 코드:
curl https://api.openai.com/v1/chat/completions -u :$OPENAI_API_KEY -H 'Content-Type: application/json' -d '{
"model": "gpt-3.5-turbo-0613",
"messages": [
{"role": "user", "content": "보스턴의 날씨는 어떤가요?"},
{"role": "assistant", "content": null, "function_call": {"name": "get_current_weather", "arguments": "{ \"location\": \"Boston, MA\"}"}},
{"role": "function", "name": "get_current_weather", "content": "{\"temperature\": "22", \"unit\": \"celsius\", \"description\": \"맑음\"}"}
],
"functions": [
{
"name": "get_current_weather",
"description": "주어진 위치의 현재 날씨를 가져옵니다.",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "도시와 주, 예: 샌프란시스코, CA"
},
"unit": {
"type": "string",
"enum": ["celsius", "fahrenheit"]
}
},
"required": ["location"]
}
}
]
}'
요청을 보내기 위해 Apidog를 사용할 수 있습니다.
"보내기" 버튼을 클릭하면 성공적인 응답을 받게 됩니다.
완전한 응답:
{
"id": "chatcmpl-******",
"object": "chat.completion",
"created": *****,
"model": "gpt-3.5-turbo-0613",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "보스턴의 날씨는 현재 맑고 기온은 22도 섭씨입니다."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 127,
"completion_tokens": 17,
"total_tokens": 144
}
}
보스턴의 날씨는 현재 맑고 기온은 22도 섭씨입니다.
더 큰 컨텍스트 창
최신 업데이트로 GPT-4-32k-0613 및 GPT-3.5-turbo-16k가 이제 더 큰 텍스트를 처리할 수 있게 되어, 상당한 양의 텍스트 데이터를 처리해야 하는 응용 프로그램의 효과를 향상시킵니다. GPT-3.5-turbo-16k는 이제 한 번의 요청으로 대략 20페이지의 텍스트를 처리할 수 있게 되었으며, 이는 이전 모델보다 네 배 더 큽니다. 즉, 사용자는 곧 ChatGPT에 한 번에 20페이지의 텍스트를 업로드할 수 있게 되어, 더 큰 텍스트 데이터를 처리하는 데 있어 상당한 향상을 제공합니다.
새로운 모델
OpenAI는 최근에 GPT-4 및 GPT-3.5 Turbo 모델에 대한 업데이트를 발표했습니다. GPT-4-0613는 함수 호출 기능이 개선된 업데이트된 모델입니다. 한편, GPT-4-32k-0613은 GPT-4-0613과 동일한 함수 호출 개선이 있으며, 더 큰 텍스트를 더 잘 이해할 수 있도록 확장된 컨텍스트 길이를 가지고 있습니다.
업데이트는 더 많은 사람들이 GPT-4를 사용해 볼 수 있도록 할 예정이며, OpenAI는 다음 몇 주 동안 대기자 명단에서 더 많은 사람들을 초대할 계획이고, 이 모델로 대기자 명단을 전면 해제할 의도를 가지고 있습니다. 유사하게, GPT-3.5-Turbo-0613는 함수 호출 추가 및 시스템 메시지로 더 신뢰할 수 있는 조작 가능성을 갖추게 되었습니다.
GPT-3.5-Turbo-16k는 GPT-3.5-Turbo의 네 배에 달하는 컨텍스트 길이를 가지며, 1K 입력 토큰당 0.003의 가격으로 제공됩니다. 이 업데이트는 모델이 이제 한 번의 요청으로 ~20페이지의 텍스트를 지원할 수 있음을 의미합니다.
OpenAI는 3월에 발표된 초기 GPT-4 및 GPT-3.5 Turbo 모델을 업그레이드하고 사용 중단할 예정입니다. 안정 모델 이름을 사용하는 애플리케이션은 6월 27일에 새로운 모델로 자동 업그레이드됩니다. 개발자는 또한 API 요청에서 적절한 모델 이름을 지정하여 9월 13일까지 이전 모델을 사용할 수 있습니다. OpenAI는 원활한 전환을 위해 개발자들의 피드백을 환영합니다.
이러한 업데이트를 통해 OpenAI의 모델은 더욱 강력하고 사용자 친화적으로 발전하고 있으며, 개발자들에게 탐색할 흥미로운 새로운 가능성을 제공합니다. 개선된 함수 호출부터 더 큰 컨텍스트 길이에 이르기까지, 이러한 업데이트는 자연어 처리의 한계를 넓히고 전 세계 개발자들에게 최첨단 기술을 제공합니다.
가격 인하
OpenAI는 최근 인기 있는 임베딩 모델의 가격을 대폭 인하하여 1K 토큰당 0.0001 달러로 75% 비용을 절감했습니다. 이 업데이트는 OpenAI의 시스템을 더욱 효율적으로 만들고 이러한 절감을 개발자들에게 전달하기 위한 지속적인 노력의 일환입니다.
수백만 사용자를 위한 ChatGPT를 구동하는 인기 챗 모델 GPT-3.5 Turbo도 입력 토큰 비용이 25% 감소하는 가격 인하를 받았습니다. 개발자는 이제 이 모델을 1K 입력 토큰당 0.0015 달러와 1K 출력 토큰당 0.002 달러로 사용할 수 있습니다. 16k 컨텍스트 버전인 GPT-3.5-Turbo-16k는 1K 입력 토큰당 0.003 달러와 1K 출력 토큰당 0.004 달러로 가격이 책정되어, 개발자들이 더 큰 텍스트 처리를 위해 이 강력한 모델을 활용할 수 있게 합니다.
OpenAI는 개발자들의 피드백을 중요하게 생각하며, 그들의 제안은 플랫폼의 지속적인 발전에 필수적인 역할을 합니다. 이러한 최신 업데이트는 OpenAI 모델을 사용하는 개발자들에게 더 많은 가치와 넓은 응용 기회를 제공할 예정입니다. 가격 인하와 새로운 기능들로 OpenAI는 자연어 처리 분야에서 선두주자로 자리 잡고 있습니다.
GPT-4 모델 대 챗 모델 (GPT-3.5-turbo)
GPT-3.5-turbo는 더 낮은 비용, 일반 응용 프로그램에 충분한 성능, 그리고 낮은 자원 요구 사항으로 두드러지며, 예산 제약이 있는 사용자나 자원이 제한된 환경에서 운영하는 데 이상적입니다. 하지만 제한된 컨텍스트 창과 덜 강력한 함수 호출은 고급 응용 프로그램에는 적합하지 않을 수 있습니다.
반면 GPT-4는 향상된 함수 호출과 더 큰 컨텍스트 창을 제공하여 광범위한 정보를 유지해야 하는 복잡한 응용 프로그램에 유리합니다. 그러나 더 높은 가격대와 더 많은 계산 자원을 요구합니다. 필요한 것에 맞는 모델을 선택하는 것이 예산 내에서 최대의 이익을 가져올 수 있습니다.
모델 사용 중단
3월에 발표된 gpt-4 및 gpt-3.5-turbo의 초기 버전의 업그레이드 및 사용 중단 과정이 시작되었습니다. gpt-3.5-turbo, gpt-4 및 gpt-4-32k를 포함한 안정 모델 이름은 6월 27일에 자동으로 새로운 모델로 업그레이드됩니다. 모델 버전 간의 성능 비교를 위해, 당사의 Evals 라이브러리는 모델 변경이 사용 사례에 미치는 영향을 보여주는 공개 및 비공개 평가를 지원합니다.
개발자가 새로운 모델로 전환할 시간이 더 필요하면, API 요청에서 gpt-3.5-turbo-0301, gpt-4-0314 또는 gpt-4-32k-0314를 지정하여 이전 모델을 계속 사용할 수 있습니다. 이전 모델은 9월 13일까지 이용 가능하며, 이후에는 해당 모델 이름에 대한 요청이 실패하게 됩니다. 모델 사용 중단에 대해 업데이트를 받으려면 당사의 모델 사용 중단 페이지를 방문하실 수 있습니다. 이러한 모델에 대한 첫 번째 업데이트이므로, 원활한 전환을 위해 개발자 피드백을 주시면 감사하겠습니다.
결론
OpenAI는 개발자들이 강력한 응용 프로그램을 만들 수 있도록 새로운 모델과 기능을 출시했습니다. 가격 인하는 특히 매력적이며, 웹 애플리케이션 실험을 증가시키면서 비용을 최소화할 수 있게 합니다. 다른 개발자들이 이러한 업데이트를 어떻게 활용할지 흥미롭게 지켜볼 것입니다.
또한, ChatGPT 플러그인은 AI 기반 도구로 고객 서비스, 마케팅 및 기타 비즈니스 작업을 효율적으로 처리하는 데 도움을 줄 수 있습니다. 이 글에서는 여러분의 비즈니스에 더 많은 가치를 가져다줄 창의적인 여러 사용 사례를 소개합니다.
