Blog

Apple LLM OpenAI API 변환 방법: 이 레포로 쉽게!

Leo Schulz

Leo Schulz

20 June 2025

Apple LLM OpenAI API 변환 방법: 이 레포로 쉽게!

인공지능이 클라우드에서 온디바이스로 점차 이동하는 시대에, Apple은 새롭게 공개된 Apple Intelligence의 핵심 구성 요소인 온디바이스 파운데이션 모델(on-device Foundation Models)을 도입하며 상당한 도약을 이루었습니다. 강력하고 개인정보 보호를 우선시하는 이 모델들은 사용자 기기에서 직접 실행되어 전례 없는 속도와 데이터 보안을 제공합니다. 그러나 업계 표준인 OpenAI API를 중심으로 구축된 방대한 개발자 커뮤니티와 애플리케이션 생태계에서는 중요한 질문이 제기됩니다. 기존 도구를 완전히 재설계하지 않고도 이 새로운 온디바이스 성능을 어떻게 활용할 수 있을까요?

그 해답은 개발자 커뮤니티에서 나온 우아하고 강력한 솔루션인 "Apple On-Device OpenAI API" 프로젝트의 형태로 나타났습니다. 이 오픈소스 도구는 Apple의 새로운 AI 기능과 익숙한 OpenAI API의 세계를 연결하는 훌륭한 다리 역할을 합니다. 이 도구는 Mac에 로컬의 경량 서버를 생성하여, Apple의 파운데이션 모델을 OpenAI 호환 엔드포인트를 통해 노출시킵니다. 본질적으로, OpenAI와 통신하는 방법을 아는 모든 애플리케이션이 최소한의 변경만으로 이제 자신의 Apple 기기에서 실행되는 AI와 직접 통신할 수 있게 해줍니다.

Apple On-Device OpenAI API GitHub Repository

이 글은 이 획기적인 저장소를 이해하고 설치하며 활용하기 위한 포괄적인 가이드 역할을 합니다. 이러한 도구가 왜 필요한지 깊이 파고들고, 단계별 설정 과정을 안내하며, 코드 예제를 통해 실용적인 사용법을 살펴보고, 미래에 어떤 일이 기다리고 있는지 알아볼 것입니다. 이 글을 마치면, 여러분은 Apple 기기를 이미 알고 사랑하는 도구 및 워크플로우와 완벽하게 호환되는 로컬 AI 강자로 변모시킬 준비가 될 것입니다.

💡
아름다운 API 문서를 생성하는 훌륭한 API 테스팅 도구를 원하시나요?

최대한의 생산성으로 개발팀이 함께 작업할 수 있는 통합적인 올인원 플랫폼을 원하시나요?

Apidog는 여러분의 모든 요구사항을 충족하며, Postman을 훨씬 저렴한 가격에 대체합니다!
버튼

"왜": 온디바이스 성능과 보편적 표준의 만남

apple-on-device-openai 프로젝트의 중요성을 완전히 이해하려면, 이 프로젝트가 통합하는 두 가지 강력한 힘, 즉 온디바이스 AI의 이점과 OpenAI API의 보편성을 이해해야 합니다.

온디바이스 혁명: 수년 동안 강력한 AI는 대규모 데이터 센터 및 클라우드 기반 처리와 동의어였습니다. 효과적이긴 하지만, 이 모델은 개인정보 보호, 지연 시간 및 비용 측면에서 내재된 상충 관계를 수반합니다. Apple Intelligence는 모델을 로컬에서 실행함으로써 매력적인 대안을 제공합니다.

개발자의 딜레마: Apple이 개발자들이 이러한 파운데이션 모델과 상호 작용할 수 있도록 네이티브 API를 제공하지만, 현실은 AI 개발 환경의 상당 부분이 OpenAI API를 중심으로 표준화되어 있다는 것입니다. 간단한 스크립트부터 복잡한 엔터프라이즈 수준 시스템까지, 수많은 애플리케이션, 개발자 도구, 라이브러리, 프레임워크가 OpenAI의 특정 요청 및 응답 구조를 사용하여 통신하도록 구축되었습니다. 개발자에게 새로운 플랫폼별 API를 채택하는 것은 상당한 양의 코드를 다시 작성하고, 새로운 패러다임을 배우며, 서로 다른 표준에 걸쳐 작업을 분산시키는 것을 의미할 것입니다.

바로 이 지점에서 apple-on-device-openai 저장소가 엄청난 가치를 제공합니다. 이는 OpenAI와 통신하는 세계와 Apple 네이티브 AI 사이에 위치하는 호환성 계층, 즉 번역기 역할을 합니다. 개발자는 OpenAI 서버 대신 로컬 서버 주소를 가리키도록 기존 애플리케이션을 변경할 수 있습니다. 그러면 로컬 서버는 표준 OpenAI 요청을 수신하고, Apple의 파운데이션 모델이 이해할 수 있는 호출로 변환하며, 기기 내에서 처리한 다음, 응답을 익숙한 OpenAI 구조로 다시 포맷합니다. 이는 "드롭인 대체(drop-in replacement)"로서, 재개발의 마찰 없이 가능성의 세계를 여는 매끄러운 솔루션입니다.

시작하기: 전제 조건 및 설치

Mac을 로컬 AI 서버로 바꾸기 전에 시스템이 준비되었는지 확인해야 합니다. 이 프로젝트는 Apple의 베타 소프트웨어에 의존하며, 이 소프트웨어에서 새로운 온디바이스 모델이 도입되었습니다.

전제 조건:

전제 조건이 충족되면 설치를 위한 두 가지 경로가 있습니다. 대부분의 사용자에게 권장되는 간단한 접근 방식과, 코드를 검사하거나 수정하려는 개발자를 위한 소스 빌드 접근 방식입니다.

옵션 1: 미리 빌드된 앱 다운로드 (권장)

이것이 가장 빠르고 쉬운 시작 방법입니다.

  1. 릴리스 페이지로 이동: GitHub에서 프로젝트의 공식 저장소를 찾으세요. 페이지 오른쪽에서 "Releases" 섹션을 클릭하세요.
  2. 최신 버전 다운로드: 최신 릴리스를 찾아 .zip 파일 자산을 다운로드하세요.
  3. 압축 해제 및 실행: 다운로드한 후 파일을 압축 해제하면 애플리케이션을 찾을 수 있습니다. 애플리케이션 폴더로 이동하여 실행하세요. 이렇게 간단합니다.

옵션 2: 소스에서 빌드

마법이 어떻게 일어나는지 보고 싶거나 프로젝트에 기여하고 싶은 개발자라면 직접 빌드할 수 있습니다.

  1. 저장소 클론: 터미널을 열고 다음 명령을 실행하여 소스 코드를 다운로드하세요: Bash
git clone https://github.com/gety-ai/apple-on-device-openai.git
  1. 디렉토리로 이동: 새로 생성된 프로젝트 폴더로 이동하세요: Bash
cd apple-on-device-openai
  1. Xcode에서 열기: 다음 명령으로 Xcode에서 프로젝트 파일을 여세요: Bash
open AppleOnDeviceOpenAI.xcodeproj
  1. 빌드 및 실행: Xcode 내에서 "Build and Run" 버튼(재생 아이콘)을 클릭하여 애플리케이션을 컴파일하고 실행하세요.

중요 참고 사항: 왜 GUI 앱인가?

왜 이 도구가 간단한 명령줄 도구가 아닌 그래픽 사용자 인터페이스(GUI) 애플리케이션인지 궁금할 수 있습니다. 프로젝트 작성자는 Apple의 정책을 기반으로 매우 영리한 디자인 선택을 했습니다. Apple DTS 엔지니어에 따르면, 사용자 인터페이스가 있는 포그라운드 앱은 파운데이션 모델을 사용할 때 속도 제한이 없습니다. 그러나 명령줄 도구는 속도 제한이 있습니다. 서버를 GUI 앱으로 패키징함으로써, 프로젝트는 제한 없이 필요한 만큼 많은 요청을 할 수 있도록 보장하여 매끄럽고 제한 없는 개발 경험을 제공합니다. 이는 더 나은 제품을 제공하기 위해 플랫폼 제약을 해결하는 사려 깊은 엔지니어링의 완벽한 예입니다.

사용 방법: 서버 실행 및 API 호출

애플리케이션이 설치되었으므로 이제 온디바이스 AI의 성능을 발휘할 준비가 되었습니다.

1. 서버 실행:

이것으로 끝입니다. 이제 여러분의 컴퓨터 백그라운드에서 서버가 조용히 실행되며 OpenAI 호환 API 요청을 받을 준비가 되었습니다. 이 앱은 또한 Apple Intelligence 모델이 시스템에서 사용 가능하고 준비되었는지 확인하는 상태 점검 기능을 제공합니다.

2. 엔드포인트 이해:

서버는 관리 및 상호 작용을 위해 여러 엔드포인트를 노출합니다.

3. 실용적인 예제:

서버와 상호 작용하는 방법을 살펴보겠습니다. 다음 예제는 서버가 기본 주소에서 실행 중이라고 가정합니다.

curl 사용 (명령줄)

터미널에서 빠르게 테스트하려면 curl 명령을 사용할 수 있습니다. 이 명령은 서버에 직접 HTTP 요청을 보냅니다.Bash

curl -X POST http://127.0.0.1:11535/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "apple-on-device",
    "messages": [
      {"role": "user", "content": "온디바이스 AI의 중요성을 3가지로 설명해주세요."}
    ],
    "temperature": 0.7,
    "stream": false
  }'

이것을 분석해 봅시다:

OpenAI Python 클라이언트 사용 (개발자용)

여기서 호환성의 진정한 힘이 빛을 발합니다. openai 라이브러리를 사용하는 Python 코드가 있다면, 단 두 줄의 코드로 로컬 서버로 리디렉션할 수 있습니다.Python

from openai import OpenAI

# 표준 OpenAI API 주소 대신 로컬 서버를 가리킵니다.
client = OpenAI(
    base_url="http://127.0.0.1:11535/v1",
    api_key="not-needed"  # 로컬 서버에는 API 키가 필요 없습니다.
)

print("로컬 Apple AI 모델에 요청을 보냅니다...")

# 이제 OpenAI API를 사용할 때와 똑같이 클라이언트를 사용합니다.
response = client.chat.completions.create(
    model="apple-on-device",
    messages=[
        {"role": "user", "content": "꿈을 꾸는 컴퓨터에 대한 짧은 시를 써주세요."}
    ],
    temperature=0.8,
    stream=True  # 실시간 출력을 위해 스트리밍을 활성화합니다.
)

print("응답:")
# 스트리밍 응답 청크를 반복합니다.
for chunk in response:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

print() # 끝에 새 줄을 위해

이 예제에서 핵심 변경 사항은 OpenAI() 클라이언트 인스턴스화에 있습니다. base_url을 로컬 서버로 설정하고 더미 api_key를 제공함으로써, 이후의 모든 client.chat.completions.create 호출은 온디바이스 모델로 라우팅됩니다. stream=True 매개변수는 서버가 생성되는 토큰을 실시간으로 스트리밍하여 애플리케이션에서 실시간 타자기 효과를 낼 수 있음을 보여줍니다.

테스팅 및 API 호환성

모든 것이 예상대로 작동하는지 확인하기 위해 저장소에는 유용한 테스트 스크립트가 포함되어 있습니다. 서버를 시작한 후 터미널을 열고 프로젝트 디렉토리로 이동하여 다음을 실행할 수 있습니다.Bash

python3 test_server.py

이 스크립트는 서버 상태, 모델 가용성, 다중 턴 대화 로직, 스트리밍 및 비스트리밍 응답을 확인하는 포괄적인 테스트 스위트를 실행합니다. 설정이 올바른지 확인하고 더 많은 사용 예제를 볼 수 있는 훌륭한 방법입니다.

서버는 OpenAI Chat Completions API의 가장 중요한 매개변수를 지원합니다.

결론 및 미래 전망

apple-on-device-openai 프로젝트는 단순히 영리한 코드 조각 이상입니다. 이는 혁신을 위한 중요한 촉매제입니다. 가파른 학습 곡선이나 비용이 많이 드는 재개발 없이도 방대한 개발자 및 애플리케이션 생태계에 Apple의 강력하고 개인적이며 빠른 온디바이스 AI에 대한 접근을 민주화합니다. 사실상의 표준인 OpenAI API를 수용함으로써, 오늘날 우리가 사용하는 도구, 스크립트 및 서비스가 미래의 온디바이스 AI로부터 원활하게 혜택을 받을 수 있도록 보장합니다.

이 프로젝트는 여전히 발전 중이며, 미래 기능에 대한 매력적인 힌트가 있습니다. README에는 "Tool Using (WIP)"가 언급되어 있는데, 이는 AI 모델이 외부 도구 및 API를 호출하는 기능인 함수 호출(function calling)이 곧 등장할 것임을 시사합니다. 이는 모델의 유용성을 기하급수적으로 증가시켜, 텍스트를 생성하는 것뿐만 아니라 작업을 수행하고, 실시간 데이터를 가져오며, 다른 애플리케이션과 상호 작용할 수 있게 하면서도 온디바이스 개인정보 보호 핵심을 유지합니다.

더 강력하고 개인적이며 프라이빗한 AI를 갈망하는 세상에서, 정교한 모델을 로컬에서 실행하는 능력은 게임 체인저입니다. apple-on-device-openai 저장소는 기술적 격차를 해소하는 오픈소스 개발의 힘에 대한 증거로서, 개발자들이 차세대 지능형 애플리케이션을 구축할 수 있도록 지원하는 간단하지만 심오한 솔루션을 제공합니다.

💡
아름다운 API 문서를 생성하는 훌륭한 API 테스팅 도구를 원하시나요?

최대한의 생산성으로 개발팀이 함께 작업할 수 있는 통합적인 올인원 플랫폼을 원하시나요?

Apidog는 여러분의 모든 요구사항을 충족하며, Postman을 훨씬 저렴한 가격에 대체합니다!
버튼

Apidog에서 API 설계-첫 번째 연습

API를 더 쉽게 구축하고 사용하는 방법을 발견하세요

무료 회원가입다운로드