Blog

Convertir LLM Apple en API Compatible OpenAI: Tutoriel et Code

Leo Schulz

Leo Schulz

20 June 2025

Convertir LLM Apple en API Compatible OpenAI: Tutoriel et Code

À une époque où l'intelligence artificielle se déplace de plus en plus du cloud vers la périphérie, Apple a fait un bond en avant significatif avec l'introduction de ses Modèles Foundation sur l'appareil, un composant essentiel de la nouvelle Apple Intelligence. Ces modèles puissants, préservant la confidentialité, s'exécutent directement sur les appareils des utilisateurs, offrant une vitesse et une sécurité des données sans précédent. Cependant, pour la vaste communauté de développeurs et l'écosystème d'applications construit autour de l'API OpenAI, standard de l'industrie, une question cruciale se pose : Comment pouvons-nous exploiter cette nouvelle puissance sur l'appareil sans réorganiser complètement nos outils existants ?

La réponse vient de la communauté des développeurs sous la forme d'une solution élégante et puissante : le projet « Apple On-Device OpenAI API ». Cet outil open source agit comme un pont brillant entre les nouvelles capacités d'IA d'Apple et le monde familier de l'API OpenAI. Il crée un serveur local et léger sur votre Mac qui expose les Modèles Foundation d'Apple via des points de terminaison compatibles OpenAI. Essentiellement, il permet à toute application qui sait communiquer avec OpenAI de pouvoir désormais, avec des modifications minimales, communiquer directement avec l'IA s'exécutant sur votre propre appareil Apple.

Capture d'écran du projet Apple On-Device OpenAI

Cet article sert de guide complet pour comprendre, installer et utiliser ce dépôt révolutionnaire. Nous examinerons pourquoi un tel outil est nécessaire, parcourrons le processus de configuration étape par étape, explorerons l'utilisation pratique avec des exemples de code et regarderons ce que l'avenir nous réserve. À la fin, vous serez équipé pour convertir votre appareil Apple en une centrale d'IA locale, entièrement compatible avec les outils et les flux de travail que vous connaissez et aimez déjà.

💡
Vous voulez un excellent outil de test d'API qui génère une belle documentation d'API ?

Vous voulez une plateforme intégrée et tout-en-un pour que votre équipe de développeurs travaille ensemble avec un maximum de productivité ?

Apidog répond à toutes vos exigences et remplace Postman à un prix beaucoup plus abordable !
bouton

Le « Pourquoi » : La puissance sur l'appareil rencontre un standard universel

Pour apprécier pleinement la signification du projet apple-on-device-openai, il faut comprendre les deux forces puissantes qu'il unit : les avantages de l'IA sur l'appareil et l'omniprésence de l'API OpenAI.

La Révolution sur l'Appareil : Pendant des années, l'IA puissante a été synonyme de centres de données massifs et de traitement basé sur le cloud. Bien qu'efficace, ce modèle présente des compromis inhérents en termes de confidentialité, de latence et de coût. En exécutant les modèles localement, Apple Intelligence offre une alternative convaincante :

Le Dilemme du Développeur : Bien qu'Apple fournisse des API natives permettant aux développeurs d'interagir avec ces Modèles Foundation, la réalité est qu'une grande partie du paysage du développement d'IA s'est standardisée autour de l'API OpenAI. D'innombrables applications, outils de développement, bibliothèques et frameworks – des scripts simples aux systèmes d'entreprise complexes – sont conçus pour communiquer en utilisant la structure spécifique de requête et de réponse d'OpenAI. Pour un développeur, adopter une nouvelle API spécifique à une plateforme signifierait réécrire des quantités importantes de code, apprendre de nouveaux paradigmes et fragmenter leur travail selon différentes normes.

C'est là que le dépôt apple-on-device-openai apporte son immense valeur. Il agit comme une couche de compatibilité, un traducteur qui se situe entre le monde parlant OpenAI et l'IA native d'Apple. Il permet aux développeurs de pointer leurs applications existantes vers une adresse de serveur locale au lieu des serveurs d'OpenAI. Le serveur local reçoit alors la requête standard OpenAI, la traduit en un appel que les Modèles Foundation d'Apple peuvent comprendre, la traite sur l'appareil, puis formate la réponse dans la structure familière d'OpenAI. C'est un « remplacement direct », une solution transparente qui ouvre un monde de possibilités sans le frottement du redéveloppement.

Premiers Pas : Prérequis et Installation

Avant de pouvoir transformer votre Mac en serveur d'IA local, vous devez vous assurer que votre système est prêt. Le projet repose sur un logiciel bêta d'Apple, c'est là que ces nouveaux modèles sur l'appareil ont été introduits.

Prérequis :

Une fois les prérequis satisfaits, vous avez deux voies pour l'installation : l'approche simple et recommandée pour la plupart des utilisateurs, et l'approche de compilation à partir des sources pour les développeurs qui souhaitent inspecter ou modifier le code.

Option 1 : Télécharger l'application pré-compilée (Recommandé)

C'est le moyen le plus rapide et le plus simple pour démarrer.

  1. Naviguez vers la page des versions : Trouvez le dépôt officiel du projet sur GitHub. Sur le côté droit de la page, cliquez sur la section « Releases » (Versions).
  2. Téléchargez la dernière version : Trouvez la dernière version et téléchargez le fichier .zip.
  3. Extrayez et lancez : Une fois téléchargé, décompressez le fichier et vous trouverez l'application. Déplacez-la dans votre dossier Applications et lancez-la. C'est aussi simple que cela.

Option 2 : Compiler à partir des Sources

Si vous êtes un développeur qui veut voir comment la magie opère, ou peut-être contribuer au projet, vous pouvez le compiler vous-même.

  1. Clonez le dépôt : Ouvrez votre Terminal et exécutez la commande suivante pour télécharger le code source : Bash
git clone https://github.com/gety-ai/apple-on-device-openai.git
  1. Naviguez dans le répertoire : Accédez au dossier du projet nouvellement créé : Bash
cd apple-on-device-openai
  1. Ouvrez dans Xcode : Ouvrez le fichier du projet dans Xcode avec cette commande : Bash
open AppleOnDeviceOpenAI.xcodeproj
  1. Compilez et exécutez : Dans Xcode, cliquez simplement sur le bouton « Build and Run » (l'icône de lecture) pour compiler et lancer l'application.

Une Note Cruciale : Pourquoi une Application GUI ?

Vous pourriez vous demander pourquoi cet outil est une application avec interface graphique (GUI) plutôt qu'un simple outil en ligne de commande. L'auteur du projet a fait un choix de conception très intelligent basé sur les politiques d'Apple. Selon un ingénieur DTS d'Apple, les applications en premier plan avec une interface utilisateur n'ont pas de limite de débit lors de l'utilisation des Modèles Foundation. Les outils en ligne de commande, en revanche, en ont. En empaquetant le serveur dans une application GUI, le projet garantit que vous pouvez effectuer autant de requêtes que nécessaire sans être limité, offrant une expérience de développement fluide et illimitée. C'est un exemple parfait d'ingénierie réfléchie qui contourne les contraintes de la plateforme pour offrir un meilleur produit.

Mise en Pratique : Exécuter le Serveur et Effectuer des Appels API

Avec l'application installée, vous êtes maintenant prêt à libérer la puissance de l'IA sur l'appareil.

1. Lancement du Serveur :

Voilà. Un serveur tourne maintenant silencieusement en arrière-plan sur votre machine, prêt à accepter les requêtes API compatibles OpenAI. L'application fournit également une vérification de statut pour confirmer que les modèles Apple Intelligence sont disponibles et prêts sur votre système.

2. Comprendre les Points de Terminaison :

Le serveur expose plusieurs points de terminaison pour la gestion et l'interaction :

3. Exemples Pratiques :

Voyons comment interagir avec le serveur. Les exemples suivants supposent que votre serveur tourne à l'adresse par défaut.

Utilisation de curl (Ligne de Commande)

Pour un test rapide depuis votre terminal, vous pouvez utiliser la commande curl. Celle-ci envoie une requête HTTP directe au serveur.Bash

curl -X POST http://127.0.0.1:11535/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "apple-on-device",
    "messages": [
      {"role": "user", "content": "Explain the importance of on-device AI in 3 points."}
    ],
    "temperature": 0.7,
    "stream": false
  }'

Décortiquons cela :

Utilisation du Client Python OpenAI (Pour les Développeurs)

C'est là que la véritable puissance de la compatibilité brille. Si vous avez du code Python qui utilise la bibliothèque openai, vous pouvez le rediriger vers votre serveur local avec seulement deux lignes de code.Python

from openai import OpenAI

# Point to your local server instead of the standard OpenAI API address
client = OpenAI(
    base_url="http://127.0.0.1:11535/v1",
    api_key="not-needed"  # API key is not required for the local server
)

print("Sending request to local Apple AI model...")

# Now, use the client exactly as you would with the OpenAI API
response = client.chat.completions.create(
    model="apple-on-device",
    messages=[
        {"role": "user", "content": "Write a short poem about a computer dreaming."}
    ],
    temperature=0.8,
    stream=True  # Enable streaming for real-time output
)

print("Response:")
# Iterate through the streaming response chunks
for chunk in response:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

print() # for a newline at the end

Dans cet exemple, le changement clé se trouve dans l'instanciation du client OpenAI(). En définissant le base_url sur notre serveur local et en fournissant une api_key factice, tous les appels ultérieurs à client.chat.completions.create sont acheminés vers le modèle sur l'appareil. Le paramètre stream=True démontre la capacité du serveur à diffuser les jetons au fur et à mesure qu'ils sont générés, permettant un effet de machine à écrire en temps réel dans vos applications.

Tests et Compatibilité API

Pour vous assurer que tout fonctionne comme prévu, le dépôt inclut un script de test utile. Après avoir démarré le serveur, vous pouvez ouvrir votre terminal, naviguer vers le répertoire du projet et exécuter :Bash

python3 test_server.py

Ce script exécutera une suite complète de tests, vérifiant l'état du serveur, la disponibilité des modèles, la logique de conversation multi-tours et les réponses en streaming et non-streaming. C'est un excellent moyen de confirmer que votre configuration est correcte et de voir d'autres exemples de modèles d'utilisation.

Le serveur prend en charge les paramètres les plus critiques de l'API OpenAI Chat Completions :

Conclusion et Perspectives d'Avenir

Le projet apple-on-device-openai est plus qu'un simple morceau de code astucieux ; c'est un catalyseur vital pour l'innovation. Il démocratise l'accès à l'IA sur l'appareil d'Apple, puissante, privée et rapide, la rendant disponible à un vaste écosystème de développeurs et d'applications sans courbe d'apprentissage abrupte ni redéveloppement coûteux. En adoptant le standard de facto de l'API OpenAI, il garantit que les outils, scripts et services que nous utilisons aujourd'hui peuvent bénéficier de manière transparente de l'IA sur l'appareil de demain.

Le projet est toujours en évolution, avec des indices alléchants de futures capacités. Le fichier README mentionne « Utilisation d'outils (En cours) », ce qui suggère que l'appel de fonctions – la capacité pour le modèle d'IA d'appeler des outils et des API externes – est à l'horizon. Cela augmenterait exponentiellement l'utilité du modèle, lui permettant non seulement de générer du texte, mais aussi d'entreprendre des actions, de récupérer des données en direct et d'interagir avec d'autres applications, tout en maintenant son cœur de confidentialité sur l'appareil.

Dans un monde réclamant une IA plus puissante, personnelle et privée, la capacité d'exécuter des modèles sophistiqués localement change la donne. Le dépôt apple-on-device-openai témoigne de la puissance du développement open source pour combler les fossés technologiques, offrant une solution simple mais profonde qui permet aux développeurs de construire la prochaine génération d'applications intelligentes.

💡
Vous voulez un excellent outil de test d'API qui génère une belle documentation d'API ?

Vous voulez une plateforme intégrée et tout-en-un pour que votre équipe de développeurs travaille ensemble avec un maximum de productivité ?

Apidog répond à toutes vos exigences et replaces Postman at a much more affordable price !
bouton

Pratiquez le Design-first d'API dans Apidog

Découvrez une manière plus simple de créer et utiliser des API

S'inscrire gratuitementTélécharger