Une PlayStation 4 jailbreakée fait tourner une IA de 9 milliards de paramètres à 43 tokens par seconde

console ps4 sony playstation console ps4 sony playstation

Une vieille console peut-elle encore surprendre, au point de faire tourner une intelligence artificielle sans PC ni connexion internet ? C’est la promesse de Garlic LLM, un projet open source qui exécute le modèle de langage Qwen3.5-9B sur une PlayStation 4 jailbreakée. Son développeur annonce jusqu’à 43 tokens par seconde dans certaines tâches, un résultat remarquable pour une console de jeu conçue en 2013.

Le chiffre mérite toutefois d’être remis en contexte : les performances rapportées varient selon l’usage, et elles ne constituent pas une mesure indépendante. L’intérêt du projet tient surtout à son approche d’inférence locale : grâce à une optimisation logicielle spécifique, le modèle et ses 9 milliards de paramètres tiennent dans la mémoire de la PS4. À mes yeux, c’est moins une nouvelle façon d’utiliser sa console au quotidien qu’une démonstration convaincante de ce que peut accomplir le calcul haute performance quand le logiciel contourne les limites habituelles du matériel.

Garlic LLM sur PS4 : performances et configuration requise

Garlic LLM est conçu pour les modèles standard et Slim de la PlayStation 4, testés sous le firmware 11.52 avec GoldHEN. L’archive de 5,66 Go s’installe depuis le Package Installer ; selon la méthode retenue, il faut prévoir environ 6 à 12 Go d’espace libre.

Le projet fonctionne hors ligne après le téléchargement et l’installation. Il ne fournit toutefois pas l’exploit nécessaire au jailbreak : l’utilisateur doit déjà disposer d’une console modifiée et accepter les risques associés à cette opération.

ÉlémentDonnée annoncée
Console viséePlayStation 4 standard ou Slim
Modèle exécutéQwen3.5-9B, soit 9 milliards de paramètres
Débit rapporté31 à 39 tokens par seconde en conversation, jusqu’à 43 en génération de code
Mémoire de la console8 Go de GDDR5 unifiée
InstallationArchive de 5,66 Go ; prévoir 6 à 12 Go libres selon la méthode
Connexion après installationNon requise pour la génération locale

Je trouve le débit de génération de code particulièrement frappant : il transforme une curiosité technique en démonstration que l’on peut observer en quelques secondes. Mais je garde une réserve nette sur les comparaisons brutes : sans protocole de test détaillé et indépendant, le chiffre maximal ne dit pas à lui seul quelle sera la qualité des réponses ni la régularité des performances.

Comment l’optimisation logicielle exploite le GPU de la PS4

La PS4 n’offre pas les outils logiciels habituels des ordinateurs récents pour ce type de charge. Garlic LLM contourne cette difficulté en compilant des noyaux OpenCL C pour l’architecture AMD GCN, puis en transmettant les opérations au GPU par des tampons de commandes PM4 de bas niveau.

Le nom Garlic fait référence à une zone mémoire directement accessible au GPU, distincte de la mémoire système surnommée Onion. Dans cette organisation, les opérations matricielles de l’intelligence artificielle sont confiées au processeur graphique, tandis que le processeur central gère notamment la tokenisation, l’interface et l’affichage. C’est une approche spécialisée, pas une fonction que Sony aurait intégrée au système de la console.

Une quantification adaptée aux 8 Go de mémoire

Stocker les poids d’un modèle de 9 milliards de paramètres en précision élevée demanderait davantage de mémoire que la console n’en possède. Garlic LLM réduit donc leur empreinte à environ 4,5 Gio : la plupart sont représentés sur 4 bits, tandis que certaines matrices sont comprimées à 3 ou 3,5 bits.

Le cache d’attention est lui aussi réduit à 4 bits, ce qui ramène la fenêtre de contexte à 16 000 tokens, contre 256 000 pour la configuration d’origine indiquée. Le compromis est clair : faire tenir le modèle dans la machine, au prix d’une capacité de contexte plus courte. La qualité des réponses n’ayant pas été évaluée par une mesure indépendante dans les informations disponibles, je ne confondrais pas vitesse et supériorité du modèle.

Le décodage spéculatif participe également à l’accélération, en anticipant jusqu’à deux tokens. À environ 35 tokens par seconde, une réponse de 300 tokens peut s’afficher en moins de neuf secondes, selon les performances rapportées par le projet.

Assistant vocal local et limites face à la PS5

Garlic LLM ne se limite pas au texte : l’application propose aussi la dictée et la synthèse vocale, ainsi que l’exécution de code MicroPython. La reconnaissance vocale s’appuie sur Nvidia Parakeet TDT 0.6B v3, annoncé à 0,33 Gio et compatible avec 25 langues européennes ; Chatterbox assure la synthèse dans sept langues.

Ces fonctions partagent les ressources du GPU avec le modèle de langage. Le débit tombe alors autour de 22 tokens par seconde. Mon second constat est assez tranché : la voix rend l’expérience plus spectaculaire, mais elle n’est pas forcément le meilleur choix si l’on cherche avant tout la réponse textuelle la plus rapide.

Le projet ne fonctionne pas sur PS5 : son code vise les registres matériels et l’environnement logiciel de la PS4. D’autres expérimentations autour de l’intelligence artificielle existent sur la console plus récente, mais elles ne rendent pas Garlic LLM compatible avec elle. Ici, c’est précisément l’accès de bas niveau au matériel de la PS4 qui permet cette démonstration.

Garlic LLM et les ventes officielles de la PlayStation 4

Le succès commercial de la console donne une autre mesure de son importance. Dans ses résultats officiels, Sony indiquait avoir livré 117,2 millions de PlayStation 4 dans le monde à la fin de mars 2022. Il s’agit de livraisons aux distributeurs, et non d’un décompte exact de consoles activement utilisées aujourd’hui.

Sony a également rapporté 1,2 million de PS4 livrées pendant l’exercice 2021, qui s’est achevé le 31 mars 2022. Ce chiffre montre que la machine continuait à circuler alors que la PS5 avait déjà pris le relais sur le marché. Garlic LLM ne transforme pas cette ancienne console en station d’IA moderne, mais il rappelle qu’un vaste parc matériel peut offrir un terrain d’expérimentation inattendu.

Le développeur et l’origine du projet Garlic LLM

Garlic LLM a été développé par Leonardo Alegría et publié en open source. Le projet s’appuie sur la chaîne OpenOrbis et sur du code adapté à l’architecture de la PlayStation 4 ; les informations disponibles ne présentent pas d’éditeur commercial distinct ni ne détaillent une équipe de développement plus large.

La démarche consiste à faire travailler directement le matériel de 2013, plutôt qu’à attendre des pilotes ou une couche graphique de haut niveau adaptés à l’inférence. L’application est distribuée sous forme d’archive téléchargeable, puis installée sur une console déjà modifiée. Cette histoire est donc avant tout celle d’une optimisation logicielle ciblée, menée pour exploiter une machine que son fabricant n’avait jamais conçue pour les modèles de langage.

Ce qu’il faut retenir avant de tester Garlic LLM

Avant de se lancer, je vérifierais d’abord que la console répond bien aux conditions du projet. Les points suivants permettent de distinguer une démonstration technique d’une installation prête à l’emploi.

  • Modèle de console : PS4 standard ou Slim ; la compatibilité PS4 Pro n’est pas confirmée par les informations fournies.
  • Modification requise : GoldHEN et une console déjà jailbreakée. Garlic LLM ne contient pas d’exploit.
  • Espace disponible : prévoir de 6 à 12 Go selon la méthode d’installation.
  • Usage hors ligne : possible une fois les fichiers téléchargés et installés.
  • Attentes réalistes : les 43 tokens par seconde correspondent à un maximum rapporté, pas à une garantie pour chaque tâche.

La vraie réussite de Garlic LLM n’est pas de remplacer un ordinateur récent, mais de montrer qu’une PlayStation 4 jailbreakée peut exécuter une intelligence artificielle en inférence locale. Entre ses 9 milliards de paramètres, ses performances annoncées en tokens par seconde et les compromis imposés par la mémoire, le projet illustre surtout la puissance d’une optimisation logicielle bien ciblée.

Questions fréquentes sur Garlic LLM et la PlayStation 4

Garlic LLM fonctionne-t-il sans connexion internet ?

Oui. Après le téléchargement et l’installation de l’archive, la génération de texte, de code et les fonctions vocales peuvent fonctionner localement, sans connexion.

Quelle PlayStation 4 est compatible avec Garlic LLM ?

Le projet est annoncé pour les modèles PS4 standard et Slim, testés sous le firmware 11.52 avec GoldHEN. La compatibilité PS4 Pro n’est pas confirmée ici.

Le jailbreak est-il inclus dans Garlic LLM ?

Non. Garlic LLM ne fournit pas d’exploit. La console doit déjà être modifiée pour utiliser l’application, ce qui comporte des risques et peut affecter son fonctionnement ou sa garantie.

Les 43 tokens par seconde sont-ils garantis ?

Non. C’est un débit maximal rapporté pour certaines tâches, notamment la génération de code. En conversation, le projet annonce plutôt 31 à 39 tokens par seconde, et environ 22 avec les fonctions vocales actives.