Malgré sa réputation de retard dans le développement de l’IA, Apple a conçu le meilleur ordinateur pour la recherche sur l’IA. Le Mac Studio avec le M3 Ultra Chip prend en charge une allocation de mémoire unifiée sans précédent, jusqu’à 512 Go, ce qui en fait le moyen le plus simple et le plus abordable de mener une recherche avancée d’IA avec de grands modèles sur le matériel personnel.
Le dernier modèle Deepseek V3 le démontre avec ses performances, étant entièrement exécutée sur un seul Mac. Apple a installé des chercheurs a révélé lundi la fonctionnalité du modèle.
Cette capacité est rendue possible par la puissance de traitement du Mac, qui est centralisée sous une architecture unifiée. Deepseek V3 obtient des niveaux de performance compétitifs avec des leaders de l’industrie comme Chatgpt. Ce logiciel fonctionne efficacement non seulement dans les fermes de serveurs plus volumineuses, mais aussi confortablement sur l’ordinateur de bureau d’Apple.
Le nouveau modèle est similaire à la tarification des voitures d’occasion. Avec un prix de 9 499 $, il équivaut au coût d’une voiture d’occasion, mais ne nécessite pas de l’espace tentaculaire ou des coûts d’un centre de données.
Ce n’était pas prévu. L’architecture a été conçue de manière à maximiser les composants individuels sur une puce, créant accidentellement un potentiel massif de mémoire unifiée, bénéficiant substantiellement aux tâches d’IA.
La poussée de développement pour le silicium d’Apple visait à améliorer les ordinateurs portables, tels que la durée de vie de la batterie du MacBook Air. Tout au long des années 2010, Apple avait développé des processeurs de silicium séquentiels. Ce projet a commencé avec le lancement de la puce A4 en 2010. Macs intégrés à Apple Silicon a fait surface au milieu de cette décennie.
Les modèles d’IA sont alimentés par des GPU, mais la mémoire est vitale. Un GPU NVIDIA 4090 coûteux, qui est de grande taille et destiné à la modélisation 3D et au rendu vidéo, contient 24 Go de mémoire. Modèles linguistiques puissants comme Deepseek R1 exiger mémoire au moins 64 fois cette capacité.
Les avantages de l’exécution de modèles dépassent localement les services basés sur le cloud. La suppression de la nécessité d’utiliser des serveurs internationaux avec la latence et les limitations d’utilisation du réseau, et les coûts financiers, est un avantage unique au traitement local. De plus, les problèmes de confidentialité et de sécurité sont atténués en cours d’exécution de matériel local et d’infrastructure.
L’architecture unique d’Apple pour son silicium diffère également de nombreux PC personnalisés. Apple Silicon intègre des CPU, des GPU et des moteurs neuronaux sur une seule puce, au lieu d’utiliser une mémoire discrète pour chaque composant. L’arrangement spécialisé fait du matériel Apple le plus rentable pour la capacité de mémoire locale substantielle.
Les supports de marketing Apple ont salué l’architecture de mémoire unifiée lorsqu’ils ont lancé la puce M1. Ils soulignent comment les divers composants du système en utilisant l’accès à la mémoire partagée augmentent la capacité de traitement de leur ordinateur, mais améliore principalement la durée de vie de la batterie du MacBook Air.
Lundi, le chercheur d’Apple Machine Learning, Awni Hannun, a révélé diriger un modèle de grande langue en profondeur sur un studio MAC. Il commun Spécifications de performance sur ses médias sociaux, mettant en évidence des centres utilisant 512 Go de mémoire unifiée.
La performance pure que les offres Mac Studio M3 Ultra d’Apple dans la recherche sur l’IA ne sont pas un accident, mais un sous-produit de sa conception de puces axé sur la durée de vie de la batterie; Un avantage impressionnant, quoique imprévu, que les concurrents jouent maintenant au rattrapage pour imiter.
L’avantage du monde réel ici est évident: sans retard de réseau latent, d’énormes coûts tiers ou de risques de sécurité cloud en raison du transfert de données, les chercheurs peuvent enfin utiliser de grands modèles d’IA sur le matériel local. Les avantages immédiats pour l’efficacité et la sécurité sont indéniables. Informations inférieures aux fermes de serveurs.
Il n’était pas nécessaire pour Apple de concevoir une machine à partir du saut spécifiquement pour l’IA. Sa décision de créer des puces efficaces pour les produits de consommation a involontairement convoqué une bête avec un appétit insatiable pour écraser les problèmes de l’apprentissage automatique. Apple devrait remercier les équipes qui ont exigé plus de leurs portables.
