Openai a sorti GPT-OSS 12B et 20B, modèles d’IA open source qui permettent un fonctionnement local sur les ordinateurs personnels. Ce développement offre une confidentialité et un contrôle accrus.
Le GPT-OSS 12B d’OpenAI et GPT-OSS 20B sont des modèles de raisonnement. Ils facilitent les capacités avancées de l’IA sur les systèmes locaux, l’amélioration de la confidentialité, de la vitesse et du contrôle des utilisateurs. GPT-OSS 20B est optimisé pour le matériel de consommation haut de gamme, tandis que GPT-OSS 12B est pour les systèmes de qualité professionnelle avec des GPU plus puissants. Des outils tels que Olama, pour l’installation conviviale, et LM Studio, pour les utilisateurs avancés, rationalisent le processus de configuration. L’installation locale offre des performances, un contrôle et une fiabilité accrus sur des solutions Web, ajustant les applications exigeantes. Les modèles offrent une transparence de raisonnement et une flexibilité open source. Ils manquent actuellement de téléchargement de fichiers et de fonctionnalités de recherche Web avancées; Les améliorations futures sont en développement.
Les modèles GPT-OSS 12B et 20B s’alignent sur l’objectif d’OpenAI d’accès à l’IA généralisé, fournissant des outils pour les tâches de raisonnement. Ces modèles prennent en charge l’analyse des problèmes complexes et affichent des étapes de raisonnement, offrant une transparence dans leurs processus.
- GPT-OSS 20B: Conçu pour une utilisation locale sur Matériel de qualité grand public haut de gammece modèle équilibre l’accessibilité avec les performances. Il convient aux utilisateurs à la recherche de capacités de l’IA avancées sans systèmes professionnels.
- GPT-OSS 12B: Ce modèle plus à forte intensité de ressources cibles postes de travail de qualité professionnelle avec des GPU puissants. Il sert des chercheurs et des utilisateurs avancés nécessitant des capacités de calcul plus élevées.
Les deux modèles sont open source, permettant aux développeurs et aux chercheurs de les personnaliser ou d’examiner leur architecture. Cette flexibilité les rend précieuses pour diverses applications, de la recherche académique à la résolution pratique des problèmes.
L’exécution de ces modèles nécessite un matériel robuste pour des performances optimales. Les spécifications matérielles sont les suivantes:
- Pour GPT-OSS 20B: Un système a besoin au moins 16 Go de mémoire GPU et un processeur moderne. Cette configuration convient à la plupart des bureaux ou ordinateurs portables grand public haut de gamme.
- Pour GPT-ASS 12B: Une configuration avancée nécessite 24 Go ou plus de mémoire GPUgénéralement trouvé dans les postes de travail de qualité professionnelle ou les environnements informatiques spécialisés.
Les systèmes répondant à ces exigences atteindront des temps de réponse plus rapides et des fonctionnalités améliorées par rapport aux interactions Web. Les utilisateurs avec du matériel moins puissant peuvent faire face à des défis, ce qui fait des mises à niveau matérielles une considération pour maximiser les performances.
