Neuchips, un fournisseur de circuits intégrés (ASICS) spécifiques à l’application AI, a annoncé un partenariat avec Vecod et Golden Smart Home (GSH) Technology Corp. Shareguru pour développer une solution d’IA générative hors ligne pour le traitement des données propriétaires. La collaboration vise à permettre aux entreprises d’extraire des informations en temps réel des bases de données internes à l’aide de requêtes en langage naturel.
Le partenariat vise à relever les défis du traitement complexe des données SQL et à la nécessité de la confidentialité des données. La solution combine l’ECX-3100 Rag Edge AI Inferencest Workstation de VECOW, la solution Shareguru QA 2.0 de GSH et la carte Gen AI de la série Viper Gen AI de Neuchips.
Les aspects clés de la solution collaborative comprennent:
- Traitement des données hors ligne: La carte VIPER Series de Neuchips permet le traitement local de la solution Shareguru, améliorant la confidentialité et la sécurité des données.
- Requêtes en langage naturel: Le système permet aux utilisateurs de générer des requêtes SQL en utilisant le langage humain, de simplifier l’accès aux données et de réduire la dépendance à l’égard de l’expertise SQL.
- Efficacité énergétique: Neuchips met en évidence la capacité de la série Viper à prendre en charge 12 milliards de modèles de paramètres à une consommation d’énergie de 45 W.
- LLM compatible avec Rag: La solution exploite la génération (RAG) de la récupération (RAG) pour fournir un accès aux données à jour sans nécessiter de recyclage du modèle.
- Spécifications matérielles: La carte d’accélérateur AI de la série AI Neuchips VIPERS dispose de 32 Go de capacité de mémoire et de support de modèle de langage structuré BF16 natif.
Neuchips souligne que sa carte de série Viper décharge une partie importante du traitement générateur d’IA à partir du CPU. Vecow met en évidence le rôle de la solution dans la satisfaction croissante de la demande croissante d’applications d’IA génératives sur site et de modèles de langage multimodal (LLM). La plate-forme Shareguru de GSH fournit la solution SLM qui interagit avec le matériel Neuchips.
Les entreprises présenteront leur solution collaborative dans le monde intégré 2025 à Nuremberg, en Allemagne, au stand de Vecod. Neuchips a également annoncé des plans futurs pour se concentrer sur les ASIC multi-modalités à faible puissance d’ici 2026.
Crédit d’image en vedette: Google Deepmind / Unsplash
