L’IA non conventionnelle a dévoilé un modèle expérimental de génération d’images qui remplace l’informatique conventionnelle lourde de calcul par un réseau simulé d’oscillateurs physiques. La startup affirme que l’approche sous-jacente pourrait à terme consommer jusqu’à 1 000 fois moins d’énergie que les systèmes d’IA actuels.
Le modèle, appelé Un-0, est la première preuve de concept de l’entreprise. L’IA non conventionnelle a été fondée par des chercheurs dont Michael Carbin, professeur associé au MIT, Sara Achour, professeure adjointe à Stanford, MeeLan Lee, ancienne ingénieure de Google, et Naveen Rao, ancien chef de l’IA de Databricks. L’équipe a publié les détails techniques le 25 juin et a publié le modèle via GitHub.
La plupart des ordinateurs effectuent des calculs en commutant rapidement des milliards de transistors entre des états activés et désactivés. Les générateurs d’images basés sur des modèles de diffusion commencent par le bruit visuel et calculent à plusieurs reprises ce qui doit être supprimé pour produire l’image demandée, en exécutant généralement entre 20 et 50 étapes de raffinement.
Un-0 représente plutôt les informations via des oscillateurs, des systèmes physiques qui produisent des ondes répétitives. Les oscillateurs connectés s’influencent naturellement les uns les autres jusqu’à ce que leurs rythmes commencent à s’aligner, un processus décrit par le modèle Kuramoto.
Pour générer une image, le système attribue différents modèles de phase d’oscillateur à des catégories telles que les chaussures ou les trains. Un groupe plus petit configuré avec le modèle souhaité agit comme une invite et attire progressivement le réseau plus large d’oscillateurs positionnés de manière aléatoire vers le même arrangement.
Le système enregistre ensuite les phases finales des oscillateurs sous forme de grille numérique. Un décodeur séparé convertit cette grille en valeurs de pixels pour produire l’image.
L’IA non conventionnelle soutient que le matériel d’oscillateur physique pourrait consommer beaucoup moins d’électricité, car le courant circulerait en continu à travers des boucles fermées plutôt que d’être forcé par des milliards d’opérations de commutation de transistors. Le modèle Un-0 existant ne permet pas encore ces économies car il simule les oscillateurs du matériel conventionnel. La société prévoit à terme de développer des puces dédiées basées sur des oscillateurs.
Les chercheurs ont testé Un-0 à l’aide des ensembles de données d’images CIFAR-10 et ImageNet 64×64. Sur CIFAR-10, son score de distance de démarrage Fréchet s’est amélioré de 11,01 avec 1 024 oscillateurs à 8,76 avec 4 096 oscillateurs. Des scores plus faibles indiquent que les images générées ressemblent davantage aux données de référence.
Sur ImageNet 64×64, le score est passé de 8,41 avec 6 656 oscillateurs à 6,74 avec 16 384 oscillateurs. Les chercheurs ont déclaré que les résultats étaient comparables à ceux des premiers générateurs d’images tels que BigGAN de Google et iDDPM d’OpenAI, bien qu’ils aient averti que les chiffres devraient être traités comme des points de référence plutôt que comme des mesures directement équivalentes.
L’équipe a reconnu que les générateurs d’images actuels produisent toujours une meilleure qualité globale tout en utilisant leurs paramètres plus efficacement. L’IA non conventionnelle a publié les poids du modèle, le code de formation et les scripts d’ablation afin que d’autres chercheurs puissent tester l’approche et exécuter leurs propres simulations.
