Goodfire, une société de recherche sur l’interprétation de l’IA basée à San Francisco, a obtenu 50 millions de dollars en série A mené par Menlo Ventures. L’investissement, qui comprend également la participation de Lightspeed Venture Partners, Anthropic et B Capital, soutiendra l’expansion des initiatives de recherche de Goodfire et le développement de sa plate-forme d’interprétation phare, Ember.
Le financement intervient moins d’un an après la fondation de Goodfire, avec son équipe comprenant les meilleurs chercheurs d’interprétation de l’IA et des opérateurs de startups expérimentés d’organisations comme Openai et Google Deepmind. Les chercheurs de Goodfire ont aidé à établir le domaine de l’interprétabilité mécaniste, créant des articles clés et des progrès pionniers tels que des autoencodeurs clairsemés pour la découverte des fonctionnalités.
La plate-forme Ember de Goodfire décode les neurones à l’intérieur des modèles d’IA, offrant un accès direct à leur travail interne. Cela permet aux utilisateurs de découvrir des connaissances cachées, de façonner les comportements du modèle et d’améliorer les performances. La technologie de l’entreprise vise à combler l’écart de connaissances entourant les réseaux de neurones, ce qui les rend plus faciles à concevoir et moins sujets à des échecs imprévisibles.
L’investissement reflète l’importance croissante de l’interprétabilité mécaniste dans le développement de l’IA. «À mesure que les capacités de l’IA avancent, notre capacité à comprendre ces systèmes doit suivre le rythme», a déclaré Dario Amodei, PDG et cofondatrice d’Anthropic. Goodfire prévoit d’accélérer ses recherches grâce à des initiatives ciblées avec des développeurs de modèles frontaliers et de publier des aperçus de recherche supplémentaires dans divers domaines.
Goodfire a déjà collaboré avec Arc Institute, avec Patrick HSU, co-fondateur d’Arc Institute, déclarant que les outils d’interprétation de Goodfire ont permis l’extraction de nouveaux concepts biologiques de leur modèle de fondation ADN, EVO 2. Les efforts de l’entreprise visent à révéler de nouvelles perspectives scientifiques et à remodeler la compréhension des modèles AI.
