Dylan Field, PDG de Figma, a annoncé que la société désactiverait temporairement sa fonction de conception IA suite à des allégations selon lesquelles elle copiait des conceptions de l’application Météo d’Apple.
Figma désactive temporairement sa fonction de conception d’IA
Ce problème a été initialement identifié par Andy Allen, le fondateur de NotBoring Software, qui propose une variété d’applications, notamment une application météo personnalisable. En testant l’outil de Figma, Allen a découvert qu’il reproduisait systématiquement l’application météo d’Apple lorsqu’il était utilisé pour l’assistance à la conception.
Allen accusé Figma forme intensivement son outil sur des applications existantes sur X.
(1) Comme nous l’avons indiqué la semaine dernière lors de Config, ainsi que sur notre blog, notre site Web et de nombreux autres points de contact, la fonctionnalité Make Design n’est pas entraînée sur le contenu Figma, les fichiers communautaires ou les conceptions d’applications. En d’autres termes, les accusations concernant l’entraînement des données dans ce tweet sont fausses. https://t.co/jlfmroPPhm
— Dylan Field (@zoink) 2 juillet 2024
Dans la section suivante, vous pouvez clairement observer les similitudes et les différences :
Field a annoncé la suspension temporaire de la fonctionnalité de conception d’IA suite à des inquiétudes selon lesquelles elle imitait les conceptions de l’application Météo d’Apple. Andy Allen, le fondateur de NotBoring Software, qui crée diverses applications, dont une application Météo personnalisable, a découvert ce problème. Grâce à des tests, Allen a découvert que l’outil de Figma reproduisait souvent l’application Météo d’Apple lorsqu’il était utilisé pour aider à la conception. Allen a publiquement accusé Figma sur X d’entraîner fortement son IA sur des applications existantes, une accusation que Field a depuis niée.
La fonction de conception d’IA, intégrée au logiciel de Figma, permet aux utilisateurs de créer des mises en page et des composants d’interface utilisateur à partir de descriptions textuelles. Figma a présenté cet outil en expliquant que les développeurs pouvaient rapidement rédiger leurs idées et explorer différentes directions de conception plus efficacement. Lancé lors de la récente conférence Config de Figma, la société a précisé que l’outil n’était pas formé sur le contenu de Figma, les fichiers communautaires ou les conceptions d’applications. Field a réitéré ce point dans sa réponse sur X, déclarant : « Les accusations concernant la formation des données dans ce tweet sont fausses. »
Collov AI Design accompagne à la fois l’architecte et le propriétaire
Cependant, dans sa hâte d’introduire de nouvelles fonctionnalités d’IA et de rester compétitif, Figma semble avoir négligé les processus critiques d’assurance qualité. Cela a suscité des inquiétudes chez les concepteurs, dont certains craignent que de telles fonctionnalités de conception d’IA puissent potentiellement remplacer des emplois en rendant la conception numérique largement accessible. À l’inverse, d’autres pensent que l’IA pourrait alléger les tâches répétitives, permettant aux concepteurs de se concentrer sur des aspects plus innovants et créatifs de leur travail.
« Nous tenons à informer tous les concepteurs qui utilisent la nouvelle fonctionnalité Make Designs qu’ils doivent vérifier soigneusement les applications existantes ou modifier considérablement les résultats afin de ne pas se retrouver sans le savoir dans des problèmes juridiques », a déclaré Allen.
Field a précisé que Make Design utilise des modèles de langage préexistants et les intègre à des systèmes personnalisés spécialement conçus pour ces modèles. Il a expliqué que même si cette combinaison vise à améliorer les fonctionnalités, elle se heurte à une limitation importante. Le principal problème est la faible variabilité des résultats des modèles. Selon Field, ce manque de diversité a un impact sur l’efficacité globale de leur approche.
(4) J’ai demandé à notre équipe de désactiver temporairement la fonctionnalité Make Design jusqu’à ce que nous soyons sûrs de pouvoir garantir son résultat. La fonctionnalité sera désactivée lorsque notre équipe basée aux États-Unis se réveillera dans quelques heures, et nous la réactiverons lorsque nous aurons terminé un contrôle qualité complet sur le…
— Dylan Field (@zoink) 2 juillet 2024
« Quelques heures après avoir vu [Allen’s] « Dans ce tweet, nous avons identifié le problème, qui était lié aux systèmes de conception sous-jacents qui ont été créés. En fin de compte, c’est ma faute de ne pas avoir insisté sur un meilleur processus d’assurance qualité pour ce travail et de ne pas avoir poussé notre équipe à respecter un délai pour Config », a déclaré Field.
Bien qu’Apple n’ait pas encore fait de commentaires, Figma a fait référence aux tweets de Field comme étant sa déclaration officielle sur le sujet. En réponse à ce problème, Field a annoncé que Figma désactiverait temporairement la fonction Make Design jusqu’à ce qu’un contrôle qualité complet soit effectué.
Tout d’abord, l’utilisation de modèles de langage standard et de systèmes personnalisés dans l’outil de Figma met en évidence la complexité et l’imprévisibilité potentielle de l’IA dans les processus créatifs. L’aveu de Dylan Field selon lequel la variabilité du système était trop faible met en évidence une négligence importante dans le processus d’assurance qualité. C’est une leçon cruciale pour toute entreprise intégrant l’IA dans ses produits : des tests et des vérifications approfondis doivent être priorisés pour éviter de tels faux pas.
De plus, cette situation remet en question les implications éthiques de l’entraînement de l’IA sur des conceptions existantes. Bien que Field nie que l’IA de Figma ait été entraînée sur des conceptions d’applications spécifiques, les résultats suggèrent le contraire, ce qui conduit à un problème de perception qui peut nuire à la confiance dans l’entreprise. Cet incident devrait servir de signal d’alarme pour l’industrie technologique quant à l’importance de la transparence et des normes éthiques dans le développement de l’IA.
Crédits de l’image en vedette : Zac Wolff/Unsplash
