L’ensemble de données Pile est devenu un sujet brûlant dans les cercles de l’IA, suscitant des débats sur la manière dont les données sont utilisées et sur l’éthique impliquée. Cette collection massive de textes a été utilisée par les grandes entreprises technologiques pour entraîner leurs modèles d’IA.
Toutefois, la manière dont ces données ont été collectées et utilisées soulève des questions sur le consentement, la propriété et les limites de la collecte de contenu en ligne.
Pour que l’IA devienne plus intelligente, elle a besoin de beaucoup de données pour apprendre. L’ensemble de données Pile, rassemblé par le groupe de recherche en IA à but non lucratif EleutherAIest devenu une ressource incontournable pour cela. Il contient toutes sortes de choses : des sous-titres de vidéos YouTube, des documents du Parlement européen et même d’anciens Enron e-mails. De grands noms comme Pomme, Nvidiaet Salesforce ils l’ont utilisé pour enseigner de nouvelles astuces à leurs IA.
Mais c’est là que les choses se compliquent : YouTube n’autorise pas les gens à récupérer du contenu de sa plateforme sans autorisationIls ont même réponses demandées sur les données d’entraînement de Sora à l’époque.
Pourtant, l’enquête menée par Câblé Nous avons découvert que des sous-titres provenant de nombreux créateurs et institutions populaires étaient utilisés sans qu’ils le sachent ou y consentent.
Qu’est-ce que l’ensemble de données sur les pieux ?
Le jeu de données Pile est une collection massive de données textuelles utilisées pour la formation de modèles d’intelligence artificielle. Il est devenu un sujet brûlant dans les cercles technologiques en raison de sa taille, de sa diversité et de la controverse entourant ses sources de contenu.
L’ensemble de données Pile contient une grande variété de textes provenant de l’ensemble d’Internet. Il est conçu pour fournir aux modèles d’IA une large gamme de contenus générés par l’homme à partir desquels apprendre, les aidant à comprendre et à générer un langage plus naturel.
L’une des caractéristiques clés de l’ensemble de données sur les pieux est sa grande variété. Il contient sous-titres de plus de 48 000 chaînes YouTubey compris des créateurs populaires comme Monsieur Bêteainsi que du contenu provenant d’établissements d’enseignement comme le MIT et Harvard.
Au-delà du contenu YouTube, l’ensemble de données comprend également du matériel provenant de :
- Documents du Parlement européen
- Articles de Wikipédia en anglais
- Articles scientifiques et rapports techniques
- Forums et forums de discussion en ligne
- Articles de presse et billets de blog
C’est ce mélange diversifié de types de contenu et de sources qui rend l’ensemble de données Pile si précieux pour la formation de l’IA. Il expose les modèles d’IA à un large éventail de styles d’écriture, de sujets et de formats, les aidant à devenir plus polyvalents et plus performants.
Comment Big Tech utilise-t-elle l’ensemble de données Pile ?
Les grandes entreprises technologiques ont discrètement exploité l’ensemble de données Pile pour alimenter leurs avancées en matière d’IA. Cette collection massive de contenu numérique est devenue une ressource essentielle pour la formation de modèles linguistiques sophistiqués et d’autres systèmes d’IA.
Des entreprises comme Apple, Nvidia, Salesforce et Anthropic ont ouvertement admis utiliser l’ensemble de données Pile dans leurs processus de développement d’IA.
Ces géants de la technologie exploitent cette vaste réserve d’informations pour améliorer leurs capacités d’IA dans diverses applications et services.
L’attrait de l’ensemble de données sur les pieux réside dans sa diversité et son échelle.
Avec des contenus allant des sous-titres YouTube aux articles universitaires et même aux anciens e-mails d’entreprise, il fournit une riche mosaïque de textes générés par l’homme dont les modèles d’IA peuvent tirer des enseignements. Cette ampleur de données aide les systèmes d’IA à mieux comprendre et générer un langage de type humain dans divers contextes.
Les outils de Web Scraping menacés par la réglementation, mais l’IA pourrait sauver les PME
Rassembler l’ensemble des données de la pile est une tâche délicate, qui nécessite de trouver le juste équilibre entre les progrès technologiques et la bonne conduite à tenir. Si tout le monde souhaite que l’IA s’améliore, la manière dont ces données ont été collectées a suscité quelques interrogations. L’ensemble de données comprend des éléments provenant de partout – universités, chaînes de divertissement, etc. – montrant la quantité d’informations que l’IA doit apprendre.
L’un des plus gros problèmes avec l’ensemble de données Pile est la manière dont il utilise les sous-titres YouTube. Les créateurs de contenu consacrent souvent beaucoup de temps et d’argent à ces transcriptions. Les utiliser sans demander l’autorisation va non seulement à l’encontre des règles de YouTube, mais amène également les créateurs à s’interroger sur leurs droits dans l’espace numérique.
Pour compliquer encore les choses, certaines entreprises récupèrent des données et les vendent à des entreprises technologiques. Cela crée une sorte de tampon entre les créateurs originaux et les entreprises qui utilisent leur travail. Cela permet aux grandes entreprises technologiques comme Apple de dire qu’elles ne sont pas directement responsables de la provenance des données.
Les créateurs de contenu ne sont pas vraiment satisfaits de cela
Lorsque les créateurs de contenu ont découvert l’ensemble de données de la pile, cela a provoqué un certain émoi. Les grands YouTubeurs aiment Marques Brownlee ne sont pas contents que leur travail soit utilisé sans leur accord, d’autant plus qu’ils investissent beaucoup dans la réalisation de bonnes transcriptions, déclarant :
« L’IA vole mes vidéos, et cela va être un problème pour les créateurs pendant longtemps »
Dans un Publication Instagramsuivi de ce post sur X :
Apple a obtenu des données pour son IA auprès de plusieurs entreprises
L’un d’eux a récupéré des tonnes de données/transcriptions de vidéos YouTube, y compris la mienne
Apple évite techniquement "faute" ici parce que ce ne sont pas eux qui grattent
Mais cela va être un problème en évolution pendant longtemps. https://t.co/U93riaeSlY
— Marques Brownlee (@MKBHD) 16 juillet 2024
Le fait que les grandes entreprises technologiques utilisent cet ensemble de données soulève également la question de savoir si elles devraient être plus prudentes quant à la provenance de leurs données. Des entreprises comme Anthropic affirment que l’utilisation de cet ensemble de données n’est pas la même chose que l’utilisation directe de YouTube, mais pour les créateurs dont le travail a été utilisé à leur insu, cela ne fait peut-être pas beaucoup de différence.
Cette situation avec le jeu de données Pile soulève également des questions plus vastes sur l’éthique de l’IA et la manière dont les données doivent être gérées. L’IA devenant de plus en plus avancée, nous avons besoin de règles plus claires sur la manière dont les données peuvent être collectées et utilisées. Ce qui se passe actuellement montre à quel point il est difficile de trouver un équilibre entre la progression de la technologie et la protection des droits des personnes et des entreprises.
À l’avenir, cette controverse pourrait conduire à des changements dans la manière dont les données sont collectées et utilisées pour la formation de l’IA. Elle montre que nous avons besoin d’une plus grande ouverture dans le développement de l’IA et pourrait aboutir à des règles plus strictes sur la provenance des données de formation. Elle pourrait également nous amener à repenser la manière dont les créateurs de contenu, les plateformes et les développeurs d’IA travaillent ensemble, ce qui pourrait conduire à de nouvelles façons de rémunérer les créateurs ou de travailler avec eux.
Pour conclure, l’ensemble de données Pile montre à quel point les choses peuvent devenir compliquées lorsque l’on mélange progrès technologique et questions éthiques dans le monde de l’IA. Au fur et à mesure que le débat se poursuit, il est clair que trouver un terrain d’entente entre l’innovation et le respect des droits des créateurs sera essentiel pour façonner la manière dont l’IA se développe et dont le contenu est créé à l’avenir.
Crédit de l’image en vedette: Freepik
