La Federal Trade Commission (FTC) a engagé des poursuites judiciaires contre cinq entreprises pour pratiques trompeuses liées à leurs technologies d’IA, donnant suite à son engagement à réglementer l’utilisation contraire à l’éthique de l’IA.
Ces poursuites relèvent de la « FTC »Opération AI Comply», ciblant les entreprises qui exagéraient les capacités de leur IA ou l’utilisaient pour enfreindre la loi.
Les cas à l’honneur
Trois des entreprises…Monter Ecom, Bâtisseurs d’empire du commerce électroniqueet Machine Expédié par Amazon… combattent les allégations devant les tribunaux. Ils ont été accusés de vendre des programmes permettant de devenir riche rapidement, affirmant que leurs outils basés sur l’IA pourraient créer des boutiques en ligne rentables. Au lieu de cela, ces promesses ont fait perdre des millions aux consommateurs, les bénéfices ne se matérialisant jamais.
Chacune de ces sociétés a reçu des ordonnances judiciaires lui enjoignant de cesser ses activités pendant que les affaires se déroulent.
Une IA trompeuse en action
La présidente de la FTC, Lina Khan, a souligné que l’utilisation abusive de l’IA à des fins frauduleuses est illégale, déclarant : « Les mesures coercitives de la FTC montrent clairement qu’il n’y a aucune exemption de la loi pour l’IA ».
Cette répression fait partie de la mission plus large de l’agence visant à protéger les consommateurs contre les pratiques trompeuses et à garantir le développement éthique de l’IA.
Affaires réglées : appels automatisés DoNotPay et Biden
Deux sociétés ont déjà conclu un accord avec la FTC. L’un des noms les plus familiers, Ne pas payerconnu pour son « avocat robot », a été condamné à une amende pour avoir présenté faussement son IA comme un substitut légal. Malgré le battage médiatique, il n’a pas réussi à fournir des services qui correspondaient à de vrais avocats humains, laissant les utilisateurs avec des documents incomplets et des problèmes non résolus.
L’entreprise a accepté de payer 193 000 $ et informer les anciens utilisateurs de ses limites.
Dans une affaire distincte, Steve Kramerqui a créé Appels automatisés générés par l’IA se faisant passer pour le président Joe Bidena été condamné à une amende 6 millions de dollars par la FCC. Les appels ont violé le Loi sur la protection des consommateurs par téléphoneet d’autres poursuites contre Kramer sont en cours.
Générateur d’avis sur l’IA de Rytr sur la portée
Le cas le plus controversé concerne Rytrune société d’IA qui permettait aux utilisateurs de générer de faux avis en ligne. Cette pratique violait les règles de la FTC en matière de publicité trompeuse, d’autant plus que nombre de ces faux témoignages contenaient de faux détails sans rapport avec les produits ou services en question.
Bien que la décision de la FTC ait été controversée, avec la dissidence de certains commissaires, Rytr a accepté de cesser d’offrir ses services de génération d’avis sur l’IA.
Critiques de l’affaire, y compris l’ancien technologue en chef de la FTC Neil Chilsonsoutiennent que tenir les sociétés d’IA responsables du contenu généré par les utilisateurs crée un dangereux précédent. Il s’est dit préoccupé par le fait que cette décision pourrait étouffer l’innovation en pénalisant les développeurs pour la manière dont les utilisateurs utilisent mal leurs outils, même si l’entreprise elle-même n’a pas causé de préjudice.
Quelle est la prochaine étape ?
Les actions de la FTC marquent un moment important dans la réglementation des technologies de l’IA. Même si certains craignent que cela n’étouffe l’innovation, l’agence reste ferme sur l’application des lois sur la protection des consommateurs, indiquant clairement que les développeurs d’IA doivent être responsables de la manière dont leur technologie est utilisée.
Alors que l’IA continue d’évoluer, ce n’est peut-être que le début d’une surveillance plus stricte du secteur.
Crédit image en vedette: Emre Cıtak/Idéogramme IA
