L’Intelligence Artificielle (IA) a beaucoup fait parler d’elle ces dernières années, promettant d’innombrables révolutions dans divers secteurs. Cependant, cette révolution vient avec son lot de défis et d’abus, comme le montre la nouvelle initiative de la Federal Trade Commission (FTC), nommée opération AI Comply, annoncée le 25 septembre 2024. Cette opération vise à contrer les pratiques trompeuses et injustes des entreprises qui exploitent l’IA pour tromper les consommateurs.
AI Comply : Un Coup de Poing Contre la Tromperie
L’opération AI Comply s’inscrit comme une large action d’application de la loi impliquant cinq actions contre des firmes accusées d’exploiter l’engouement pour l’IA ou de vendre des technologies d’IA qui permettent la tromperie. Selon Lina M. Khan, présidente de la FTC, « utiliser des outils d’IA pour tromper, induire en erreur ou frauder les gens est illégal. Les actions de la FTC montrent clairement qu’il n’y a pas d’exemption pour l’IA des lois en vigueur. »
Actions Clés et Entreprises Visées
Parmi les entreprises ciblées par cette offensive, certaines se démarquent par l’ampleur de leurs pratiques trompeuses :
DoNotPay : Le « Robot Avocat » Qui n’Existait Pas
Le cas de DoNotPay est particulièrement marquant. Cette entreprise prétendait offrir un service d’IA surnommé « le premier avocat robotique au monde ». Elle promettait aux consommateurs de pouvoir poursuivre pour agression sans avocat et de générer des documents juridiques parfaitement valides en un rien de temps. DoNotPay est même allé jusqu’à affirmer qu’il remplacerait l’industrie juridique de 200 milliards de dollars avec l’intelligence artificielle.
Mais la FTC a allégué que DoNotPay n’a pas tenu ses promesses. Selon la plainte, la société n’a effectué aucun test pour vérifier si les résultats de son chatbot équivalaient à ceux d’un avocat humain. De plus, DoNotPay n’aurait recruté ni retenu aucun avocat. Dans le cadre d’un règlement proposé, DoNotPay a accepté de payer 193 000 $ et d’informer les abonnés des années 2021 à 2023 des limitations des fonctionnalités juridiques de son service.
Ascend Ecom : Promesses Non Tenues
La FTC a également intenté une action en justice contre un stratagème de commerce en ligne opérant sous divers noms, dont Ascend Ecom et ACV Partners. Ce stratagème, dirigé par William Basta et Kenneth Leung, aurait escroqué les consommateurs de plus de 25 millions de dollars en affirmant faussement que ses outils révolutionnaires alimentés par l’IA aideraient les consommateurs à gagner rapidement des milliers de dollars mensuels grâce à des vitrines en ligne.
Les opérateurs auraient facturé des milliers de dollars aux consommateurs pour lancer des magasins en ligne sur les plateformes comme Amazon et Walmart, tout en exigeant des investissements supplémentaires en inventaire. La FTC a allégué que les gains promis ne se sont jamais matérialisés pour la majorité des consommateurs, les laissant avec des comptes bancaires épuisés et des dettes de carte de crédit substantielles.
Un tribunal fédéral a émis une ordonnance suspendant temporairement le stratagème et le plaçant sous séquestre.
Ecommerce Empire Builders : Empires Non Réalisés
Ecommerce Empire Builders (EEB) a été accusé de promettre aux consommateurs de construire un « Empire de Commerce Électronique alimenté par l’IA » via des programmes de formation coûtant jusqu’à 2 000 $ ou en vendant des vitrines en ligne « clé en main » pour des dizaines de milliers de dollars. Mené par le PDG Peter Prusinowski, le stratagème aurait promis des millions de profits potentiels qui ne se sont jamais concrétisés.
Un autre tribunal fédéral a temporairement suspendu le stratagème et l’a placé sous séquestre en attendant de nouvelles procédures judiciaires.
Rytr : Avis Faussements Généreux
Depuis avril 2021, Rytr a commercialisé un service d’assistant d’écriture alimenté par l’IA, comprenant une fonctionnalité pour générer des contenus de « Témoignages et d’Avis ». La FTC a allégué que le service de Rytr produisait des avis détaillés contenant des détails matériels souvent non liés aux entrées des utilisateurs, ce qui pourrait tromper les consommateurs se basant sur ces avis pour prendre des décisions d’achat.
La plainte accuse Rytr de violer la loi en fournissant aux abonnés les moyens de générer des contenus écrits faux et trompeurs.
FBA Machine : Logiciel d’IA et Fausses Promesses de Revenus
En juin, la FTC a pris des mesures contre un stratagème de commerce en ligne opérant sous les noms de Passive Scaling et FBA Machine. Ce stratagème, dirigé par Bratislav Rozenfeld, promettait des revenus garantis grâce à des vitrines en ligne utilisant des logiciels alimentés par l’IA. La FTC affirme que le stratagème a coûté aux consommateurs plus de 15,9 millions de dollars sur la base de fausses revendications de revenus.
Un tribunal fédéral a émis une ordonnance suspendant temporairement le stratagème et le plaçant sous séquestre en attendant de nouvelles procédures judiciaires.
Contexte et Implications Plus Larges
Les affaires de l’opération AI Comply s’appuient sur les récentes actions de la FTC impliquant des revendications liées à l’IA, notamment :
- Automators : Un autre stratagème de vitrine en ligne.
- Career Step : Accusé d’utiliser la technologie d’IA pour tromper les consommateurs à s’inscrire à des formations professionnelles factices.
- NGL Labs : A prétendu utiliser l’IA pour la modération dans une application de messagerie anonyme commercialisée illégalement aux enfants.
- Rite Aid : Utilisation présumée de technologie de reconnaissance faciale AI dans les magasins sans protections raisonnables.
- CRI Genetics : Accusé de tromper les utilisateurs sur la précision de ses rapports ADN, y compris des revendications d’utilisation d’un algorithme AI pour les correspondances génétiques.
