Deepfake et racialisation de l'IA : comment des influenceurs TikTok exploitent le racisme pour vendre des produits Shein

La nouvelle arnaque sur TikTok : des influenceurs noirs générés par l'IA pour vendre des produits Shein

Sur TikTok, une nouvelle tendance inquiétante émergit. Des influenceurs utilisent des technologies d'IA pour créer des profils d'influenceurs noirs fictifs, utilisés pour promouvoir des produits de marque Shein. Ces profils, utilisant des visages et des personnalités générés par l'IA, sont conçus pour ressembler à des influenceurs noirs authentiques, tout en revendiquant des origines noires. Cette pratique non seulement triche le système de recommandation de TikTok, mais aussi exploite les préjugés raciaux pour attirer l'attention et vendre des produits de qualité douteuse.

Comment ces profils générés par l'IA fonctionnent-ils ?

Les algorithmes d'IA utilisés pour créer ces profils sont capables de générer des visages humains hyper-réalistes. En s'appuyant sur des bases de données d'images, l'IA peut reproduire des traits raciaux spécifiques, y compris les tons de peau, les formes des yeux et les structures osseuses. Ces profils sont souvent associés à des noms et des biographies qui renforcent leur authenticité, y compris des récits de vie inspirants ou des défis personnels. Par exemple, un profil fictif pourrait être créé avec le nom d'Aliyah, une femme noire aux cheveux afro et aux yeux bruns, qui partage des histoires sur son amour pour la mode et la beauté. Ce profil pourrait être utilisé pour promouvoir des produits de maquillage ou des vêtements de la marque Shein, en ciblant spécifiquement les utilisateurs noirs ou les personnes intéressées par la culture noire.

Les enjeux éthiques : l'exploitation du racisme pour vendre

Cette pratique soulève des questions éthiques graves. En créant des influenceurs noirs fictifs, les fraudeurs profitent des préjugés raciaux et de la curiosité des internautes envers les personnalités noires. Ces profils trompent non seulement les utilisateurs de TikTok, mais aussi les algorithmes eux-mêmes, qui les recommandent comme des contenus authentiques. Selon un article publié sur The Verge, "Aliyah, a light-skinned Black woman dressed in country-western gear, is struggling to sell metal buckles she handmade on TikTok. In a video for the social media platform from March, she cries to the camera and pleads for views: 'Even as a black woman, I have more faith that white women will stay 13 seconds [on the video]'". Cet exemple montre comment les influenceurs noirs authentiques sont déjà confrontés à des défis pour se faire entendre sur les réseaux sociaux, et comment les profils générés par l'IA pourraient aggraver cette situation.

Les implications pour le e-commerce et les réseaux sociaux

Ces fraudes montrent une faille dans les systèmes de modération des plateformes. Les algorithmes actuels ont du mal à détecter ces profils générés par l'IA, ce qui permet aux fraudeurs d'opérer en toute impunité. Les marques comme Shein, bien qu'elles ne soient pas directement impliquées, risquent également d'être associées à cette pratique si leurs produits sont utilisés dans ce cadre. Les plateformes de réseaux sociaux doivent investir dans des solutions de détection plus efficaces pour identifier ces profils générés par l'IA. Cela pourrait inclure l'utilisation de techniques d'apprentissage automatique pour analyser les comportements et les contenus des utilisateurs, ainsi que la mise en place de politiques de modération plus strictes pour éviter la propagation de ces contenus trompeurs.

La réaction des utilisateurs et des influenceurs noirs

Les influenceurs noirs authentiques ont exprimé leur colère et leur frustration face à cette tendance. Non seulement ces fraudes détournent l'attention des influenceurs authentiques, mais elles renforcent également les stéréotypes raciaux et les préjugés. Des campagnes pour sensibiliser aux dangers de ces profils générés par l'IA ont commencé à émerger sur les réseaux sociaux. Les utilisateurs doivent être conscients de cette pratique et prendre des mesures pour vérifier l'authenticité des profils qu'ils suivent. Cela pourrait inclure de vérifier les informations de profil, de rechercher des preuves de l'existence réelle de l'influenceur, et de signaler les contenus suspects aux plateformes de réseaux sociaux.

Les perspectives : où cette tendance pourrait-elle mener

Cette pratique est un avertissement sur l'utilisation des IA pour manipuler les réseaux sociaux. À mesure que les technologies de deepfake se perfectionnent, il devient de plus en plus difficile de distinguer le vrai du faux. Les plateformes doivent investir dans des solutions de détection plus efficaces, tandis que les utilisateurs doivent rester vigilants et éduqués face à ce type de contenu. Les développeurs d'IA doivent également prendre en compte les implications éthiques de leur travail et s'assurer que leurs créations ne sont pas utilisées pour manipuler ou tromper les gens. Les entreprises qui utilisent les réseaux sociaux pour promouvoir leurs produits doivent être conscientes de ces pratiques et prendre des mesures pour éviter d'être associées à des contenus trompeurs. En fin de compte, il est essentiel que les plateformes de réseaux sociaux, les développeurs d'IA et les utilisateurs travaillent ensemble pour prévenir la propagation de ces contenus trompeurs et pour promouvoir une utilisation responsable des technologies d'IA.