Face à une prolifération alarmante des contenus générés par l'intelligence artificielle, Reddit s'attaque à ce phénomène en déployant des outils d'intelligence artificielle pour mieux contrôler et modérer les discussions sur sa plateforme. L'intégration de l'IA permet au réseau social de garder une longueur d'avance sur les tactiques de manipulation qui se développent.
Selon un communiqué de Reddit, l'entreprise utilise l'IA pour affiner sa capacité à repérer les contenus trompeurs et les spams, ce qui contribue à un environnement numérique plus sain.
Améliorer des systèmes automatisés par l'IA
Les chiffres sont parlant : récemment, Reddit a signalé avoir bloqué 23 millions de vues de spam par jour, tandis que 25.000 publications indésirables sont détectées quotidiennement. Ces efforts ont permis de réduire de 20% l'exposition des utilisateurs à ces contenus entre janvier et mars, par rapport au trimestre précédent. De plus, près de 2 millions de votes inauthentiques sont annulés chaque jour grâce à l'IA.
La méthode adoptée par Reddit repose sur l'analyse précoce des comportements, en identifiant les comptes suspects dès leur création. Les systèmes améliorés examinent aussi les publications existantes pour détecter des motifs subtils et agencés de comportement trompeur, selon des sources internes.
Manipulation des chatbots et des humains
Alors que Reddit ne divulgue pas les détails spécifiques des comportements inauthentiques, les modérateurs ont exprimé leurs préoccupations concernant l'utilisation de la plateforme pour manipuler des chatbots tels que ChatGPT et Gemini. Selon une interview parue dans 404 Media, certaines entreprises mettent en place des stratégies pour optimiser la visibilité de leur contenu dans les résultats générés par l'IA.
L'agence PeecAI souligne que Reddit est une source fréquemment citée, ce qui alimente les préoccupations autour de sa manipulation.
Ce phénomène nécessite de recruter des compte de manière stratégique, créant ainsi une illusion de présence humaine pour tromper les algorithmes de détection. Les modérateurs se posent alors la question de savoir si les nouvelles technologies d'IA peuvent identifier ces faux profils et limiter les tentatives de manipulation.
Il est crucial de garder à l'esprit que même les systèmes les plus sophistiqués ne remplacent pas le sens critique humain. Utiliser notre propre jugement demeure la meilleure défense contre les stratégies de manipulation en cours.
