Opacité des algorithmes et concentration du pouvoir
Derrière les outils numériques, intelligences artificielles ou les réseaux sociaux, se cachent des algorithmes, ce sont eux qui nous recommande du contenus. Néanmoins leur fonctionnement est souvent mis en question. En effet, seule une poignée de personne ont travaillé sur l’algorithme de chatGPT, celui d’instagram ou même Tiktok. De ce fait il est très difficile de percer leurs secrets et leurs biais potentiels.
À l’âge de l’IA, ce sont les électeurs qui ne maîtrisent pas les codes technologiques, qui ne savent pas comment l’information est triée et qui perdent confiance dans un système devenu opaque.
Les systèmes d’IA peuvent reproduire et accentuer les stéréotypes sociaux existants, créant des décisions injustes ou discriminatoires.
Manipulation de l’opinion ou des données
Les IA ne sont pas mises en causes uniquement pour leur opacité de fonctionnement mais aussi par l’oppacité en terme d’usages. En effet, les usages de l’ia en politiques peuvent être multiples, documentation, génération de texte, ou même a des fins plus critiquables, tels que l’influence. La question qui prédomine est la question éthique de ces usages.
Cela devient d’autant plus préoccupant qu’il peut suffire de cibler une fraction de la population pour infléchir le résultat d’une élection. Le danger est réel.
Cette omniprésence de l’IA soulève cependant des préoccupations majeures. Le souci principal réside dans la prolifération des contre-vérités et la diffusion de désinformation. Les algorithmes peuvent être exploités pour propager de fausses informations à grande échelle, influençant ainsi les choix électoraux.
https://sherpas.com/p/histoire/ia-democratie.html
L’un des risques majeurs est la montée d’une « hypnocratie » : une gouvernance algorithmique qui manipule l’opinion via des contenus émotionnels amplifiés. Sommes-nous en train de fabriquer un « idiot numérique » ?