Les algorithmes peuvent-ils réellement être objectifs ?
On entend de plus en plus cette question de neutralité de l’IA mais il s’agit en réalité d’un mythe : leurs réponses dépendent des données d’entraînement qu’elles cumulent, des filtres appliqués et des choix de conception faits par les développeurs. Même les modèles les plus réputés comme ChatGPT sont présentés par leurs propres sociétés comme des systèmes devant être alignés sur des valeurs et des politiques d’usage.
Toute technologie sert des intérêts socio-politiques quels qu’ils soient et que ces intérêts ne sont pas neutres par définition, notamment parce qu’ils orientent la conception.
https://archivistesqc.wordpress.com/2024/10/21/ia_neutralite/
Quels biais (données, conception, acteurs) influencent les décisions ?
Il y a 3 principales sources de biais : les données (incomplètes ou discriminantes), les modèles (architecture, réglages) et les acteurs qui les déploient (intérêts politiques, économiques, géopolitiques). Ces biais peuvent orienter les priorités, effacer certains groupes et légitimer des choix politiques.
ChatGPT est sensible aux variations et répétitions des prompts. Par exemple, il peut affirmer ne pas connaître la réponse à une question, mais y répondre correctement une fois qu’elle a été légèrement reformulée.
https://openai.com/fr-FR/index/chatgpt/
Une autre préoccupation essentielle est le biais algorithmique. Les systèmes d’IA peuvent reproduire et accentuer les stéréotypes sociaux existants, créant des décisions injustes ou discriminatoires.