L'angle mort de l'IA Act : les algorithmes de recommandation

L’#IA #Act, c’est top, j’adhère. Mais il y a UN gros trou dans la raquette qui me chiffonne.

L’IA Act établit 4 niveaux de risque pour les systèmes d’IA. Ces catégories vont de risque “inacceptable” à “minimal”. Dans cette dernière, on trouve les #algorithmes de #recommandation.

Ces algorithmes comptent parmi les plus influents du monde. Ils décident quelles publications vous et moi verront sur les réseaux sociaux. Ce faisant, ils influencent planétairement notre représentation du monde.

L’un d’eux a d’ailleurs calculé qu’il fallait vous montrer ce post.

Même avec beaucoup d’esprit critique et d’ouverture d’esprit nous sommes biaisés. Ce à quoi nous sommes exposés façonne notre perception du monde… et donc nos croyances et actes.

65% de la population européenne est sur les réseaux sociaux. [1] Ca monte jusqu’à 88% pour les 16-29 ans [1]. (Figurez-vous qu’en France… on est les derniers ! Voir le deuxième graphique de la source [1])

Avec la presse papier ou la TV, on connait à peu près la ligne éditoriale. Avec les réseaux sociaux, c’est l’opacité totale.

Les motivations économiques de leurs propriétaires sont certes évidentes (e.g. Meta > Facebook + Instagram > vente de campagnes publicitaires ciblées > utilisation de nos données pour nous segmenter). Mais le fonctionnement des algorithmes, la modération des contenus, les garde-fous et j’en passe… nous sont hors de portée.

Depuis la réélection de D. TRUMP et le boom de l’IA générative, on parle beaucoup de #souveraineté #numérique. Alors oui, doper nos acteurs européens, des infrastructures aux éditeurs logiciels, est une étape incontournable dans ce processus.

Mais quid d’une souveraineté informationnelle et algorithmique ?

Le droit, et par exemple l’IA Act, pourrait en être le bouclier.

La question que je me pose et vous pose maintenant est : quelle serait l’épée ?

Post écrit sans IA. Mais d’où vient la photo ? 😜