Mèmes de chats et centrales nucléaires : l'IA calcule des corrélations, pas des causes

Une #IA prédit la production iranienne d’électricité nucléaire ☢️… en suivant les recherches de “mèmes de chat” 😺 sur Google.

Non pardon, c’est le contraire. Une IA prédit la popularité des mèmes de chats 😺 en suivant la production électrique nucléaire iranienne ☢️…

Non, attendez, c’est absurde.

Il n’y a aucune lien de cause à effet entre les deux. Il est vrai que leurs courbes suivent la même tendance. C’est accidentel : on n’appelle ça une #corrélation fallacieuse. Un site internet entier est dédié à cela : “spurious correlation” (c’est de là que j’ai trouvé le visuel de cette publication).

Or voilà ce que font les IA: elles calculent des corrélations.

Une IA ne “sait” pas que les chats mangent des souris. Elle a calculé que dans les textes rédigés par des humains, dès qu’un chat mange quelque chose, c’est souvent une souris.

Si vous demandez à #ChatGPT de compléter la phrase “le chat a mangé la…”, ChatGPT va générer une table de probabilité. Le mot “souris” aura une probabilité très élevée. Le mot “belle-mère” aura une probabilité très faible (bisou Brigitte 😘).

Quels impacts pour vous ?

1️⃣ Ca éclaire les problèmes de véracité de ChatGPT et ses concurrents : la vérité n’existe pas pour une IA. Tout est probabilité de séquences de mots. Pour ChatGPT, il est très probable que la Lune tourne autour de la Terre, non pas parce que ChatGPT en a fait l’observation, mais parce que la plupart des textes sur le sujet qu’on lui a donné… le dise.

2️⃣ Si vous avez besoin d’utiliser une IA du marché,

voire de bâtir une IA sur mesure (par exemple de prédiction de prix), votre expertise métier est centrale.

C’est VOUS qui êtes en capacité de me dire que le prix de l’acier est influencé par le coût des minerais de fer, charbon à coke, ferraille, ainsi que certaines réglementations européennes ou états-uniennes.

C’est VOUS qui pouvez me dire qu’il n’y a aucun lien connu entre la position de Sirius dans le ciel et le prix de l’acier.

Mon rôle sera ensuite d’évaluer la faisabilité et le ROI que vous pouvez attendre d’une telle IA. Le job de l’IA sera finalement de calculer des corrélations pas trop absurdes entre “le coût des minerais de fer”, les “réglementations européennes” et “le prix de l’acier”.

3️⃣ Comprenez ceci :

nos intelligences artificielles actuelles ne comprennent pas les relations de cause à effet.

N’attendez pas qu’elles prédisent la prochaine hausse du prix de l’acier. Demandez leur simplement d’estimer des prix de l’acier en cas de hausse, stagnation ou baisse des prix de prix de l’acier et son ordre de grandeur. Puis donnez lui de la donnée fraiche, en temps réel, pour qu’elle calcule des prédictions actualisées et identifie éventuellement des signaux faibles, ce qui vous incitera peut-être à acheter des stocks d’acier d’avance avant une potentielle hausse.

L’IA, c’est ni “intelligent” ni “artificiel”. L’IA, c’est du “renseignement de synthèse”.

Merci Ider OUDAD pour la discussion inspirante à ce propos 😉