« L’essentiel est invisible pour les yeux »

Ou comment nos représentations sont biaisées par notre corpus d’entraînement

Il y a quelques jours, je suis tombé sur cette remarquable vidéo. Ce que j’y ai découvert m’a fait penser à la manière dont nous prenons nos décisions.

L’impensé qui change tout

Prenez le mot « humain » et entraînez une même IA sur 3 corpus de textes différents :

Premier corpus : Wikipédia

Le mot « humain » se retrouve isolé, loin des animaux et des insectes. Une catégorie à part.

Deuxième corpus : textes de zoologie

« Humain » est positionné au milieu de cheval, chat, chien. Une espèce parmi d’autres mammifères.

Troisième corpus : textes de l’époque coloniale

Et là, « humain » se devine du côté des Européens (Anglais, Français, Allemands), séparé des populations africaines (Sénégalais, Congolais), qui elles se retrouvent… plus proches des animaux.

Même mot. Trois réalités radicalement différentes.

L’IA n’est pas raciste

C’est crucial à comprendre : l’intelligence artificielle n’a pas développé de racisme. Elle n’a fait que reproduire fidèlement les structures présentes dans son corpus d’entraînement.

Les textes coloniaux véhiculaient une hiérarchie raciste ? Le modèle la reproduit. Pas par malveillance. Par fidélité aux données qu’on lui a fournies.

Le problème n’est pas l’algorithme. C’est le corpus.

Dans les organisations ?

Dans les organisations, un autre type de « ségrégation » a lieu.

Sur quoi les équipes de direction construisent-elles en effet leur vision, leur stratégie ? Sur quel « corpus » ?

• Les slides PowerPoint préparés pour eux
• Les KPIs sélectionnés (jamais neutres dans leur choix)
• Les remontées officielles qui passent par les canaux établis
• Les rapports formatés selon les attentes
• Les présentations lissées

C’est leur corpus d’entraînement.

Et comme l’IA avec ses textes, les CODIR et autres COMEX construisent une représentation mentale, une carte.

Le problème ? Cette carte est lacunaire.

Ce qui manque dans le corpus

Qu’est-ce qui ne remonte jamais jusqu’aux oreilles de la direction?

• Les considérations sociétales qui préoccupent les équipes mais qu’elles n’osent pas formuler dans les canaux officiels.
• Les divergences de fond sur la stratégie, tues par conformisme ou par peur.
• Les conflits souterrains qui minent l’énergie collective mais restent « professionnellement » cachés.
• Les paroles singulières, les intuitions, les signaux faibles qui ne rentrent dans aucune case des reporting.

Tout cela n’existe tout simplement pas dans le modèle mental de la direction.

Des décisions cohérentes avec un modèle faux

Et voilà le paradoxe :

Les dirigeants prennent des décisions parfaitement logiques, cohérentes, rationnelles… relativement à une représentation biaisée.

« L’essentiel est invisible pour les yeux »

Les organisations ont une géographie invisible. Des tensions qui ne s’expriment pas. Des divisions qui ne se nomment pas. Des énergies qui circulent dans des canaux que personne ne cartographie.

Cette géographie invisible détermine pourtant beaucoup : l’engagement, la création, la responsabilité. Bref, tout ce qui est en rapport avec l’âme.

C’est précisément pour cela que nous avons conçu le dispositif NoosSoon : pour cartographier cet essentiel, invisible pour les yeux.