Repérer les biais d'un algorithme

0
44

Un algorithme ne décide pas tout seul, il répète ce qu'on lui a montré. J'ai mis longtemps à le comprendre, et c'est un article très simple de Cyber Tremplin sur les jeux de données qui me l'a fait toucher du doigt. Depuis, je regarde mes propres modèles autrement.

Le premier réflexe, c'est de regarder les données. Un jeu qui contient énormément d'un cas et très peu des autres produit un modèle qui a l'air bon et qui rate tout le reste. Ça ne se voit pas dans un score global.

D'où la deuxième étape, regarder les résultats par groupe, pas seulement la moyenne. Un modèle peut être excellent en général et catastrophique sur une catégorie précise. On ne le voit qu'en découpant les résultats et en comparant.

Les tests contradictoires, ensuite. Je lance plusieurs jeux de test différents, avec des cas limites, des cas rares, des situations bizarres. Si le résultat change complètement d'un jeu à l'autre, ce n'est pas de la malchance. C'est un signal.

Le choix des variables compte autant. On met parfois dans le modèle des choses qu'on n'aurait jamais le droit de demander à quelqu'un en face. Un code postal, un prénom, une école peuvent porter des inégalités sans qu'on s'en rende compte. Si la variable n'a pas de sens métier, elle sort.

Et à la fin, il reste la relecture humaine. Pas pour tout contrôler, pour regarder les cas où le système est le plus sûr de lui. C'est souvent là que se cachent les erreurs les plus gênantes.

Un modèle ne s'excuse jamais. C'est à nous de vérifier avant qu'il parle.

Search
Categories
Read More
Other
Cooking simple meals at camp
Cooking at camp is mostly about what you did before you left the house. I read that on Swords...
By Swordscampi Magazine 2026-11-14 07:33:24 0 191
Other
Silicon Etched Wafer Market to Reach USD 91.9 Million by 2032 at 3.2% CAGR
Global Silicon Etched Wafer Market is gaining attention across the semiconductor, photovoltaic...
By Harshada Patil 2026-11-13 11:50:54 0 311
Networking
Why Affordable Web Design Bristol Matters for Small Businesses
Running a small business in Bristol comes with many challenges, from attracting new customers to...
By Bristol Company 2026-11-10 05:07:41 0 201
Other
Global Ar-Nonyldiphenylamine Market to Reach USD 561.89 Million by 2034 at 6.2% CAGR
Global Ar-Nonyldiphenylamine Market is gaining attention across the specialty chemicals,...
By Harshada Patil 2026-11-17 13:26:48 0 53
Other
Independent Call Girl In Sharjah +971528460910
We are among the top rated and reputed escort girls of Sharjah. Dial +971528460910 for premium...
By Meenakshi Mehta 2026-11-04 13:40:38 0 151
Join JoyLife.in | Earn Money Online with Friends & Fun https://joylife.in