Repérer les biais d'un algorithme

0
44

Un algorithme ne décide pas tout seul, il répète ce qu'on lui a montré. J'ai mis longtemps à le comprendre, et c'est un article très simple de Cyber Tremplin sur les jeux de données qui me l'a fait toucher du doigt. Depuis, je regarde mes propres modèles autrement.

Le premier réflexe, c'est de regarder les données. Un jeu qui contient énormément d'un cas et très peu des autres produit un modèle qui a l'air bon et qui rate tout le reste. Ça ne se voit pas dans un score global.

D'où la deuxième étape, regarder les résultats par groupe, pas seulement la moyenne. Un modèle peut être excellent en général et catastrophique sur une catégorie précise. On ne le voit qu'en découpant les résultats et en comparant.

Les tests contradictoires, ensuite. Je lance plusieurs jeux de test différents, avec des cas limites, des cas rares, des situations bizarres. Si le résultat change complètement d'un jeu à l'autre, ce n'est pas de la malchance. C'est un signal.

Le choix des variables compte autant. On met parfois dans le modèle des choses qu'on n'aurait jamais le droit de demander à quelqu'un en face. Un code postal, un prénom, une école peuvent porter des inégalités sans qu'on s'en rende compte. Si la variable n'a pas de sens métier, elle sort.

Et à la fin, il reste la relecture humaine. Pas pour tout contrôler, pour regarder les cas où le système est le plus sûr de lui. C'est souvent là que se cachent les erreurs les plus gênantes.

Un modèle ne s'excuse jamais. C'est à nous de vérifier avant qu'il parle.

Rechercher
Catégories
Lire la suite
Health
Nursing Care Services and ICU Setup at Home – Complete Home Healthcare Solutions
Healthcare is an essential part of life, especially for patients recovering from illness,...
Par Careat Home 2026-10-31 07:50:17 0 220
Jeux
Which Is the Best Betting ID Provider in India?
Online betting and gaming have attracted considerable attention in India over the past few years....
Par World 777com 2026-11-05 06:10:44 0 293
Health
Lipo Ghanda DE, AT, CH Ergebnisorientiertes Angebot – Ein vollständiger und einfacher Leitfaden
LipoGhanda ist eine Kombination aus pflanzlichen Kapseln, die sechs spezifische Inhaltsstoffe...
Par LuxLive CBDGummies 2026-11-03 17:36:11 0 336
Autre
Epoxy Phenol Novolac Resin Market to Reach USD 3.12 Billion by 2034 at 5.8% CAGR
According to 24ChemicalResearch latest industry analysis, the global Epoxy Phenol Novolac Resin...
Par Harshada Patil 2026-11-05 11:41:14 0 410
Autre
Photoresist Coating Market to Reach USD 6.7 Billion by 2034 at 7.7% CAGR
Global Photoresist Coating Market is gaining attention across the semiconductor and electronics...
Par Harshada Patil 2026-11-13 11:11:01 0 345
Join JoyLife.in | Earn Money Online with Friends & Fun https://joylife.in