Comment évaluer l'éthique des systèmes d'information ?

Comment évaluer l'éthique des systèmes d'information et des algorithmes ? Jérôme Béranger répond à cette question de fond dans DSIH (Décision Santé Informatique Hospitalière).

« L'audit éthique d'un algorithme ne s'improvise pas : il exige une méthode rigoureuse et des critères objectivables. »

Cet article présente la démarche d'audit éthique développée par GoodAlgo, articulée autour de plusieurs axes fondamentaux :

• Transparence — les décisions algorithmiques sont-elles explicables et auditables ?
• Non-discrimination — le système ne produit-il pas de biais injustifiés ?
• Respect de la vie privée — les données personnelles sont-elles traitées conformément aux droits des personnes ?
• Bienveillance — le système est-il conçu dans l'intérêt des utilisateurs finaux ?
• Responsabilité — qui répond des décisions prises ou assistées par l'IA ?

Cette grille d'évaluation, applicable à tout système d'information intégrant des briques algorithmiques ou d'IA, constitue le socle de la plateforme DEO (Digital Ethics Observatory) de GoodAlgo.