Le cloud, usine à fabrique d'erreurs IA - Actualités RT Cloud / Virtualisation

Le cloud, usine à fabrique d'erreurs IA

le 12/04/2019, par David Linthicum, Infoworld (adapté par Jean Elyan), Cloud / Virtualisation, 469 mots

La croissance exponentielle des données servant à alimenter des systèmes d'intelligence artificielle entraîne des erreurs. Se servir de l'impressionnante capacité de stockage cloud pour les héberger ne risque pas d'arranger la situation.

Le cloud, usine à fabrique d'erreurs IA

Selon Gartner Research, d'ici 2022, 85 % des projets d'IA produiront des résultats erronés en raison du biais dans les données, les algorithmes ou introduit par les équipes responsables de leur gestion. De plus, selon l'institut de sondage Gallup, aujourd'hui, 85 % des Américains utilisent au moins un appareil, un programme ou un service alimenté par l'IA.

David Linthicum, Chief Cloud Strategy Officer chez Deloitte, et contributeur d'InfoWorld, connaît bien la question. En effet, depuis la fin des années 1980, il s'intéresse au biais des systèmes d'intelligence artificielle. Le fait est que ce sont des individus qui programment et entrainent les systèmes d'IA, de sorte que, d'une façon ou d'une autre, ces systèmes héritent des préjugés de ceux qui les forment.

Un manque de compétences entraînant la propagation d'erreurs

L'usage du cloud pour héberger de coûteux systèmes d'intelligence artificielle ne fait qu'empirer les choses, car le nombre d'entreprises pouvant s'offrir des capacités d'intelligence artificielle a augmenté. Par contre, le nombre de personnes pouvant attester de solides compétences en IA n'a pas augmenté au même rythme. D'une part, les outils d'IA soumis à ce biais intrinsèque sont utilisés de façon plus générale. D'autre part, le manque de compétences signifie aussi que les erreurs dans la manière de construire les bases de connaissances vont se propager et perdurer pendant un certain temps.

Alors, de quelle nature sont ces préjugés ? Déjà, parce que la majorité du développement et de l'entrainement de l'IA est effectuée par des hommes, leurs préjugés conscients ou inconscients se retrouvent dans le code qu'ils écrivent et les femmes pourront s'apercevoir qu'elles sont désavantagées. Ainsi, une étude réalisée en 2015 a montré que lors d'une recherche d'images dans Google avec la requête « CEO », seulement 11 % des personnes apparaissant dans les résultats étaient des femmes, alors qu'aux États-Unis 27 % des CEO sont des femmes. Google a rapidement corrigé le problème.

Repérer les préjugés des systèmes IA pour limiter les préjudices

Ces biais intégrés de l'IA ont aussi un impact négatif sur l'activité des entreprises. Par exemple, le fait de ne pas accorder suffisamment de prêts à un nombre suffisant de femmes, alors qu'elles représentent environ 55 % du marché, est une perte de profit. Au pire, cette défaillance pourrait aussi exposer les entreprises à des actions en justice.

Que faire, alors ? En réalité, les systèmes d'IA biaisés sont plus la norme que l'exception. Les responsables IT doivent reconnaître que ces préjugés existent, ou qu'ils peuvent exister, et prendre des mesures pour en limiter les méfaits. Heureusement, des outils émergents permettent déjà de repérer les préjugés des systèmes d'intelligence artificielle. Reste que, l'IT doit chercher à débusquer ceux qui sont cachés et prendre des mesures pour en limiter les préjudices.

Arista renforce son cluster multi-cloud

L'équipementier Arista a enrichi son offre logicielle CloudEOS pour faciliter les tâches de mise en réseau dans le cloud. Filiale de HPE avec encore une certaine autonomie, Arista a complété son logiciel de...

le 03/08/2020, par Michael Cooney, Network World (adaptation Jean Elyan), 810 mots

Disponibilité générale en Europe pour le service IoT SiteWise d'AWS

Lancé en version bêta en novembre 2018, le service IoT SiteWise est désormais ouvert à tous les clients d'AWS qui ont besoin de surveiller des équipements industriels équipés de capteurs. AWS annonce la dis

le 10/07/2020, par Serge LEBLAL, 570 mots

Bilan Covid-19 : 3 retours sur l'usage du cloud

La pandémie a fait émerger des problèmes dont les entreprises ignoraient l'existence il y a quatre mois seulement. Et beaucoup d'entre elles tirent de dures leçons de cette crise. Les entreprises reprennent...

le 06/07/2020, par David Linthicum, Infoworld (adapté par Jean Elyan), 646 mots

Dernier dossier

Les white-box sont-elles l'avenir de la commutation réseau ?

Et si vous pouviez gérer vos commutateurs de centres de données et vos routeurs de la même façon que vos serveurs et ainsi réduire les coûts des dépenses en capital ? C'est la promesse des white-box qui amènent des systèmes d'exploitation réseau open source fonctionnant sur du matériel courant.Pour en avoir le coeur net, nous avons testé Cumulus...

Dernier entretien

Jamshid Rezaei

DSI de Mitel

Le DSI de Mitel, Jamshid Rezaei, a adopté le système japonais du Kaizen prônant l'amélioration continue...