Le cloud, usine à fabrique d'erreurs IA - Actualités RT Cloud / Virtualisation

Le cloud, usine à fabrique d'erreurs IA

le 12/04/2019, par David Linthicum, Infoworld (adapté par Jean Elyan), Cloud / Virtualisation, 469 mots

La croissance exponentielle des données servant à alimenter des systèmes d'intelligence artificielle entraîne des erreurs. Se servir de l'impressionnante capacité de stockage cloud pour les héberger ne risque pas d'arranger la situation.

Le cloud, usine à fabrique d'erreurs IA

Selon Gartner Research, d'ici 2022, 85 % des projets d'IA produiront des résultats erronés en raison du biais dans les données, les algorithmes ou introduit par les équipes responsables de leur gestion. De plus, selon l'institut de sondage Gallup, aujourd'hui, 85 % des Américains utilisent au moins un appareil, un programme ou un service alimenté par l'IA.

David Linthicum, Chief Cloud Strategy Officer chez Deloitte, et contributeur d'InfoWorld, connaît bien la question. En effet, depuis la fin des années 1980, il s'intéresse au biais des systèmes d'intelligence artificielle. Le fait est que ce sont des individus qui programment et entrainent les systèmes d'IA, de sorte que, d'une façon ou d'une autre, ces systèmes héritent des préjugés de ceux qui les forment.

Un manque de compétences entraînant la propagation d'erreurs

L'usage du cloud pour héberger de coûteux systèmes d'intelligence artificielle ne fait qu'empirer les choses, car le nombre d'entreprises pouvant s'offrir des capacités d'intelligence artificielle a augmenté. Par contre, le nombre de personnes pouvant attester de solides compétences en IA n'a pas augmenté au même rythme. D'une part, les outils d'IA soumis à ce biais intrinsèque sont utilisés de façon plus générale. D'autre part, le manque de compétences signifie aussi que les erreurs dans la manière de construire les bases de connaissances vont se propager et perdurer pendant un certain temps.

Alors, de quelle nature sont ces préjugés ? Déjà, parce que la majorité du développement et de l'entrainement de l'IA est effectuée par des hommes, leurs préjugés conscients ou inconscients se retrouvent dans le code qu'ils écrivent et les femmes pourront s'apercevoir qu'elles sont désavantagées. Ainsi, une étude réalisée en 2015 a montré que lors d'une recherche d'images dans Google avec la requête « CEO », seulement 11 % des personnes apparaissant dans les résultats étaient des femmes, alors qu'aux États-Unis 27 % des CEO sont des femmes. Google a rapidement corrigé le problème.

Repérer les préjugés des systèmes IA pour limiter les préjudices

Ces biais intégrés de l'IA ont aussi un impact négatif sur l'activité des entreprises. Par exemple, le fait de ne pas accorder suffisamment de prêts à un nombre suffisant de femmes, alors qu'elles représentent environ 55 % du marché, est une perte de profit. Au pire, cette défaillance pourrait aussi exposer les entreprises à des actions en justice.

Que faire, alors ? En réalité, les systèmes d'IA biaisés sont plus la norme que l'exception. Les responsables IT doivent reconnaître que ces préjugés existent, ou qu'ils peuvent exister, et prendre des mesures pour en limiter les méfaits. Heureusement, des outils émergents permettent déjà de repérer les préjugés des systèmes d'intelligence artificielle. Reste que, l'IT doit chercher à débusquer ceux qui sont cachés et prendre des mesures pour en limiter les préjudices.

Cisco rachète CloudCherry pour ses solutions de centres d'appels

CloudCherry, éditeur d'une solution d'analyse et de cartographie du parcours client, vient d'être racheté par Cisco qui prévoit d'intégrer nativement cette solution à sa plateforme de centre d'appels. Cisco...

le 27/08/2019, par Nicolas Certes, 301 mots

Les datacenters en colocation, une tendance à contre-courant du cloud

Prix moins élevés, latence, et facilité d'accès à plusieurs fournisseurs clouds : les installations de colocation offrent une alternative attractive aux datacenters sur site. Les charges de travail des...

le 12/07/2019, par Andy Patrizio, Network World (adapté par Jean Elyan), 1519 mots

Pression sur les datacenters, après un trimestre de forte croissance...

La croissance continue d'Amazon Web Services, de Microsoft Azure et de Google Cloud Platform indique que de plus en plus d'entreprises se tournent vers le cloud.   Ça pourrait devenir lassant, mais comment...

le 15/05/2019, par Fredric Paul, Network World (adaptation Jean Elyan), 853 mots

Dernier dossier

Les white-box sont-elles l'avenir de la commutation réseau ?

Et si vous pouviez gérer vos commutateurs de centres de données et vos routeurs de la même façon que vos serveurs et ainsi réduire les coûts des dépenses en capital ? C'est la promesse des white-box qui amènent des systèmes d'exploitation réseau open source fonctionnant sur du matériel courant.Pour en avoir le coeur net, nous avons testé Cumulus...

Dernier entretien

Jamshid Rezaei

DSI de Mitel

Le DSI de Mitel, Jamshid Rezaei, a adopté le système japonais du Kaizen prônant l'amélioration continue...