LE MIROIR DES NOUVELLES TECHNOLOGIES EST-iL SI NOIR ?

LE MIROIR NOIR DES NOUVELLES TECHNOLOGIES

Depuis les Lumières, nous avons tendance à considérer progrès technique et social comme allant de pair. Suivant cette logique, on décrit souvent les nouvelles technologies comme un formidable moteur au service de l’égalité. Qu’il s’agisse des efforts déployés par Facebook, Google et SpaceX pour apporter une connexion internet aux zones qui en sont dépourvues, des drones qui livrent des médicaments dans les parties les plus reculées de l’Afrique ou encore des algorithmes d’aide à la prise de décision, censés supprimer les différents biais qui empêchent les humains de se montrer justes et impartiaux, les exemples montrant comment la technologie peut servir l’égalisation des conditions ne manquent pas. Cependant, le courant de pensée progressiste qui irrigue les sociétés occidentales depuis les Lumières s’est aussi toujours accompagné d’un certain scepticisme vis-à-vis du progrès technique, et le numérique n’échappe pas à la règle.

Ainsi, si nul ne conteste les formidables possibilités offertes par les nouvelles technologies, beaucoup les accusent de bénéficier d’abord aux populations les plus favorisées. L’automatisation et la robotisation, qui permettent un gain d’efficacité globale, font dans le même temps peser un risque de chômage technique sur les travailleurs les moins qualifiés ; les algorithmes d’aide à la prise de décision sont souvent biaisés en défaveur des plus démunis ; et malgré les efforts pour réduire la fracture numérique, la majorité de la population mondiale demeure dépourvue d’un accès internet. Au point que la dimension intrinsèquement égalitaire des nouvelles technologies est régulièrement remise en question. Le sujet fut âprement débattu lors de la dernière édition de l’événement Collision, à La Nouvelle-Orléans, par Rose Stuckey Kirk, en charge de la responsabilité sociale chez Verizon, et Babak Hodjat, cofondateur de l’entreprise Sentient Technologies, spécialisée dans l’intelligence artificielle évolutionnaire.

rose stuckey kirk à collision

collision

Pour Rose Stuckey Kirk, les nouvelles technologies possèdent incontestablement un formidable potentiel pour rendre les humains à la fois plus prospères et plus égaux. Cependant, les imperfections de nos sociétés font que, dans la pratique, ces technologies sont aujourd’hui génératrices d’inégalités. Ainsi, dans un pays comme les États-Unis, où le système éducatif est déjà fortement inégalitaire, le numérique accroît encore, selon elle, le fossé entre les enfants défavorisés et ceux de bonne famille. Ces derniers, déjà en contact avec les nouvelles technologies dans leur quotidien, ont la chance de pouvoir se rendre dans des écoles dotées de moyens importants, qui peuvent ainsi les familiariser encore davantage avec la manipulation des outils du numérique. Ils apprennent ainsi à utiliser un ordinateur et la pratique du code informatique dès le plus jeune âge.

Une affaire d’éducation

Les élèves issus de familles défavorisées, eux, n’ont pas cette chance, et accusent donc un retard conséquent sur leurs homologues venant de familles ou de régions plus prospères. Ils ont ainsi très peu de chances de pouvoir accéder aux meilleures formations, qui permettent de s’assurer des emplois très lucratifs au sein des entreprises digitales. Une inquiétude également exprimée par Laurent Alexandre dans son livre La Guerre des intelligences. Le médecin et auteur français craint que, face aux progrès de l’intelligence artificielle, une école incapable de se réformer en profondeur n'entraîne un accroissement des inégalités, entre une élite parfaitement intégrée dans l’économie numérique, et le reste de la population condamné au chômage ou à enchaîner les petits boulots. 

« Ces algorithmes, que l’on présente comme objectifs, sont en réalité victimes des mêmes biais que les humains qui les ont conçus, ce qui nuit aux plus démunis. »

Si l’éducation est, selon Rose Stuckey Kirk, la clef du problème, celui-ci s’étend à tous les domaines de la société. Ainsi, le système de santé américain, qui fonctionne déjà à deux vitesses, entre ceux qui bénéficient d’une bonne assurance grâce à leur entreprise et ceux qui n’ont tout simplement pas les moyens de faire face à des frais de santé prohibitifs, pourrait être rendu encore plus inégalitaire par les nouvelles technologies. Les plus riches bénéficieraient des dernières avancées en matière de médecine de précision et de robotique tandis que les autres seraient laissés sur le carreau. Enfin, les algorithmes d’aide à la prise de décision, employés par la justice, la police ou encore les assurances, ne sont, selon elle, pas aussi neutres qu’on le prétend. « Ces algorithmes, que l’on présente comme objectifs, sont en réalité victimes des mêmes biais que les humains qui les ont conçus, ce qui nuit aux plus démunis. » a-t-elle affirmé. Elle est loin d’être la seule à le penser. Dans son livre Weapons of math destruction, la mathématicienne Cathy O’Neil pointe, elle aussi, le caractère discriminatoire des algorithmes d’aide à la prise de décision, et leurs conséquences dévastatrices pour les franges les plus vulnérables de la population. Elle a récemment lancé un cabinet spécialisé dans l’audit des algorithmes, pour s’assurer qu’ils soient dépourvus de tout biais. Ainsi, a résumé Rose Stuckey Kirk, « dans une société où ceux qui sont familiers avec les nouvelles technologies bénéficient d’un meilleur accès à l’emploi et de davantage d’opportunités, la technologie est bel et bien génératrice d’inégalités. »

SOMMES-NOUS TOUS éGAUX FACE AUX NOUVELLES TECHNOLOGIES ?

inequality

Shutterstock

Les nouvelles technologies ont un impact globalement positif

2,3

Millions

d'emplois créés aux usa d'ici 2020

grâce à l'IA

Babak Hodjat se montre plus optimiste. Si les nouvelles technologies génèrent incontestablement des effets pervers, leur est impact est selon lui largement positif. « Qu’il existe des inégalités importantes, cela ne fait aucun doute. Mais je ne pense pas que les nouvelles technologies en soient responsables. Il s’agit d’un problème systémique, qui tient à des failles dans notre modèle sociétal, démocratique et capitaliste. » a-t-il affirmé. « Or, la technologie nous permet justement de corriger ces failles. Ainsi, elle est à l’origine de la plupart des créations d’emplois dans le monde. Si l’on s’attache toujours aux emplois que la technologie contribue à détruire, on oublie en effet que le progrès technique entraîne systématiquement un gain net en termes d’emplois. Ainsi, depuis 1990, l’informatique a créé 18,5 millions d’emplois aux États-Unis. Le mobile, lui, en a créé dix millions et a accru le PIB de 5%. Même l’intelligence artificielle, que beaucoup considèrent comme destructrice d’emploi, va en réalité s’avérer bénéfique. Selon une récente étude de Gartner, l’IA va ainsi représenter un gain net d’emplois de 2,3 millions aux États-Unis d’ici 2020. Or, créer des emplois est un excellent moyen de résorber les inégalités. »

Grâce à l’internet, les habitants de pays qui n’ont jamais connu la liberté ou la démocratie ont pu en avoir un aperçu, ce qui a constitué un important facteur de changement. 
babak

Babak Hodjat

S’il ne nie pas l’inégalité d’accès au numérique dans l’éducation, Babak Hodjat affirme que la technologie est aussi un moyen de réduire les injustices dans ce domaine. « Grâce aux cours en ligne, comme Khan Academy, par exemple, n’importe qui ayant une connexion internet peut accéder à des contenus éducatifs de grande qualité. » Les entreprises des nouvelles technologies font selon lui tout leur possible pour résorber la fracture numérique. « Facebook, Google et consorts savent que pour accroître leurs parts de marché, ils ont tout intérêt à ce que le plus grand monde possible ait accès à la toile. L’entreprise Dell permet à aller seule à 2,3 millions d’enfants défavorisés d’accéder aux nouvelles technologies à l’école. »

L’internet rend en outre possible l’accomplissement de rêves entrepreneuriaux dans les zones les plus pauvres. « Grâce au microcrédit en ligne, de nombreux commerces familiaux peuvent vivre leur rêve d’entrepreneur. C’était impensable il y a encore dix ans. » Enfin, la toile est aussi, selon lui, un formidable moteur au service de la liberté. « On parle aujourd’hui de “révolutions Twitter” ou de “révoltes Facebook”. Grâce à l’internet, les habitants de pays qui n’ont jamais connu la liberté ou la démocratie ont pu en avoir un aperçu, ce qui a constitué un important facteur de changement. »

Technology is responsible for increasing inequality
  • 1 min

Faut-il briser les monopoles 2.0 ?

Pour Babak Hodjat, le rôle néfaste attribué aux nouvelles technologies tient en partie à un biais de négativité inhérent à l’esprit humain, qui tend à souligner davantage les mauvaises nouvelles. En outre, l’internet et les nouvelles technologies, en contribuant à la circulation de l’information, rendent ces effets négatifs plus visibles. Mais le monde des nouvelles technologies n’est pas pour autant exempt de tout défaut. Ainsi, les grandes entreprises technologiques américaines, et en particulier les fameux GAFA, ont selon lui beaucoup trop de pouvoir. « Certains acteurs des nouvelles technologies sont tout simplement trop puissants. Facebook est un bon exemple. L’an dernier, j’ai assisté à une conférence où Mark Zuckerberg affirmait avoir fait une exception à la règle de filtrage en vigueur sur sa plateforme pour rendre plus visibles certains propos tenus par Trump. Il est anormal qu’un seul individu ait un tel pouvoir. » Mais là encore, la responsabilité en incombe selon lui à la société, qui devrait mettre en œuvre des régulations pour éviter qu’une entreprise ne puisse disposer d’une telle influence.

Lors de la récente audition de Mark Zuckerberg auprès des parlementaires européens, plusieurs hommes politiques se sont inquiétés du trop grand pouvoir de Facebook, certains affirmant que le réseau social avait désormais la possibilité de contrôler l’information, d’autres arguant qu’un monopole de cette ampleur devrait être démantelé. Par ailleurs, de nombreuses voix s’élèvent pour dénoncer le trop grand pouvoir dont bénéficient les GAFA et appeler le pouvoir politique à mettre en œuvre des actions en conséquence. Google est également dans le viseur : l’entreprise Yelp a ainsi récemment déposé une plainte auprès de la Commission européenne, dénonçant les pratiques anticoncurrentielles de Google. La plateforme d’avis participatif accuse le géant américain de détourner le trafic internet vers ses propres contenus et services. Google a déjà reçu une amende de 2,4 milliards d’euros de la Commission européenne, pour abus de position dominante, sanction contre laquelle l’entreprise a fait appel.

l'homme sera toujours maître des technologies

techno

Shutterstock

Derrière l’écran, l’Homme reste aux manettes 

babak
Regard d'expert

Babak Hodjat

CEO Sentient Technologies

Nous devons prendre le temps de penser aux implications de chaque nouvelle technologie, au lieu d’épouser toutes les nouveautés sans réfléchir.

Pour Rose Stuckey Kirk, si escompter supprimer les inégalités ou les biais inhérents à la nature humaine est illusoire, la meilleure manière de maximiser l’aspect positif des nouvelles technologies et de résorber leurs effets pervers est de miser sur une éducation plus égalitaire. « Notre levier d’action le plus efficace se trouve, à mon sens, dans le cœur et l’esprit des jeunes générations. C’est pourquoi nous devons impérativement leur donner accès à ces nouvelles technologies, et leur apprendre à s’en servir de manière responsable. En intervenant suffisamment en amont, il est possible de résorber la propension de ces technologies numériques à accroître les inégalités. » a-t-elle conclu.

Un constat que partage Babak Hodjat. « Nous devons prendre le temps de penser aux implications de chaque nouvelle technologie, au lieu d’épouser toutes les nouveautés sans réfléchir. Ainsi, si l’on construit un algorithme d’apprentissage profond à partir d’images ou de texte, sans se poser la moindre question, il y a toutes les chances pour que cet algorithme soit biaisé. Nous devons également mettre en place des outils nous permettant d’auditer ces nouvelles technologies, pour nous assurer qu’elles soient compatibles avec ce que nous considérons comme un modèle de société juste. Et il faut bien sûr, au-dessus de tout cela, des lois et régulations qui nous permettent de garder la bonne direction. » L’éducation étant, pour lui aussi, un enjeu majeur. « En utilisant notre mobile ou les réseaux sociaux, nous avons tendance à nous déresponsabiliser, nous devenons très réactifs, nous partageons des contenus sans réfléchir. Pourtant, notre responsabilité est immense. On parle beaucoup de la multiplication des fausses informations, permises par les nouvelles technologies, mais la responsabilité incombe aussi aux personnes qui partagent ces informations sans réfléchir. Pour cela, il est important d’éduquer les individus dès le plus jeune âge à employer l’internet et les nouvelles technologies de manière responsable. »

Rédigé par Guillaume Renouard