jeudi 26 janvier 2017

Quel cadre éthique pour les algorithmes ? La CNIL ouvre le débat

Internet, santé, scolarité… à l’heure de l’intelligence artificielle et de la multiplication des données, les algorithmes s'immiscent dans notre quotidien et posent question.
La CNIL lance un premier cycle de débats publics autour de ce thème, en présence de personnalités du numérique.

Missionnée par la loi pour une République numérique du 7 octobre 2016 pour conduire une réflexion sur les enjeux éthiques et les questions de société soulevées par l'évolution des technologies numériques, la CNIL a donné le coup d’envoi ce lundi 23 janvier 2017 avec deux tables rondes sur les algorithmes : "Des algorithmes et des hommes" et "Loyauté, transparence, pluralité".
Retransmises en direct sur Youtube et  commentées sur Twitter (#algoethique), elles ont réuni plusieurs chercheurs pour débattre de ces enjeux dans les locaux de la Commission.

Entre fantasmes et méfiance

Un sondage ifop, mené pour la CNIL en janvier 2017 auprès de 1 001 personnes, révèle que les français ont une perception confuse des algorithmes.

Si 83 % des sondés disent avoir entendu parler des algorithmes, et 72% en font un enjeu de société, ils sont 52 % à admettre ne pas savoir précisément de quoi il s’agit.
Selon Isabelle Falque-Pierrotin, présidente de la CNIL, “les algorithmes sont la proie de tous les fantasmes. D’un côté, il y a la fascination technologique pour ces objets. D’un autre côté, il y a aussi une peur irraisonnée, où l'on se dit : "Les algorithmes vont me prendre mon job, me condamner à mort si je suis un malade en fin de vie ou me conduire en prison directement parce qu'il n'y aura plus de juges”. Le débat a donc pour objectif “de cerner les questions éthiques réelles”.

Pour le moment très peu contrôlés, les algorithmes provoquent de nombreuses réactions diverses et passionnées. Partant de ce constat, la Cnil, qui voit comme «une nécessité» de faire des algorithmes l'objet d'un vaste débat public pour faire progresser la connaissance et la réflexion par la société civile, a dressé une liste non exhaustive des nombreuses questions qu’ils suscitent :

  • S’agit-il d’une nouvelle révolution industrielle, ou d’un simple moyen d’améliorer la productivité ?
  • Les algorithmes sont-ils les nouveaux décideurs ?
  • Ont-ils pour effet de nous enfermer dans une bulle informationnelle, mettant en danger ouverture culturelle et pluralisme démocratique ?
  • Sont-ils au contraire un moyen d’accéder à des idées, contenus, données ou personnes inaccessibles ou invisibles jusqu’alors ?
  • Quelle transparence à l’ère des algorithmes : comment concilier transparence et propriété intellectuelle ?
  • Faut-il repenser, face aux progrès de l’intelligence artificielle, la responsabilité des acteurs publics et privés ?
  • Comment construire le libre-arbitre dans un monde « algorithmé » ?

C’est notamment à ces interrogations que les tables rondes ont tenté d’apporter les premiers éléments de réponse.

Informer pour démystifier

Les formules mathématiques sophistiquées que sont les algorithmes ne sont pas toujours évidentes à appréhender. Isabelle Falque-Pierrotin explique que “Les catégories les plus éduquées de la population française les comprennent bien, mais [que] moins on est éduqué, moins il est facile de comprendre le rôle de ces algorithmes”. Afin de “remettre tout le monde à égalité de compréhension et de choix”, la CNIL incite les institutions publiques, la société civile et les entreprises à prendre part aux débats.
D’autres manifestations “multiformes” suivront, dont la CNIL assurera la coordination et la cohérence. De nombreuses organisations se sont d'ores et déjà associées à la démarche, afin que des discussions soient menés dans tous les domaines de la vie publique. Parmi ceux ayant annoncé leur participation, figurent les ministères de l'Education nationale et de la Culture, de grandes écoles (Sciences Po Paris et Sciences Po Lille), une quinzaine d'associations et plusieurs centres de recherche.

Une synthèse de l’ensemble des échanges et des contributions sera publiée à l'automne 2017, sous la forme d’une cartographie de l’état du débat public et d’un panorama des défis et des enjeux.


Participants aux tables rondes :

Table-ronde n°1 : des algorithmes et des hommes

- Paul Duan (Bob emploi)
- Roger-François Gauthier (Professeur de politique éducative comparée à l’Université Paris V)
- Jean-Philippe Desbiolles (VP, IBM France)
- Rand Hindi (Snips)
- Antoine Garapon (IHESJ)

Table-ronde n°2 : loyauté, transparence, pluralité

- Dominique Cardon (Sciences Po, Médialab)
- Cédric Villani (Institut Henri Poincaré)
- Antoinette Rouvroy (Université de Namur)
- Bruno Patino (Arte)


Sources

Ethique et numérique : les algorithmes en débat. Communiqué de la CNIL [en ligne]. CNIL. 23 janvier 2017 [consulté le 25/01/2017]

JOST Clémence. Suivez en direct le grand débat public organisé par la Cnil sur les algorithmes ! [en ligne]. Archimag. 23 janvier 2017 [consulté le 26/01/2017]

“Les algorithmes sont partout, ils font partie de nos vie, mais ce sont des boîtes noires" pour la Cnil. Interview d’Isabelle Falque-Pierrotin. franceinfo. 23 janvier 2017 [consulté le 25/01/2017] <http://www.francetvinfo.fr/internet/securite-sur-internet/les-algorithmes-sont-partout-ils-font-partie-de-nos-vie-mais-ce-sont-des-boites-noires-pour-la-cnil_2032315.html>

CASSINI Sandrine. La CNIL lance un vaste débat public sur les algorithmes [en ligne]. Le Monde. 23 janvier 2017 [consulté le 26/01/2017]

Lire aussi

CANIVET Marie. La difficile adoption de l'IA [en ligne]. UniVersDoc. 05 décembre 2016 [consulté le 26/01/2017]

CALVEZ Mathilde. Intelligence artificielle : vers une vision positive [en ligne]. UniVersDoc. 05 décembre 2016 [consulté le 26/01/2017]

Aucun commentaire:

Enregistrer un commentaire