Transparence et responsabilité des algorithmes

Dans le cadre des entretiens Jacques Cartier, une conférence est organisée sur la transparence et la responsabilité des algorithmes.

Les algorithmes jouent un rôle de plus en plus fondamental dans tous les aspects de notre vie. En particulier, ils sont utilisés pour classer, prédire et utiliser comme outil d’aide à la décision (voir pour prendre des décisions automatisées) dans de nombreux contextes tels que le commerce en ligne, la finance, la justice, la police, les ressources humaines ou encore la politique. Cependant, leur prégnance et l’impact important qu’ils ont sur la société soulève aussi de nombreux risques et questionnements à tel point que certains tels qu’Antoinette Rouvroy n’hésite pas à parler de « gouvernementalité algorithmique ». Une des principales craintes soulevées par les algorithmes est leur manque de transparence de leur fonctionnement, en particulier lorsque que ceux-ci sont appris à partir de données massives grâce à des techniques avancées d’apprentissage machine telle que l’apprentissage profond, ce qui pourrait amener à l’avènement d’une « société boîte noire » comme la baptisé Franck Pasquale. De plus, cette transparence est un prérequis pour pouvoir analyser les éventuels biais que pourrait avoir l’algorithme (par exemple en discriminant par rapport à certaines catégories) et ainsi pouvoir lui demander de rendre des comptes sur le pourquoi de ces décisions en vue éventuellement de corriger certains de ces biais.

Le but de ce colloque est de discuter en suivant une approche multidisciplinaire, les questions soulevées par la transparence et la responsabilité des algorithmes telles que par exemple :

• Est ce que les algorithmes devraient être réguler et si oui de quelle manière ?
• Quelles sont les situations où la transparence est nécessaire et comment l’implémenter en pratique ?
• Comment réconcilier le besoin des entreprises de protéger leur propriété intellectuelle avec le besoin des citoyens de pouvoir comprendre la logique derrière les algorithmes qu’ils utilisent ou qui produisent un effet sur leurs vies ?
• Comment améliorer la transparence, la responsabilité ainsi que l’équité des décisions prises par des systèmes algorithmiques sans pour autant compromettre leur utilité (telles que mesurée par exemple en termes de précision ou pertinence)

LUNDI 16 OCTOBRE

Programme préliminaire

8h45 – 9h15

Accueil et café d’introduction

9h15 – 10h30

Session 1 – Propos introductifs

Présidente de session : Céline Castets-Renard

• Daniel Le Métayer – Au-delà de la transparence des algorithmes : le devoir de rendre compte
• Cynthia Chassigneux – Algorithmes et respect de la vie privée.
• Discussion, échanges avec l’auditoire.

10h30 – 11h00

Pause-café

11h00 – 12h15

Session 2 – Transparence 

Président de session : Sébastien Gambs

• Vincent  Gautrais – Obligation de transparence et économie de partage.
• Oana Goga – Investiguer les mécanismes de transparence pour la publicité dans les média sociaux .
• Discussion, échanges avec l’auditoire.

12h15 – 13h30

Déjeuner sur place

13h30 – 14h45

Session 3 – Loyauté, biais et discrimination

Président de session : Daniel Le Métayer

• Céline Castets-Renard – Loyauté et transparence algorithmique dans la loi française Pour une république numérique : quels contenu et effectivité ?
• Sébastien Gambs – Quantifier et mesurer la discrimination.
• Discussion, échanges avec l’auditoire.

14h45 – 16h00

Session 4 –Algorithmes et justice prédictive 

Président de session : Vincent Gautrais

• Marc Clément – Les algorithmes au service du juge?
• Christelle Papineau – Le juge garant de la bonne utilisation des outils de justice prédictive : l’exemple américain
• Discussion, échanges avec l’auditoire.

16h00 – 16h30

Pause café

16h30 – 17h30

Session 5 – Table-ronde : Les algorithmes dans l’économie numérique

Président de session : Pierre Trudel

• Hugo Larochelle (Google AI)
• Autres participants (à préciser)

17h30 – 18h00

Discours de clôture : Hugo Cyr, Doyen de la faculté de science politique et de droit de l’UQAM