Analyses, commentaires et informations sur l'actualité suisse
Indépendant, différent, réformiste du 31 octobre 1963 au 24 juin 2021
Analyses, commentaires et informations sur l'actualité suisse
Indépendant, différent, réformiste depuis 1963
Après 58 ans, Domaine Public a cessé de paraître. Ce site ne publiera plus de nouveaux articles et est en cours de transformation pour présenter l'histoire et les archives du journal.

La révolution numérique ne doit pas s’affranchir des droits fondamentaux

Des propositions pour contraindre les plateformes numériques à garantir l’égalité de traitement

Photo Jorge Franganillo

L’omniprésence des technologies numériques dans le monde professionnel et dans la sphère privée affecte non seulement notre mode de vie, mais aussi l’Etat de droit et les droits fondamentaux. Afin de donner à la société les moyens de profiter des bénéfices des nouvelles technologies et d’appuyer la réflexion du groupe socialiste aux Chambres fédérales, l’ancien conseiller national Jean Christophe Schwaab décortique dans un rapport les effets de la numérisation sur le monde réel et formule plusieurs propositions de modifications d’articles constitutionnels. Cet article se concentre sur les aspects relatifs à l’Etat de droit et à l’égalité de traitement.

Parmi les plateformes Internet souvent associées à la révolution numérique, nombre d’entre elles cherchent à s’imposer comme nouvel intermédiaire sur un marché. Airbnb, Uber, Deliveroo ou Amazon Turk sont des exemples bien connus (DP 2071). Le modèle d’affaires de ces entreprises repose sur des procédures de mise en relation des utilisateurs, et sur des algorithmes qui «font le boulot»: ils ajustent l’offre et la demande et œuvrent dans l’intérêt d’un grand nombre de personnes participantes.

Ce grand nombre comprend les personnes pouvant payer les prestations, tel un repas livré à domicile, et celles qui, sous peine de licenciement, ne peuvent refuser de les fournir, tel le coursier qui vous l’apporte. Cette approche algorithmique discrimine une partie des utilisateurs, par exemple les exclus ou les insatisfaits du service. Les conditions et les horaires de travail sont souvent extrêmes, et les voies de contestation à l’encontre de la plateforme réduites. Une telle discrimination est souvent illégale, car elle fait fi des règles applicables par exemple aux hôteliers, aux chauffeurs de taxi, ou aux travailleurs indépendants.

Afin de limiter les discriminations opérées par les algorithmes et de renforcer le principe d’égalité (art. 8 de la Constitution), Schwaab suggère d’inverser le fardeau de la preuve: les utilisateurs ou propriétaires d’algorithmes auraient l’obligation de démontrer l’absence de discrimination opérée par le programme. Car faute de connaître la procédure et les données sur lesquelles repose la décision de la plateforme, les victimes de discriminations ont du mal à défendre leurs droits.

Démontrer l’illégalité des algorithmes s’avère complexe: caractère secret et difficulté d’établir leur fonctionnement détaillé sans lire leur code informatique. Et pour cause, la programmation des algorithmes s’effectue sous le couvert du secret commercial.

Pour rendre les algorithmes plus transparents et justiciables, l’auteur propose de renforcer le principe de l’Etat de droit (art. 5 de la Constitution) en exigeant la désignation d’une personne responsable, et en imposant la publicité de leur code, ou du moins en rendant obligatoire le contrôle de leur fonctionnement.

Ainsi, à la manière d’un auditeur épluchant les comptes d’une entreprise, des tiers certifiés évalueraient les effets produits par les algorithmes et identifieraient les «sources d’erreur». Par erreur, nous n’entendons pas la livraison d’une pizza quatre fromages à la place d’une margherita, mais l’absence de pause dans la journée de travail d’un chauffeur, le non-respect des conditions de sécurité, ou l’absence de paiement des cotisations sociales.

Cette transparence a également des limites, notamment en termes de compréhension et d’explication des choix effectués par l’algorithme. Ces choix incluent nécessairement des biais lors de la définition du problème que l’algorithme doit résoudre, lors de la collecte des données servant à réaliser des choix, puis lors du traitement des données.

Les principes d’égalité de traitement et de transparence n’en restent pas moins pertinents. Mais comment les faire respecter dans un environnement technologique maîtrisé uniquement par des experts et dont les buts affichés sont ceux de rompre la règle?

Pour Alain Supiot, en confiant nos règles aux algorithmes, nous levons les obligations et interdits définis dans le cadre du débat démocratique et les remplaçons par la somme des utilités de chacune et chacun. De plus, lors de ce remplacement, nous consentons au transfert d’une partie de notre pouvoir décisionnel hors des arènes politiques vers les entreprises technologiques et déléguons à ces dernières l’autorité de nous soumettre à leurs propres règles.

Les efforts politiques pour remédier à la situation portent en premier lieu sur les possibilités de réglementation des abus sanctionnés par le droit pénal (motion Schwaab). Les tribunaux contribuent également à remettre en question les pratiques des entreprises «disruptives». Mais, ironie de l’histoire, les accords d’entraide judiciaire ne permettent généralement pas de faire appliquer le droit national à l’étranger, où sont hébergés les données et où siègent les sociétés.

Une réaction? Une correction? Un complément d’information? Ecrivez-nous!
logo creative commmons Republier
La reproduction de cet article est autorisée et gratuite, mais selon les modalités du présent contrat Creative Commons: activer un lien vers la page ou citer l'URL de celle-ci, https://www.domainepublic.ch/articles/34802 - Merci
DOMAINE PUBLIC

Analyses, commentaires et informations sur l'actualité suisse
Indépendant et différent depuis 1963
En continu, avec liens et réactions sur https://www.domainepublic.ch
Newsletter gratuite chaque lundi: les articles, le magazine PDF et l'eBook
En continu, avec liens et réactions sur https://www.domainepublic.ch

Lien vers l'article: https://www.domainepublic.ch/articles/34802

Accueil

Auteures / Auteurs

Les articles

Les publications

Le Kiosque

À propos de DP