Analyses, commentaires et informations sur l'actualité suisse
Indépendant, différent, réformiste depuis 1963
Analyses, commentaires et informations sur l'actualité suisse
Indépendant, différent, réformiste depuis 1963

La révolution numérique ne doit pas s’affranchir des droits fondamentaux

Des propositions pour contraindre les plateformes numériques à garantir l’égalité de traitement

Photo Jorge Franganillo

L’omniprésence des technologies numériques dans le monde professionnel et dans la sphère privée affecte non seulement notre mode de vie, mais aussi l’Etat de droit et les droits fondamentaux. Afin de donner à la société les moyens de profiter des bénéfices des nouvelles technologies et d’appuyer la réflexion du groupe socialiste aux Chambres fédérales, l’ancien conseiller national Jean Christophe Schwaab décortique dans un rapport les effets de la numérisation sur le monde réel et formule plusieurs propositions de modifications d’articles constitutionnels. Cet article se concentre sur les aspects relatifs à l’Etat de droit et à l’égalité de traitement.

Parmi les plateformes Internet souvent associées à la révolution numérique, nombre d’entre elles cherchent à s’imposer comme nouvel intermédiaire sur un marché. Airbnb, Uber, Deliveroo ou Amazon Turk sont des exemples bien connus (DP 2071). Le modèle d’affaires de ces entreprises repose sur des procédures de mise en relation des utilisateurs, et sur des algorithmes qui «font le boulot»: ils ajustent l’offre et la demande et œuvrent dans l’intérêt d’un grand nombre de personnes participantes.

Ce grand nombre comprend les personnes pouvant payer les prestations, tel un repas livré à domicile, et celles qui, sous peine de licenciement, ne peuvent refuser de les fournir, tel le coursier qui vous l’apporte. Cette approche algorithmique discrimine une partie des utilisateurs, par exemple les exclus ou les insatisfaits du service. Les conditions et les horaires de travail sont souvent extrêmes, et les voies de contestation à l’encontre de la plateforme réduites. Une telle discrimination est souvent illégale, car elle fait fi des règles applicables par exemple aux hôteliers, aux chauffeurs de taxi, ou aux travailleurs indépendants.

Afin de limiter les discriminations opérées par les algorithmes et de renforcer le principe d’égalité (art. 8 de la Constitution), Schwaab suggère d’inverser le fardeau de la preuve: les utilisateurs ou propriétaires d’algorithmes auraient l’obligation de démontrer l’absence de discrimination opérée par le programme. Car faute de connaître la procédure et les données sur lesquelles repose la décision de la plateforme, les victimes de discriminations ont du mal à défendre leurs droits.

Démontrer l’illégalité des algorithmes s’avère complexe: caractère secret et difficulté d’établir leur fonctionnement détaillé sans lire leur code informatique. Et pour cause, la programmation des algorithmes s’effectue sous le couvert du secret commercial.

Pour rendre les algorithmes plus transparents et justiciables, l’auteur propose de renforcer le principe de l’Etat de droit (art. 5 de la Constitution) en exigeant la désignation d’une personne responsable, et en imposant la publicité de leur code, ou du moins en rendant obligatoire le contrôle de leur fonctionnement.

Ainsi, à la manière d’un auditeur épluchant les comptes d’une entreprise, des tiers certifiés évalueraient les effets produits par les algorithmes et identifieraient les «sources d’erreur». Par erreur, nous n’entendons pas la livraison d’une pizza quatre fromages à la place d’une margherita, mais l’absence de pause dans la journée de travail d’un chauffeur, le non-respect des conditions de sécurité, ou l’absence de paiement des cotisations sociales.

Cette transparence a également des limites, notamment en termes de compréhension et d’explication des choix effectués par l’algorithme. Ces choix incluent nécessairement des biais lors de la définition du problème que l’algorithme doit résoudre, lors de la collecte des données servant à réaliser des choix, puis lors du traitement des données.

Les principes d’égalité de traitement et de transparence n’en restent pas moins pertinents. Mais comment les faire respecter dans un environnement technologique maîtrisé uniquement par des experts et dont les buts affichés sont ceux de rompre la règle?

Pour Alain Supiot, en confiant nos règles aux algorithmes, nous levons les obligations et interdits définis dans le cadre du débat démocratique et les remplaçons par la somme des utilités de chacune et chacun. De plus, lors de ce remplacement, nous consentons au transfert d’une partie de notre pouvoir décisionnel hors des arènes politiques vers les entreprises technologiques et déléguons à ces dernières l’autorité de nous soumettre à leurs propres règles.

Les efforts politiques pour remédier à la situation portent en premier lieu sur les possibilités de réglementation des abus sanctionnés par le droit pénal (motion Schwaab). Les tribunaux contribuent également à remettre en question les pratiques des entreprises «disruptives». Mais, ironie de l’histoire, les accords d’entraide judiciaire ne permettent généralement pas de faire appliquer le droit national à l’étranger, où sont hébergés les données et où siègent les sociétés.

Une réaction? Une correction? Un complément d’information? Ecrivez-nous!

Et si l’envie vous prend de passer de l’autre côté de l’écran, DP est ouvert aux nouvelles collaborations: prenez contact!

logo creative commmons Republier
La reproduction de cet article est autorisée et gratuite, mais selon les modalités du présent contrat Creative Commons: activer un lien vers la page ou citer l'URL de celle-ci, https://www.domainepublic.ch/articles/34802 - Merci
DOMAINE PUBLIC

Analyses, commentaires et informations sur l'actualité suisse
Indépendant et différent depuis 1963
En continu, avec liens et réactions sur https://www.domainepublic.ch
Newsletter gratuite chaque lundi: les articles, le magazine PDF et l'eBook
En continu, avec liens et réactions sur https://www.domainepublic.ch

Lien vers l'article: https://www.domainepublic.ch/articles/34802

Si vous avez apprécié cet article, ne manquez pas les prochains en vous abonnant gratuitement au moyen d'une des trois options suivantes.

L'hebdomadaire

Articles par courriel

Flux RSS

Recevez tous les lundi par courriel le sommaire des nouveaux articles et le lien vers l'édition PDF ou l'édition eBook.
Recevez chaque article dès parution (un courriel par jour au plus).
Lisez les articles dans votre agrégateur, ajoutez les sur votre blog ou site.

Si vous avez apprécié cet article, ne manquez pas les prochains en vous abonnant gratuitement au moyen d'une des trois options suivantes.

L'hebdomadaire

Recevez tous les lundi par courriel le sommaire des nouveaux articles et le lien vers l'édition PDF ou l'édition eBook. Je m'abonne

Articles par courriel

Recevez chaque article dès parution (un courriel par jour au plus). Je m'abonne

Flux RSS

Lisez les articles dans votre agrégateur, ajoutez les sur votre blog ou site. Je m'abonne

Accueil

Les auteur-e-s

Les articles

Les publications

Le Kiosque

A propos de DP