Les algorithmes nous gouvernent-ils ?
Cyberattaques, IA, Chatbot, ChatGPT, monmaster, parcoursup, véhicule autonome, reconnaissance faciale… Derrière tout cela, il y a de la donnée. Les algorithmes sont le nouvel eldorado, nourris par notre mode de vie ultra-connectée.
Les algorithmes nous gouvernent-ils ?
Cyberattaques, IA, Chatbot, ChatGPT, monmaster, parcoursup, véhicule autonome, reconnaissance faciale… Derrière tout cela, il y a de la donnée. Les algorithmes sont le nouvel eldorado, nourris par notre mode de vie ultra-connectée. Ils sont devenus des quasi-conseillers pour des pans entiers de la vie politique, sociale et économique.
Le futur au présent
Celui n’a pas entendu parler de ChatGPT revient nécessairement d’une retraite au bout du monde sans connexion. Tout le monde s’est emballé pour cette IA, à grand renfort d’experts et Cassandre. Au final, plus personne n’y a rien compris et les complotistes ont pris le relai. Pourtant, certaines expériences sont menées non pas pour remplacer l’humain, mais le compléter. Comme pour la médecine prédictive. Ce qui inquiète, ce sont les dérives croissantes d’une industrie de données, qui parfois mettent en péril la démocratie. Parce que la croyance de certains dans une parfaite rationalité de ces outils à qui l’on pourrait déléguer certaines tâches, voire certaines responsabilités, peut s’avérer une menace, quand cette délégation de responsabilité touche la justice par exemple.
Car croire que « algorithme », « donnée » ou « intelligence artificielle » (IA) sont des mots magiques, et que ces outils sont des êtres infaillibles, c’est oublier qu’ils ont été conçus par des humains, par essence faillibles. Déléguer les décisions aux seules IA, c’est oublier les biais qui ont nourri ces IA, qui apprennent d’après les données saisies. De nombreuses expériences ont révélé ces discriminations. De quoi douter de la rationalité de ces IA, surtout quand elles doivent jouer un rôle social.
Un monde de données
Les systèmes d’IA sont construits de manière à pouvoir traiter d’immenses quantités de données. La finalité étant de faire les choix les plus avertis et objectifs possibles. Les données sont collectées dès qu’on remplit un formulaire, qu’on allume un ordinateur, une tablette ou un téléphone, qu’on utilise notre carte bleue, notre carte Vitale, toute carte à puce. Les individus se sont transformés en « fournisseurs de data », comme l’explique Bernard Stiegler. Pour conserver le confort acquis par les avancées technologiques, nous sommes prêts à laisser éroder certaines de nos libertés fondamentales comme le droit à la vie privée, à l’anonymat, à l’indépendance de la pensée…
Tout cela pour un service prétendument gratuit. Consciente des risques, l’Europe a voulu mettre un coup de frein à cette toute-puissance des GAFAM (Google, Apple, Facebook, Amazon et Microsoft). Depuis mai 2018, le Règlement européen de protection des données personnelles (RGPD) s'applique dans toute l'Europe et s'impose aux entreprises comme aux administrations et aux associations. Il renforce les droits des habitants en matière de contrôle de l'utilisation faite de leurs données. Ce qui n’empêche pas des failles et des cyberattaques de menacer la confidentialité de ces données.
Exploitation des données
Les données sont de la matière qui peut être récoltée, stockée et traitée. Si la collecte de données est encadrée notamment par le RGPD, le stockage est aussi surveillé, pour éviter la fuite des données. La SITEC, société d’économie mixte spécialisée dans les services informatiques à destination des principaux acteurs économiques et institutionnels de la Corse, est ainsi certifiée pour héberger des données insulaires sensibles, personnelles et de santé. Près de 350 collectivités clientes ont confié leurs données à la SITEC. Le traitement de la donnée fait aussi partie des grands enjeux. Car en analysant nos données pour prédire notre comportement, le capitalisme devient un « capitalisme de surveillance », selon Shoshana Zuboff. Mais les données peuvent aussi éclairer, surtout si elles sont rendues publiques, en toute transparence. 631 jeux de données contenant des milliers d'informations réactualisées sont disponibles pour tous sur Open Data Corsica. L’Adec (Agence Développement économique de la Corse) utilise les données de l’Insee pour aider les entreprises insulaires.
Et la Collectivité de Corse (CdC) utilise les données récoltées sur les sites et applis de la CdC pour éclairer la décision publique. Pour éviter la monétisation de ces données, la CdC veut créer un service public de la donnée pour conserver la souveraineté sur la data insulaire. Une ambition qui va au-delà du seul jeu politique, pour contrer les GAFAM. Le nouveau David contre Goliath ?
Maria Mariana
