Éthique et nouvelles technologies

Jeudi 16 novembre 2023, la HES-SO, dans le cadre de son master Integrated Innovation for Product and Business Development – Innokick, a organisé une table ronde publique entre Dr. Marie Gallais, chercheuse au Luxembourg Institute of Science and Technology (LIST), Dr. Jessica Pidoux, chercheuse à Sciences Po Paris et à l’université de Neuchâtel, et Madame Catherine Pugin, déléguée au numérique du canton de Vaud. Cet événement s'est tenu dans les locaux d'Innokick à Renens. Le thème de la soirée était l'éthique et les nouvelles technologies. Il ressort de cet échange la nécessité d'une réflexion approfondie sur l'impact de la technologie dans notre société.

Si je devais résumer en une phrase cet échange, je retiendrais qu'il faudra que nous trouvions un équilibre entre innovation et responsabilité éthique, en veillant à ce que la technologie serve l'intérêt général, tout en respectant les droits individuels et en favorisant une société inclusive et équitable.

Dans cet article, je ne vais pas vous faire un retour verbatim de l'heure et demie qu'a duré cette table ronde, mais plutôt mettre en exergue les quelques points qui alimentent mes réflexions actuelles.

Changement de paradigme

Aujourd'hui, nous ne pouvons plus dire que seule la technologie est la solution à tous nos besoins et que tout doit être numérisé ou, encore mieux, digitalisé. En effet, plusieurs référendums en Suisse, comme le refus à 64,4 % par le peuple, lors de la votation du 7 mars 2021, de la loi fédérale sur les services d’identification électronique (LSIE) – e-ID; à Genève, l'acceptation le 18 juin 2023, à 94,2 %, d'une modification constitutionnelle visant à introduire une protection forte de l’individu dans l'espace numérique, plaçant ce canton comme pionnier en la matière en Suisse; mais également l'évolution de la législation nationale, comme la révision complète de la loi fédérale sur la protection des données (LPD), entrée en vigueur le 1er septembre 2023; ou l'introduction de nouvelles lois au niveau européen, comme le règlement européen sur les services numériques (DSA), montrent qu'il y a un changement de paradigme en matière de numérique et une volonté de mieux contrôler ceux qui détiennent toutes nos informations.

Nous, citoyens, devons définir quels sont les services numériques qui sont régaliens et ceux qui peuvent être gérés par le privé.

Qui détient le pouvoir

Au siècle passé, l'informaticien détenait le pouvoir au sein des entreprises, des organisations et des administrations. Depuis le début des années 2000, nous constatons que le pouvoir, que les informaticiens avaient, a été transféré aux GAFAM (Google, Amazon, Facebook, Apple, Microsoft) – américains, ou aux BATX (Baidu, Alibaba, Tencent et Xiaomi) – chinois. Ce sont ces derniers qui peuvent décider quel contenu est publié sur les réseaux sociaux, qui peut rencontrer qui sur les applications de rencontre, qui devons-nous engager, comment pouvons-nous représenter certaines images. La technologie devrait être juste, responsable et inclusive, sans distinction de genre, d'âge ou de handicap, ce qui n'est pas le cas à l'heure actuelle. En effet, l'intelligence artificielle (IA) a des biais qui ont été évalués, entre autres, par le MIT. Selon cet institut, l'IA reconnaît plus facilement les hommes blancs que les femmes noires. J'avais également fait ce constat dans mon article : "Plongée dans les biais de l'IA", qui met en avant les difficultés, pour ne pas dire l'impossibilité, qu'a l'IA de générer une photo d'un médecin d'origine africaine venant en aide à des enfants européens pauvres. Selon des recherches, Tinder favoriserait les rencontres entre des hommes plus âgés et des femmes plus jeunes. Pour ce faire, ce service de rencontre se baserait uniquement sur les données des profils et non sur les photos, afin de choisir les meilleurs matchs. L'algorithme amplifierait ses biais, et ces derniers sont également renforcés par les choix faits par les utilisateurs.

On ne peut pas dire qu'un biais de discrimination induit forcément une mauvaise intention de la part des développeurs, comme du racisme. Toutefois, l'impact est visible et perceptible, car il est constaté quotidiennement.

Nous constatons également que nous avons une forte dépendance aux acteurs américains et chinois. Ce sont eux qui conçoivent et paramètrent / entraînent la majeure partie des applications actuellement disponibles sur le marché. Par conséquent, le monde politique doit reprendre le contrôle et définir le cadre. L'Europe, quant à elle, essaie de réguler le secteur de l'IA avec son projet de loi sur l'intelligence artificielle (EU AI Act) [1]. Cette loi vise à classifier les IA en fonction de leur niveau de risque et ainsi réduire le risque d'une dérive.

La loi fédérale sur la protection des données a été renforcée cette année et oblige à annoncer à la personne concernée toute décision qui est prise exclusivement sur la base d’un traitement de données personnelles automatisé. Se pose alors la question : le législateur doit-il courir après l'innovation technologique (ce qui est souvent le cas actuellement) ou doit-il définir des principes généraux, ce qui pourrait induire une décélération du processus d'innovation afin que l'on puisse construire sur des bases claires? Nous pouvons également nous demander si un petit pays comme la Suisse a les moyens de faire fléchir les géants de la tech.

Comment s'améliorer : formation, transparence, collaboration

Lors de tout projet numérique, nous devons réfléchir à l'impact éthique et sociétal de la technologie sur notre société.

Pour ce faire, et afin de diminuer les risques, il faut former tout le monde, afin que nous puissions tous comprendre les biais dans lesquels nous pourrions tomber à cause du numérique. Il faut également renforcer la qualité des jeux de données, afin qu'ils n'excluent pas une catégorie de personnes ou qu'une autre soit surreprésentée. Il faut également renforcer la transparence et, par conséquent, la formation pour que plus de personnes puissent évaluer les algorithmes, qui sont souvent très complexes à comprendre. Finalement, il faut renforcer la participation, la transversalité au sein des organisations, afin d'atténuer les biais et de sensibiliser chacun à la protection des données.

En conclusion, le débat autour de l'éthique dans les nouvelles technologies est aussi vaste qu'essentiel. Comme nous l'avons vu, l'intégration de principes éthiques dans le développement et la mise en œuvre des technologies numériques soulève des questions cruciales quant à l'avenir de notre société. Cette soirée de réflexion à la HES-SO n'est que la pointe de l'iceberg dans une mer de défis et de possibilités.

Il est clair que nous sommes à un carrefour: soit nous prenons le chemin de l'innovation sans garde-fou, avec tous les risques que cela comporte pour nos libertés et notre identité, soit nous nous orientons vers une approche plus mesurée et responsable, où la technologie est au service de l'humanité et non l'inverse.

Avez-vous des expériences ou des perspectives différentes sur le sujet? Quelles solutions envisagez-vous pour allier innovation technologique et respect de l'éthique? Votre participation est précieuse; ensemble, explorons les moyens de construire un avenir numérique qui soit à la fois innovant, équitable et respectueux de nos valeurs fondamentales. N'hésitez pas à partager vos pensées et vos opinions en commentaires!

[1] Parlement européen, Loi sur l'IA de l'UE : première réglementation de l'intelligence artificielle, https://www.europarl.europa.eu/news/fr/headlines/society/20230601STO93804/loi-sur-l-ia-de-l-ue-premiere-reglementation-de-l-intelligence-artificielle, publié le 9 juin 2023, consulté en ligne le 17 novembre 2023

Image générée par Dall-e