Un collectif citoyen. Deux sujets conjoints : l'éthique de l'IA et le droit, et les mots qui nous manquent pour en parler.
Nous pensons, comme tout le monde, que l'IA devient un enjeu de société critique. Mais, contrairement à beaucoup, nous pensons que son avenir doit être mis dans la main des citoyens. Dans cet avenir technologique qui se dessine, chacun devrait avoir le droit légitime de pouvoir s'exprimer sur la révolution anthropologique en cours.
Nous sommes à un tournant. L'intelligence artificielle n'est plus une promesse lointaine ou une spéculation de science-fiction : elle est là, dans nos poches, nos maisons, nos institutions. Elle prend des décisions qui nous affectent, le recrutement, le crédit, la justice prédictive, qui prévoit les décisions des juges, la santé, le conseil de vie, et les cas d'usage ne cessent d'augmenter de jour en jour. Elle évolue plus vite que notre capacité collective à la penser. Face à cette opacité, le débat public est en panne. Les colloques académiques restent confinés. Les médias produisent du buzz, pas de la pensée. Les instances régulatrices courent derrière la technique. Et il n'existe finalement aucune consultation citoyenne.
Nous passons d'IA génériques, celles qu'on remet en question, à des IA de plus en plus personnelles, puis à des IA de groupe, dans la maison, dans la famille. Dès qu'on passe à des IA qui doivent prendre des responsabilités morales et légales vis-à-vis d'un groupe, petit ou gros, on va devoir encoder la morale à l'intérieur de ces IA. Et on écarte complètement la problématique : qui, et sur quelle couche logicielle, va encoder l'acceptable de l'inacceptable ?
« J'ai l'impression que pas grand monde parle de l'encodage de la morale et de son architecture logicielle. »
Julien Fernandez
Il nous faut des nouveaux mots. Nous pensons qu'il faut forger des mots, pour essayer de comprendre, parce que le mot conscience va bloquer, le mot intelligence va bloquer. Ces questionnements sont assez profonds pour qu'on tisse tout un réseau de philosophes et de juristes, qu'on en fasse des podcasts, et qu'on montre une impasse réelle. Regarder ces produits avec ces enjeux-là appartient, pour nous, à une nouvelle citoyenneté.
Un citoyen, ni juriste ni spécialiste de l'IA, qui essaie d'interpréter le monde qui arrive.
Le débat sur l'IA nous appartient.