Préambule sur le couplage complexité/éthique 

Nous avons fêté cet été le centenaire du philosophe Edgar Morin. Ses travaux sur la complexité sont abondamment cités et commentés, nous mobilisons ici ceux sur l’éthique. Ainsi, en 2004, il souligne leur proximité de façon explicite « L’éthique est complexe parce qu’elle est de nature dialogique et doit affronter souvent l’ambiguïté et la contradiction ». Dès lors, nous avons cherché à décrypter la complexité des enjeux éthiques liés aux systèmes algorithmiques en mobilisant, comme grille d’analyse, les « trois principes qui peuvent nous aider à penser la complexité » tels que le philosophe les a formalisés en 2005.

1. Un rapide aperçu de l’analyse de la complexité par Edgar Morin

Il apparait ainsi que selon Morin, la science doit reconnaître la complexité du réel, à savoir la multi-dimensionnalité des choses et surtout leurs articulations, leurs tissages. C’est pourquoi il propose un mode de pensée pour affronter la complexité du monde qui nous entoure, en se référant à l’essence de la « complexité » en se basant sur le sens latin du mot complexus, c’est-à-dire « ce qui est tissé ensemble ». C’est à ce propos que nous avons employé « inextricable » dans le titre de cette contribution, pour discuter d’éléments différents, contradictoires, incertains, liés les uns aux autres. La complexité est alors la pensée qui va admettre la contradiction. Il ne s’agit pas de simplifier le réel pour en livrer les composants, mais plutôt de prendre conscience que la réduction n’amène pas à la vérité.

Nous mobilisons les principes, dialogique, de récursion et hologrammatique pour penser la complexité éthique :

• Le principe dialogique vise à unir des mouvements complémentaires et antagonistes.  Il peut être défini comme l’association complexe « d’instances, nécessaires ensemble à l’existence, au fonctionnement et au développement d’un phénomène organisé. » (Morin, 1986, p. 98)
• Le principe hologrammatique exprime que dans certains systèmes complexes la partie est inscrite dans le tout et le tout est inscrit dans la partie.
• Le principe de récursion ou boucle génératrice exprime le fait que les produits et les effets sont eux-mêmes producteurs de ce qui les produit, comme l’être humain qui produit la société est produit par elle.

2. Le principe dialogique : algorithmes et dilemmes éthiques.

Une des caractéristiques de la complexité éthique issue des systèmes algorithmiques réside dans l’existence de dilemmes éthiques. Nous pouvons mettre en avant l’exemple de la voiture autonome qui a un enfant en tant que passager et qui doit choisir entre, éviter un individu et éviter simultanément l’accident qui mettrait en danger son passager.

L’application du principe dialogique doit conduire, ex ante, à soulever clairement ce type de contradiction et à étudier comment de tels cas peuvent être traités dès la phase de conception. Pour appliquer ce principe dialogique, des positionnements éthiques (éthique déontologique, conséquentialiste, discursive, etc.) devront être discutés ex ante et mis en œuvre dans la conception, ce qui permettra le traitement des contradictions qui surviendront, avec un consensus établi dès le départ. Consensus qui sera remis en cause, entre unions et désunions, à travers une réflexion qui s’inscrira dans une boucle dialogique, et qui permettra de mieux penser la complexité éthique du phénomène étudié. C’est donc la prise en compte des contradictions et/ou ambiguïtés éthiques des algorithmes qui pourraient être mises en lumière ici.

3. Le principe hologrammatique : algorithmes et biais

Une autre caractéristique réside dans l’existence de biais et de valeurs incorporés par différents acteurs. Les algorithmes ne sont pas neutres et véhiculent les valeurs conscientes et inconscientes des développeurs, de l’organisation, des sociétés, et ils sont susceptibles de favoriser des discriminations et des exclusions.

Pour mieux appréhender cette problématique éthique des biais et des valeurs, appuyons-nous sur le principe hologrammatique. Il faut que des valeurs éthiques soient intégrées à tout algorithme. Pour cela, un apprentissage à l’éthique dans toutes les formations touchant au numérique serait opportun. Cette sensibilisation généralisée à l’éthique (dès le collège ?) des futurs concepteurs/développeurs ferait ainsi partie du tout, de la société, et pourrait se distiller et se retrouver dans l’algorithme.

4. Le principe de récursivité et dérives éthiques des algorithmes

Avec la récursivité, l’objet produit est producteur du sujet qui le produit. Ce processus se retrouve en quelque sorte avec l’IA, car le système algorithmique devient auto-apprenant, auto-producteur et les algorithmes sont eux-mêmes un acteur ou actant du système.

L’application de ce principe peut conduire à mettre en avant une transparence sur les règles et normes incluses dans l’enchevêtrement des algorithmes. Il s’agirait de permettre une vérification des règles telles que les règles de droit ou des règles de déontologie, de telle façon que les algorithmes puissent être modifiés en conséquence ex ante d’abord, au moment de la conception du logiciel dès le cahier des charges et sa réalisation, et ensuite ex post.

5. Discussion

Morin nous incite ici à mieux appréhender l’éthique de la complexité et engage les chercheurs, praticiens, développeurs, donneurs d’ordre à reconsidérer leur approche des questions éthiques – forcement inextricables –liées aux algorithmiques.

Sylvie Michel, Sylvie Gerbaix et Marc Bidan

Références

Hamet, J., & Michel, S. (2018). Les questionnements éthiques en systèmes d’information. Revue Française de Gestion, 44(271), 99-129.

Morin E. (1986). La Méthode. Tome 3 : La connaissance de la connaissance, Éditions du Seuil, Paris.

Morin E. (2004). La Méthode. Tome 6 : Éthique, Éditions du Seuil, Paris.

Morin E. (2005) Introduction à la pensée complexe, Editions du Seuil (Première édition 1990 Editions ESF)