Questionnement éthique des systèmes algorithmiques

Abstract

La société dans son ensemble se trouve face à une utilisation grandissante, plus ou moins volontaire, des algorithmes, ouvrant sur des questions éthiques de plus en plus complexes. L’objectif de cet article est d’appréhender la complexité des questions éthiques liées aux systèmes algorithmiques, à travers « les trois principes qui peuvent nous aider à penser la complexité » (Morin, 2005, p. 98). À cette fin, à partir de la littérature, nous avons commencé par rappeler les principaux courants éthiques (déontologique, conséquentialiste et de la reliance) et nous avons proposé une synthèse des grandes questions éthiques liées aux systèmes algorithmiques. Notre premier apport consiste ainsi en une cartographie en trois pôles des questions éthiques relatives aux systèmes algorithmiques : la question des biais, de la transparence et de la responsabilité. Cette cartographie nous permet aussi de montrer la complexité de ces questionnements éthiques. C’est alors que nous avons eu l’intuition, comme dans les courants de philosophie spéculative, que les principes de Morin (principe dialogique, hologrammatique, récursivité organisatrice) pour penser la complexité, offriraient une grille de lecture pertinente pour décrypter cette complexité. Nous proposons alors que chacun des grandes questions éthiques mises en évidence dans notre première partie puisse être analysée de préférence par un des principes Morinesque, et identifions aussi certaines questions éthiques qui bénéficieraient de l’application conjointe des trois principes. Ainsi, nous montrons que la question éthique concernant les biais peut être analysée à travers le principe hologrammatique, celle de la responsabilité à travers le principe dialogique, et celle de la transparence à travers le principe de récursivité. In fine, nous esquissons des pistes d’action intégrant les contradictions des dilemmes éthiques (principe dialogique), les valeurs sociétales et les biais (principe hologrammatique) et la maîtrise ex ante ou ex post des dérives éthiques (principe de récursivité organisatrice).