“NOUS FORMONS LA TECHNOLOGIE QUI NOUS FORME"

LE PHILOSOPHE DES AFFAIRES JOCHANAN EYNIKEL SUR L'ETHIQUE DE LA TECHNIQUE

L'homme est-il le jouet malléable de la technologie? Pas complètement, témoigne le philosophe des affaires Jochanan Eynikel (ETION). Il croit dans une technologie au service de l'homme et désireuse de recréer de l'espace pour l'imagination et la créativité dans le temps supplémentaire que cette technologie peut nous offrir. Cela ne se fera pas tout seul. “Le développement de la technologie dépend des valeurs que les développeurs intègrent dans la technologie. Si nous ne visons que l'efficacité, la technologie ne fera que renforcer cet aspect. Toute personne qui innove, doit réaliser que ses décisions forment l'homme à leur tour.“

NOUS NE SAVONS PAS CE QUI NOUS ATTEND

La bienveillance, tel est le cœur du dernier ouvrage de Jochanan Eynikel 'Robot aan het stuur'. Il aborde notamment la voiture autonome: un exemple de la façon de confier le contrôle de certaines décisions à une machine. La voiture autonome touche une corde sensible: quid si cela se passe mal, si des vies sont en jeu? L'innovation axée sur la valeur est l'issue d'après Eynikel: veiller à donner à chaque intéressé une voix dans le processus d'innovation, afin de déterminer au mieux la direction à suivre pour l'innovation.

“Des innovations technologiques interviennent de plus en plus dans les vies humaines; la technologie prend même des décisions dans certains cas spécifiques. Il est alors important de penser à l'avance à ce qui peut mal se passer. J'entends souvent, à raison, le soupir qu'on ne peut pas tout prévoir. C'est vrai, mais cela incite justement à la prudence et à ne pas se lancer à l'aventure. Regardez Facebook: leur philosophie fut longtemps 'move fast and break things'. Simplement agir et voir ce qui se passe. Maintenant, ils voient qu'ils ont beaucoup démoli, y compris la démocratie. C'est pourquoi nous devons réfléchir davantage à la façon de développer nos produits, afin de pouvoir éviter ce qui peut bel et bien être prévu - ou précisément contribuer à une société bienveillante. En effet, la technologie n'a pas toujours un impact négatif.“

“L'homme a ceci de beau et d'unique que parfois, il ne suit pas les regles, parce qu'il vaut mieux ne pas les suivre. L'intelligence artificielle (IA) ne peut pas le comprendre“

Dans votre livre, vous êtes assez neutre sur l'impact de la technologie.

“Je me qualifie souvent de technoréaliste. Le technoréalisme part de l'idée que l'on peut être optimiste et croire dans les opportunités du changement technologique, mais que l'on doit bel et bien réaliser que cela dépend de la façon dont nous créons et concevons cette technologie. L'optimisme extrême qualifie chaque préoccupation relative à la technologie de catastrophisme; j'estime ceci immoral, car on nie tout simplement les défis. Heureusement, de nombreuses entreprises technologiques commencent à s'en apercevoir. Oui, les smartphones nous procurent d'énormes avantages, mais savoir si les inconvénients auront un impact, dépend de la façon dont nous les concevons. Un réaliste déclare: l'avenir dépend des valeurs que nous implémentons dans notre technologie.“

Est-ce plus urgent qu'avant? Les changements technologiques sont-ils vraiment plus rapides?

“Le changement accéléré existe depuis la Révolution Industrielle. Peut-être que les innovations pionnières sont moins nombreuses qu'avant - on affirme souvent que les précédentes innovations telles que l'électricité et la pilule ont eu plus d'impact que Facebook et les robots aujourd'hui - mais ces innovations se répandent nettement plus vite. Il a fallu des générations avant que la plupart des gens aient l'électricité, mais Facebook a atteint un milliard d'individus en sept ans. L'impact est donc bien plus rapide; vous ne pouvez plus vous prendre du recul et regarder comme cela évolue. Une appli telle que Waze (une appli de navigation qui combine l'information d'autres utilisateurs pour montrer la route la plus rapide, réd.) a été accueillie très vite, les communes doivent déjà prendre des mesures, parce que le détournement du trafic augmente. L'impact est plus grand, parce que l'échelle est plus grande.“

Pouvez-vous aussi projeter cette accélération dans l'avenir? La singularité, le moment où les ordinateurs seront plus intelligents que l'homme et se développeront d'eux-mêmes à un niveau que l'homme ne peut plus suivre, est traité de façon indirecte dans votre livre, mais vous êtes critique à ce sujet.

“Les changements du passé ne garantissent rien à l'avenir. La taille moyenne de l'homme a fortement augmenté ces cent dernières années, mais à un moment donné, on atteint une limite, autrement l'homme mesurerait trois mètres. L'intelligence basée sur la puissance de calcul surclasse déjà celle de l'homme et rien n'indique que cette puissance de calcul n'augmentera pas encore plus vite. C'est très différent d'une conscience, des angoisses, de l'empathie. Je ne suis pas devin et je ne garantis pas que cela n'arrivera jamais, mais je pense qu'il existe des défis plus urgents.“

Votre livre évoque la voiture autonome pour illustrer la question de savoir quelle autonomie confier à la technologie. La voiture doit respecter les règles du code de la route, mais si elle le fait de faon trop stricte, elle met peut-être des vies en danger. Si elle ne peut jamais franchir une ligne blanche, elle écrasera peut-être un enfant, écrivez-vous.

“La voiture autonome montre bien la différence entre l'intelligence et la conscience. Pour la technologie, il n'y a pas de différence intrinsèque entre les règles 'Je ne peux pas tuer des personnes' et 'Je ne peux pas franchir une ligne blanche'. L'homme doit y intégrer cette différence, mais le problème - regardez l'histoire - est que l'éthique n'est jamais un système concluant. Les entreprises ne s'y lancent pas à la légère, à raison. La technologie existe déjà, de nombreux prototypes aussi. Les développeurs affirment que l''autonomie de niveau 3' (le conducteur ne doit plus fixer son attention sur le trafic, mais la voiture peut lui demander de reprendre le contrôle à des moments spécifiques, réd.) sera entièrement opérationnelle en 2021. Le défi majeur réside dans la législation et l'aspect éthique. Qui est responsable si quelque chose se passe mal? Cela préoccupe aussi les entreprises: elles ne veulent pas prendre le risque d'engendrer des victimes mortelles, certainement en l'absence de cadre légal. L'Allemagne a initié le mouvement vers un tel cadre légal et moral. Des éthiciens sont aussi impliqués.“

Utilitarisme et éthique des droits

“Dans ce cadre, vous pouvez par exemple instituer la règle que les voitures autonomes ne peuvent engendrer qu'un minimum de morts, mais alors, vous vous heurtez au problème suivant: doit-elle monter sur un trottoir et tuer un piéton pour sauver deux personnes qui traversent? D'un point de vue purement arithmétique, il vaut mieux sauver deux personnes qu'une seule. Mais on aboutit alors dans une situation dangereuse, à mon sens immorale. D'un point de vue moral et légal, il y a une différence entre ne pas pouvoir éviter des dommages et provoquer des dommages. On peut en discuter, mais j'estime que ceci est un joli principe de ce qu'un robot ne peut pas concevoir par lui-même. Vous devez donc inclure l'utilitarisme, le plus grand bien pour le plus grand nombre de personnes, mais pas trop non plus. Par ailleurs, vous devez tenter d'intégrer des valeurs déontologiques comme l'équité dans la prise de décision de ces machines - sans que ces machines sachent ce qu'est l'équité. Il n'est pas équitable de sacrifier les personnes qui se déplacent fortuitement près d'un tel système en raison de l'un ou l'autre calcul. L'éthique est difficile pour les machines, mais cela ne signifie pas que vous devez abolir la voiture autonome. L'industrie pharmaceutique teste des produits et des erreurs se produisent parfois dans cette phase de test, mais si vous ne développez pas ces produits, davantage de personnes connaissent des problèmes. Au mieux, les voitures autonomes sauvent de nombreuses vies.“

Imagination

“L'homme a ceci de beau et d'unique que parfois, il ne suit pas les règles, parce qu'il vaut mieux ne pas les suivre. Supposons que l'intelligence artificielle existait déjà du temps des Romains, et qu'elle a partagé la gestion: quel système IA aurait aboli l'esclavage? C'était super efficace, super bon marché et cela existait déjà. L'esclavage a été aboli, parce que des individus ont estimé que ce n'était plus correct, même si on s'en servait depuis des siècles. L'IA fonctionne toujours sur la base de règles issues du passé. L'homme a l'imagination pour défier les règles.“

L'homme et la technique seront de plus en plus confondus à l'avenir?

“Ce mouvement est déjà initié. Le desktop se trouvait déjà sur notre bureau, le laptop sur nos genoux, le smartphone dans notre poche, la smartwatch sur la peau. Mais je ne vois pas une fusion totale de l'homme et de la technique. On en revient à l'émotion et à l'imagination, le fait que nous sommes des créatures spirituelles désireuses de s'épanouir. Une voiture autonome ne voudra jamais subitement jouer au football. Nous devrons canaliser la technique sans cette imagination. L'homme et la machine se rapprochent, ne fût-ce que parce que notre infrastructure influence aussi nos actions. Si nous nous cantonnons dans notre propre croyance, c'est la conséquence du fonctionnement des médias sociaux. Pour paraphraser Winston Churchill: nous commençons par former un outil puis l'outil nous forme. Tant que nous en restons conscients et que nous ne laissons pas l'imagination aux machines, tant que nous prenons des décisions éthiques, l'être humain reste au pouvoir. L'être humain ne doit pas ressembler à un robot pour survivre. L'éthique concerne des ajustements, traiter le non-programmable.“ 

Photo © Jan Locus