Le Rav Yuval Cherlow dirige le Centre d’éthique juive du mouvement rabbinique Tzohar. Il est régulièrement sollicité sur des questions d’éthique liées aux avancées technologiques ou aux droits humains. Il voit dans la réflexion juive le nouveau défi d’Israël pour donner au monde une éthique de l’intelligence artificielle.
Propos recueillis par Pascale Zonszain
Menora.info : Israël est surnommé la « startup nation ». On y vient du monde entier pour découvrir ses innovations technologiques. Israël doit-il aussi réfléchir aux implications éthiques des innovations qu’il offre au monde ?
Rav Yuval Cherlow : Absolument ! Je dirais même que c’est une de ses missions les plus importantes, car il y a des développements technologiques qui peuvent se révéler désastreux. Les développements technologiques sont un outil. On peut s’en servir pour le bien, mais aussi l’utiliser à des fins effroyables. Il ne saurait y avoir de réflexion sur des développements technologiques sans l’accompagner d’une prise de position éthique, philosophique, sur des limitations, et reconnaitre qu’il faut s’en servir pour le bien et non pour le mal.
Est-ce que cette question de l’éthique fait l’objet d’une réflexion, d’un débat dans le monde du high-tech en Israël, que ses acteurs soient religieux ou non religieux ?
Je ne saurais vous répondre pour ce qui concerne le secteur industriel. En revanche, dans les milieux universitaires, d’abord pour des questions de procédure, aujourd’hui il est impossible d’effectuer un travail de recherche ni d’obtenir une bourse dans quelque institution que ce soit, sans que cette recherche ait une annexe éthique ou un contenu éthique conforme à la Déclaration d’Helsinki [sur la recherche médicale, NDLR]. A titre d’exemple, j’ai été mandaté comme contrôleur par l’Union Européenne dans le domaine de l’intelligence artificielle sur son aspect éthique. S’il est vrai que les entrepreneurs, comme d’ailleurs les milieux rabbiniques débattent encore très peu sur ce sujet, cela prend forme en revanche dans les milieux universitaires. Mais c’est encore loin d’être suffisant. Et cela manque vraiment beaucoup en Israël.
Comment expliquez-vous que la question de l’éthique de l’innovation soit encore si limitée en Israël ?
Tout d’abord parce que l’éthique, par essence, représente un obstacle. Ce que je peux faire d’un point de vue technologique, m’est interdit du point de vue éthique. L’homme préfère toujours fuir ce qui le retarde et ce qu’on lui interdit, pour aller de l’avant. C’est un phénomène humain que nous voyons dans tous les domaines. L’homme ne veut pas de limite qui risque de le freiner. C’est la raison principale. Vous voulez créer une voiture autonome qui fonctionne sur l’intelligence artificielle, mais vous savez que si vous vous soumettez à des limitations éthiques, alors c’est votre concurrent, qui ne se soumettra pas à ces limitations, qui vendra mieux que vous, car il fournira un produit moins bridé. C’est ce qui explique qu’il soit si difficile de susciter un réel débat éthique. Une société éthique s’impose des limitations, et l’homme n’aime pas les limitations.
Pourtant, on ne peut faire l’impasse sur les conséquences à long terme.
C’est vrai. Mais le monde de l’industrie ne réfléchit pas sur le long terme. C’est aux intellectuels, aux moralistes, aux rabbins qu’il appartient d’avoir cette réflexion. Ils doivent tout d’abord convaincre tous les acteurs de la vie publique de s’intéresser sur le plan éthique à leurs réalisations en matière de recherche. Ensuite, il est indispensable d’en passer par une régulation. Sans prise de décision par la société en tant que telle, sur ce qui est permis et ce qui est interdit, ce sera toujours l’aspect commercial qui l’emportera sur l’aspect moral.
Quels sont les enjeux éthiques les plus urgents ou les plus importants de l’intelligence artificielle, qui doivent figurer à l’ordre du jour du débat public ?
J’en verrais trois. Tout d’abord, comme vous l’avez évoqué, les implications sur le long terme. Quels sont les effets de l’intelligence artificielle sur de très nombreux plans, qu’il s’agisse du temps consacré aux loisirs, du fait que ce sont les machines qui prendront des décisions concernant les êtres humains, etc. ? Il y a tellement d’implications sur le long terme auxquelles il faut réfléchir et c’est indispensable. Ensuite, la règle éthique humaine fondamentale c’est : « ne fais pas à ton prochain ce que tu ne veux pas qu’il te fasse ». Dans l’intelligence artificielle, il faut introduire au minimum cette règle éthique là. Mais faire passer l’idée qu’il ne faut pas faire à l’autre ce que l’on hait pour soi-même, c’est extrêmement difficile. C’est extrêmement difficile à enseigner, car le dispositif d’intelligence artificielle essaie de faire exactement le contraire. Il essaie de gagner, de produire des opérations réussies. Donc, le défi de l’application de règles éthiques est extrêmement dur à relever. Mais ce qui est le plus difficile, c’est de définir ce que sont ces règles éthiques ! Si l’on reprend l’exemple de la voiture autonome, il faut définir si sa mission est de se préoccuper d’abord de son détenteur et de répondre à ses besoins, ou bien de placer en priorité le bien de l’environnement, ou encore d’autres valeurs. C’est pourquoi, même dans l’hypothèse où l’on parviendrait à résoudre les deux premiers enjeux que j’ai évoqués, celui de la motivation et celui de la décision de travailler de façon éthique, il resterait encore à définir ce qu’est précisément l’éthique de machines qui apprennent. C’est extrêmement ardu.
Quel est à votre avis le rôle particulier que doit assumer le judaïsme dans cette réflexion éthique ?
A mon avis, il a un rôle absolument vital. C’est même son premier et principal rôle. Que nous créions plus ou moins de startups, c’est important, mais cela vient en deuxième place. Ce qui doit venir en premier, c’est ceci : puisque le judaïsme croit dans la justice, le droit, la morale, et que le judaïsme a exprimé la règle » ce que tu hais pour toi-même, ne le fais pas à ton prochain », alors le rôle du judaïsme est d’être le centre, le cœur du développement de la question de l’éthique. Et ce d’autant plus qu’Israël se définit, ainsi que vous l’avez dit, comme la « nation startup ». C’est pourquoi Israël doit absolument fournir, parallèlement à ses innovations technologiques, un effort intense dans le domaine de l’éthique de l’intelligence artificielle. Dans le judaïsme, l’éthique est notre respiration vitale. C’est pourquoi Israël, en tant que « nation startup » se doit de consacrer des ressources et une attention énormes aux différents enjeux éthiques de la technologie.
Comment provoquer cette prise de conscience au niveau public et politique ?
Cela commence par évoquer ces questions. C’est la mission des intellectuels, des journalistes. C’est par là que cela commence et cela continue par l’investissement de ressources supplémentaires. Cela a déjà été réalisé dans d’autres domaines. Par exemple, Israël a énormément investi d’efforts dans la législation sur la fin de vie. Il y a eu un très gros travail de réflexion éthique en amont, qui a fait de cette loi une des plus avancées et des plus réussies au monde sur cette question. C’est ce qui a aussi été accompli par le législateur israélien avec la loi sur les mères porteuses, que l’on vient étudier du monde entier. C’est cela mon rêve, que l’Etat d’Israël soit le lieu qui attire le monde entier pour apprendre de lui les fondements de l’éthique.
Vous voudriez qu’Israël soit une sorte d’université ?
Je dirais plutôt une startup éthique. Oui, c’est ce qu’il faudrait, un nouveau titre pour Israël : pas seulement la nation startup de la technologie, mais la nation startup de l’éthique !
