Parfois, le rabbin Joshua Franklin sait exactement de quoi il veut parler dans ses sermons hebdomadaires de Shabbat – d’autres fois, pas tellement. C’est par une de ces journées pas si froides de la fin décembre que le chef spirituel du Centre juif des Hamptons a décidé de se tourner vers l’intelligence artificielle.
Franklin, 38 ans, qui a les cheveux foncés ondulés et une ambiance amicale, savait que le nouveau programme ChatGPT d’OpenAI pouvait écrire des sonnets de style Shakespeare et des chansons de style Taylor Swift. Maintenant, il se demandait s’il pouvait écrire un sermon dans le style d’un rabbin.
Alors il lui a lancé un défi : “Ecrire un sermon avec la voix d’un rabbin, environ 1 000 mots, reliant la portion de la Torah de cette semaine à l’idée d’intimité et de vulnérabilité, en citant Brené Brown” – un auteur à succès et chercheur connu pour elle. travailler sur la vulnérabilité, la honte et l’empathie.
Le résultat qu’il a partagé ce soir-là dans le sanctuaire moderne en bois clair de la synagogue et plus tard posté sur Viméoc’était un discours continu, bien que répétitif, que beaucoup dans sa congrégation devinaient avoir été créé par des rabbins célèbres.
“Vous applaudissez”, a déclaré Franklin après avoir révélé que le sermon qu’il venait de prononcer avait été composé à partir d’un ordinateur. “J’ai peur.
Comme des expériences comme Franklin et les troubles récents conversation entre un chroniqueur technologique et un nouveau chatbot Microsoft démontrant à quel point certains programmes d’IA sont devenus étrangement humains, les penseurs et les institutions religieuses se joignent de plus en plus à la conversation sur l’utilisation éthique d’une technologie en expansion rapide qui pourrait un jour développer sa propre conscience. – du moins selon ses apôtres de la Silicon Valley. Se référant à un large éventail de mythes de Icare pour Tour de Babel à l’histoire d’un génie qui peut exaucer tous nos souhaits avec des résultats désastreux, il existe d’anciens avertissements sur ce qui se passe lorsque les gens essaient de jouer à Dieu.
Avant de prononcer le sermon écrit par ChatGPT, le rabbin Franklin a déclaré à sa congrégation que ce qu’il s’apprêtait à lire était du plagiat.
“Amis”, commença-t-il en lisant un sermon écrit par AI, “alors que nous nous réunissons aujourd’hui pour étudier la partie de la Torah de la semaine, VayigashRegardons l’importance de développer l’intimité dans notre relation avec les autres.
Le sermon robotique a continué en racontant l’histoire de Joseph, fils de Jacob, réuni avec ses frères après de nombreuses années. Bien qu’ils l’aient trahi dans le passé, Joseph les a accueillis chaleureusement et avec amour.
“En étant ouvert et vulnérable avec eux, il est capable de guérir de vieilles blessures et de nouer des liens plus profonds et plus significatifs avec ses frères et sœurs”, a lu Franklin. “C’est une leçon puissante pour nous tous.”
C’était un sermon adéquat, mais pas le genre que Franklin aurait écrit. “Ce qui nous a manqué, c’est l’idée de la façon dont nous trouvons Dieu dans des rencontres significatives avec les autres”, a-t-il déclaré plus tard. “Comment la communauté et la relation créent Dieu dans nos vies.” En d’autres termes, le sentiment que le sermon est issu de l’expérience vécue d’un être humain désireux, cherchant et souffrant plutôt que d’une formule algorithmique.
Il est possible que les chefs spirituels soient un jour remplacés par des robots à mesure que l’IA continue de s’améliorer (tout est possible).
Cependant, la plupart des théologiens soutiennent que d’autres préoccupations éthiques concernant l’intelligence artificielle sont plus pressantes. Ils craignent la montée des inégalités financières à mesure que l’automatisation supprime des milliers d’emplois et remettent en question notre capacité à exercer notre libre arbitre alors que nous nous appuyons de plus en plus sur des algorithmes informatiques pour prendre des décisions à notre place en matière de médecine, d’éducation, de système judiciaire et même de conduite de nos voitures et quoi. faisons-nous. regarder à la télé.
À un niveau plus existentiel, plus l’IA imite l’intelligence humaine, plus elle mettra au défi notre compréhension de la perception, de la conscience et de ce que signifie être humain. Voulons-nous que l’intelligence artificielle pilotant des robots devienne nos serviteurs ? Auront-ils des sentiments ? Et sommes-nous obligés de les traiter comme s’ils le faisaient ?
Ces dilemmes éthiques peuvent sembler nouveaux, mais ils représentent essentiellement des problèmes auxquels les traditions religieuses telles que le judaïsme, l’islam et le christianisme sont confrontées depuis des millénaires, selon les chefs religieux.
Bien que les institutions religieuses ne se soient pas toujours comportées de manière éthique dans le passé, elles ont des siècles d’expérience dans l’analyse des énigmes morales à travers le prisme de leurs propres systèmes de croyance. Pr. James Keenanthéologien catholique au Boston College.
“Il y a certaines façons de dire que toutes ces grandes traditions sont problématiques, mais elles ont aussi leurs idées et leur sagesse”, a-t-il déclaré. «Ils ont une histoire derrière eux qui mérite d’être examinée.
Depuis les débuts de la recherche sur l’intelligence artificielle dans les années 1950, le désir de créer une intelligence de type humain a été comparé à la légende du golem, une créature mythique du folklore juif créée à partir de boue et de magie par de puissants rabbins pour obéir aux ordres de leur maître. . Le golem le plus célèbre est celui qui aurait été fabriqué par le rabbin de Prague Judah Low ben Bezulel au XVIe siècle pour protéger le peuple juif des attaques antisémites. Le Golem a également inspiré le Frankenstein de Mary Shelley.
Pendant des siècles, l’idée d’une créature vivante créée par l’homme et dépourvue d’étincelle ou d’âme divine faisait partie de l’imaginaire juif. Les rabbins ont débattu pour savoir si le golem pouvait être considéré comme une personne, s’il pouvait être compté dans le minyan (le quorum de 10 hommes requis pour la prière publique juive traditionnelle), s’il pouvait être tué et comment il devait être traité.
De ces discussions rabbiniques, une position éthique sur l’intelligence artificielle a émergé bien avant l’invention des ordinateurs, a-t-il déclaré. Nachson GoltzProfesseur de droit à l’Université Edith Cowan en Australie, qui a écrit Fr Une vision juive de l’IA. S’il est considéré comme permis de créer des entités artificielles pour nous assister dans nos tâches, “nous devons nous souvenir de notre responsabilité d’en avoir le contrôle, et non l’inverse”, a-t-il écrit.
Le rabbin Eliezer Simcha Weiss, membre du Haut Conseil du Rabbinat d’Israël, a fait écho à cette idée dans un récent discours. “Dans chaque histoire de golem, le golem est finalement détruit ou démonté”, a-t-il déclaré. “En d’autres termes, la leçon enseignée par les rabbins est que tout ce que l’homme fabrique doit être contrôlé par l’homme.”
Les rabbins ont également conclu que même si un golem ne peut pas être considéré comme un être humain à part entière, il est toujours important de le traiter avec respect.
“La façon dont nous gérons ces choses nous affecte”, a déclaré Goltz. “La façon dont nous les traitons détermine le développement de nos propres personnages et détermine l’orientation future de notre propre exercice du libre arbitre.”
Un autre récit édifiant du folklore juif et musulman tourne autour du djinn, une entité inhumaine créée à partir d’un feu sans fumée qui peut parfois être liée par des humains et enchaînée à leur volonté. C’est l’origine de l’histoire du génie qui peut nous donner ce que nous voulons mais ne peut pas être remis dans la bouteille.
“Les histoires de génies sont un exemple de ce qui se passe lorsque vous demandez à un non-humain d’exaucer des souhaits humains”, a-t-il déclaré. Damien Williams, professeur de philosophie et de science des données à l’Université de Caroline du Nord à Charlotte. “Ce qui ressort de l’autre côté semble choquant et punitif, mais si vous le retracez vraiment, il s’agit simplement de satisfaire ces désirs dans toute la mesure de leurs conséquences logiques.”
L’Islam fournit une autre lentille éthique à travers laquelle voir le développement de l’intelligence artificielle. Le principe juridique de la jurisprudence islamique stipule que repousser le mal a toujours la priorité sur l’obtention d’avantages. De ce point de vue, une technologie qui aide certaines personnes mais en met d’autres au chômage serait considérée comme contraire à l’éthique.
“La plupart de ces technologies sont conçues et déployées dans de nombreux cas à cause de cela, et les dommages qui se produisent sont parfois probables”, Junaïd Qadir, professeur de génie électrique à l’Université du Qatar, qui a organisé une conférence sur l’éthique islamique et l’intelligence artificielle. “Nous ne savons pas ce que ce sera, la technologie a ses propres effets imprévus.”
Dans l’ensemble, la tradition islamique encourage une approche prudente et l’utilisation des nouvelles technologies, a-t-il déclaré. Aasim Padelaprofesseur de médecine d’urgence et de bioéthique au Medical College of Wisconsin.
“Les choses qui essaient de vous faire rivaliser avec Dieu ne sont pas considérées comme un objectif à atteindre”, a-t-il déclaré. “Essayer de trouver l’immortalité grâce au transfert de cerveau ou de créer un meilleur corps que celui que vous avez, ces impulsions doivent être contrôlées.” L’immortalité est dans l’au-delà, pas ici.
“Rhela de Saint Benoît“, un livre écrit au 6ème siècle comme un guide de la vie monastique, offre une réponse aux questions de savoir comment nous pouvons interagir éthiquement avec l’intelligence artificielle, à la fois maintenant et à l’avenir lorsque nous pourrions rencontrer des robots avec des caractéristiques humaines, a déclaré le professeur Noreen Herzfeld. de théologie et d’informatique à St. John’s University et le College of St. Benoît dans le Minnesota.
Dans la section du livre consacrée au cellérier – la personne chargée des provisions du monastère – saint Benoît dit au cellérier de parler gentiment à tous ceux qui viennent à lui et de traiter toutes les choses inanimées dans son entrepôt « comme si elles étaient consacrées ». vases de l’autel ».
“Pour moi, c’est quelque chose que nous pouvons appliquer à l’IA”, a déclaré Herzfeld. “Les gens passent toujours en premier, mais nous devons traiter l’IA avec respect, avec soin, car toutes les choses terrestres doivent être traitées avec respect. La façon dont vous traitez les choses fait partie de ce qui informe votre propre caractère et informe la façon dont vous traitez la Terre et les autres êtres humains. “
L’Église catholique a été particulièrement active dans la promotion de l’éthique de l’intelligence artificielle qui profite à l’humanité, est au cœur de la dignité humaine et ne vise pas uniquement à un plus grand profit ou au remplacement progressif des humains sur le lieu de travail.
“Si le progrès technologique accroît les inégalités, ce n’est pas un vrai progrès”, a déclaré le pape François Vidéo de novembre 2020 annonce son intention priante que la robotique et l’intelligence artificielle puissent toujours servir l’humanité.
L’objectif du Vatican n’est pas de ralentir le développement de l’intelligence artificielle, mais l’Église estime que la prudence s’impose. Paolo Benantimoine franciscain et l’un des principaux conseillers du pape en matière de nouvelles technologies.
« D’une part, nous ne voulons limiter aucune des impulsions transformatrices qui peuvent conduire à de grands résultats pour l’humanité ; d’autre part, nous savons que toutes les transformations doivent avoir un sens », a-t-il écrit dans un e-mail. “Nous devons être conscients que si l’IA n’est pas bien gérée, elle peut conduire à des transformations dangereuses ou indésirables.”
À cette fin, les dirigeants du Vatican ont aidé à créer Rome appelle à l’éthique de l’IA, un engagement signé pour la première fois en 2020 par des représentants de l’Académie pontificale pour la vie, d’IBM, de Microsoft et du ministère italien de l’Innovation, entre autres, pour promouvoir la création de technologies d’intelligence artificielle transparentes, inclusives et impartiales. Le 10 janvier, des représentants des communautés juive et islamique se sont réunis au Vatican pour également apposer leur signature.
Demander aux entreprises technologiques de donner la priorité aux objectifs humanitaires par rapport aux intérêts des entreprises peut sembler une proposition improbable, mais l’influence de la hiérarchie religieuse sur l’éthique de l’IA ne doit pas être sous-estimée, a-t-il déclaré. Beth célibataireProfesseur de Digital Religions à l’Université de Zurich.
“Cela peut aider les masses de croyants à penser de manière critique et à utiliser leur voix”, a-t-elle déclaré. “Plus la conversation est menée par des voix majeures et charismatiques comme le pape, plus cela augmentera la possibilité que les gens puissent apprécier ce qui se passe au niveau local et faire quelque chose à ce sujet.”
Benanti a accepté.
“Les milliards de croyants qui habitent la planète peuvent être une force énorme pour transformer ces valeurs en quelque chose de concret dans le développement et l’application de l’IA”, a-t-il déclaré.
Quant à Franklin, un rabbin des Hamptons, il a déclaré que son expérience avec ChatGPT lui avait finalement laissé le sentiment que la montée de l’intelligence artificielle pourrait profiter à l’humanité.
Bien que l’IA puisse imiter nos mots et même lire nos émotions, elle n’a pas la capacité de ressentir nos émotions, de comprendre notre douleur sur le plan physique et de se connecter profondément avec les autres, a-t-il déclaré.
“La compassion, l’amour, l’empathie, c’est ce que nous faisons de mieux”, a-t-il déclaré. “Je pense que le chat GPT nous forcera à perfectionner ces compétences et à devenir, si Dieu le veut, plus humains.”
