A project by UNESCO – MOSTC.I.P.S.HG.C.A.C.S.Mémoire de l’Avenir
Artists and projects
Art map
Around the world
Mémoire de l'avenir
HAS magazine
English
Français
中文
Open call
About us
The project
Founders
Who we are
Get involved
Contact
/ HAS MAGAZINE
Des tulipes sur la tombe de mon robot
Andrés Roemer
Ambassadeur de bonne volonté de l'UNESCO
THINKING
ANTICIPATING
L’accumulation de données nécessite de plus en plus l’automatisation et l’Intelligence Artificielle pour les analyser et les traiter, ce qui suscite des questions sur l’éthique, l’humanité et les machines qui pensent.
Margalit Berriet, Cimetière de Merida, Yucatan, Mexique

Pour répondre à la question Edge 2015 – Que penser des machines qui pensent ? – il faudrait commencer par en apprendre un peu plus sur nous-mêmes et sur qui nous sommes. Commençons par l’organe qui nous caractérise le plus : le cerveau. En simplifiant cette structure hautement complexe, nous pouvons la diviser en trois parties : le cortex (responsable des fonctions cognitives dites supérieures, dont le raisonnement), le cerveau limbique (chargé du comportement et des émotions) et le cerveau reptilien (dans lequel résident nos pulsions primitives les fondamentales : la survie et la reproduction).

Le débat concernant comment penser les machines qui pensent, tend à graviter autour du cerveau cortical et du cerveau limbique. Toutefois, ceux-ci ne représentent que la pointe de l’iceberg. Le cortex nous permet d’évaluer l’Intelligence Artificielle (IA) en analysant les coûts et bénéfices qu’elle comporte, par exemple en terme d’économie d’entreprise (main d’œuvre humaine versus robotisée, valeur du capital humain versus numérique), et c’est par le cortex que nous réfléchissons aux questions bioéthiques, de vie privée et de sécurité nationale que l’IA soulève. Il nous donne aussi la capacité d’anticiper et de prévoir, d’attirer des financements plus importants pour la recherche et le développement, ainsi que de définir les priorités en matière de politiques publiques.

En parallèle, le cerveau limbique intervient dans la prise de précautions et dans nos réponses, qu’elles soient de crainte ou d’excitation, lorsque l’on se trouve face aux risques, avantages et dangers présentés par le développement de l’Intelligence Artificielle. Dans notre cas, les réponses affectives immédiates sont la panacée et la technophobie. Parmi nos craintes les plus courantes, il y la peur d’être manipulé ou remplacé par les machines et de perdre nos emplois. En ce qui concerne les avantages, nous percevons surtout la potentielle expansion de notre mémoire via les machines et la facilitation des tâches de la vie quotidienne.

Toutefois, lorsque l’on s’interroge sur l’avènement de machines réellement pensantes, nous ne devons pas perdre de vu le rôle puissant voire dominant que joue le cerveau reptilien dans notre façon de penser. Ceci implique que nous prenions conscience de nos réponses les plus primitives, de notre façon la plus territoriale et émotive de penser des concepts comme « penser », « machine », « robot », « intelligence », « artificielle », « naturel » et
« humain ». La première préoccupation du cerveau reptilien est la survie, et bien qu’on n’en parle pas souvent, cette quête de survie est au cœur même des espoirs et craintes que nous projetons sur les machines pensantes.

Toutefois, si l’on analyse les archétypes anciens, les œuvres littéraires ou les projections présentes dans le discours actuel illustré par la question Edge 2015, nous remarquons qu’il y a un instinct subconscient qui revient de façon récurrente: le binomial reptilien de la mort contre l’immortalité.

Notre peur de la mort est, sans aucun doute, à l’origine de l’imaginaire collectif du robot qui saurait se reproduire et qui, par son omnipuissance pensante, pourrait trahir et détruire son créateur. De telles machines semblent incarner le plus terrifiant des dangers, à savoir l’extinction de tout ce qui nous est cher. Cependant, notre cerveau reptilien voit aussi la figure du sauveur en ces machines hyper-intelligentes et y investi un espoir de vie et jeunesse éternelles. Nous avons dans notre langage, quelques indices qui trahissent ces pensées. Si en anglais il n’existe pas de distinction de genre entre les mots « robot » et « machine », les langues latines et l’allemand qualifient quant à eux « el robot » de masculin, dangereux et redoutable; « la máquina » de féminin, et nourricière.

Margalit Berriet, sculpture féminine précolombienne du Musée national d’anthropologie du
Mexique

Jeremy Bentham défini l’homme en tant qu’être rationnel, mais nous savons bien que ce n’est pas le cas. Il nous est tous déjà arrivé de penser ou d’agir de façon totalement irrationnelle sous l’emprise du cerveau reptilien. Les pulsions reptiliennes ont de tout temps été au cœur de l’évolution de l’intelligence. Le ressenti est au plus profond de la pensée. Il est indéniable qu’une machine dont la rapidité du traitement des données croît de façon exponentielle tous les dix-huit mois, qui bat une Intelligence Artificielle à un jeu d’échecs par sa puissance calculatrice infinie ou qui diagnostique des maladies efficacement, constitue un accomplissement impressionnant, mais ce terme reste encore bien trop éloigné de ce que signifie véritablement l’acte de penser.

Margalit Berriet, Cimetière de Merida, Yucatan, Mexique

Si nous voulons réaliser le rêve pour les machines pensantes, il faut qu’elles puissent comprendre et interroger les valeurs humaines, traverser des conflits intérieurs et éprouver l’intimité. Une approche qui fabrique des machines qui imitent avec empathie nos expressions faciales et émotions, qui traitent rapidement des grosses quantités d’information et qui ont une grande connectivité entre nos neurones et les intelligences artificielles, n’est ni une condition nécessaire ni un gage suffisant pour nous prouver que nous sommes sur la bonne voie.

En conséquence, lorsque l’on pense aux machines pensantes, nous ferions mieux de nous poser des questions reptiliennes telles que: Risquerais-tu ta vie pour une machine? Accepterais-tu qu’un robot soit un jour dirigeant politique? Pourrais-tu être jaloux d’une machine? Serais-tu prêt à payer des impôts pour assurer le bien-être d’un robot? Irais-tu déposer des tulipes sur la tombe de ton robot? Et surtout… Mon robot viendrait-il déposer des tulipes sur ma tombe?

Reconnaître la puissance de l’influence du cerveau reptilien sur notre façon de penser les machines pensantes nous permet de mieux voir quels sont les enjeux et la nature d’une machine qui serait véritablement capable de douter ou de s’engager, et quel est le type d’IA auquel nous devrions aspirer. Si notre biologie a fait de la culture un moyen de survie et d’évolution, notre intelligence naturelle devrait nous mener vers la création de machines sensibles et instinctives ; ce n’est qu’alors que l’immortalité vaincra la mort.

Texte initialement publié dans l’anthologie Que penser des machines qui pensent?, de la série Questions Edge, édité et publié par Harper Perennial

Previous publication
Summary
Next publication
01
Big data and
singularities
JUNE 2020
THINKING
ANTICIPATING
L'auteur

Président du think tank Poder Civico, fondateur et commissaire du festival international Ciudad de las Ideas, à Puebla – Mexique- et ambassadeur de bonne volonté de l’UNESCO pour le changement sociétal et la libre circulation des connaissances. Il est écrivain, philanthrope, militant des droits de l’homme et universitaire titulaire d’un doctorat en politique publique.

PDF version