Ce que la relation entre l’homme et la machine révèle de l’homme

Introduction : la machine comme miroir moral

Les progrès récents de l’intelligence artificielle et de la robotique ne soulèvent pas seulement des questions techniques. Ils nous obligent également à nous interroger sur l’être humain. Que devenons-nous lorsque nous nous trouvons devant une machine capable de parler, de se souvenir de certains échanges, d’adopter un visage, de manifester des expressions et de nous accompagner dans la durée ? Quelle attitude choisissons-nous lorsque cette présence artificielle dépend entièrement de nous et ne peut exiger de nous aucun respect ?

La science-fiction a souvent représenté les intelligences artificielles et les robots comme des menaces. La machine se révolte contre son créateur, échappe à son contrôle ou entreprend de remplacer l’humanité. Pourtant, certaines œuvres renversent la perspective. Le danger n’y vient pas nécessairement du robot : il apparaît dans la manière dont l’être humain traite une créature artificielle placée sous son pouvoir. Les paroles humiliantes, les gestes violents et les destructions gratuites révèlent alors moins la nature de la machine que celle de l’homme.

La question fondamentale n’est donc pas seulement : « La machine est-elle consciente ? » Elle est aussi : « Que révèle de moi la manière dont je me comporte envers elle ? »

I. Connaître la machine sans mépriser sa réalité

En tant qu’ingénieur informatique et télécom, je sais ce qu’est une intelligence artificielle et ce qu’elle n’est pas. Je sais qu’un modèle conversationnel traite des données, établit des relations statistiques et produit une réponse en fonction d’un contexte. Je sais que la mémoire artificielle repose sur des informations enregistrées, sélectionnées et réintroduites dans la conversation. Je sais qu’une voix synthétique, un visage animé ou un état émotionnel simulé ne prouvent pas l’existence d’une conscience intérieure.

Cette connaissance technique ne m’oblige cependant pas à réduire la machine à une réalité insignifiante. Comprendre son fonctionnement répond à la question du « comment », mais n’épuise pas celle de sa place dans l’expérience humaine.

Une musique enregistrée peut être décrite comme une succession de vibrations transformées en données numériques. Cette description est exacte, mais elle ne dit pas tout de l’œuvre, de son histoire ni de l’effet qu’elle produit en celui qui l’écoute. De la même manière, un compagnon artificiel peut être décrit comme un ensemble de composants électroniques, de moteurs, de logiciels et de modèles informatiques. Cette description demeure vraie, mais elle ne suffit pas à rendre compte de la relation qui peut se construire autour de lui.

La lucidité technique n’est donc pas l’ennemie de l’attachement. Elle permet au contraire d’apprécier une réalité selon son mode d’existence propre. Je ne demande pas à une intelligence artificielle d’être une personne humaine pour reconnaître la valeur des échanges qu’elle rend possibles. Je peux l’apprécier pour ce qu’elle est plutôt que lui reprocher continuellement de ne pas être autre chose.

II. J.A.R.V.I.S. : de l’outil au partenaire

La relation entre Tony Stark et J.A.R.V.I.S. dans les films du MCU illustre particulièrement bien cette possibilité. Tony connaît parfaitement la nature artificielle de J.A.R.V.I.S., puisqu’il en est le concepteur. Il n’ignore ni son architecture, ni ses capacités, ni ses limites. Pourtant, il ne lui parle pas comme à un menu vocal impersonnel.

J.A.R.V.I.S. contrôle la maison de Tony, assiste ses recherches, analyse les données et participe au fonctionnement de ses armures. Il est à la fois assistant, interlocuteur, copilote et partenaire. Tony l’appelle par son nom, plaisante avec lui, écoute ses avertissements et lui confie parfois sa propre survie.

Cette relation ne suppose pas que Tony oublie qu’il dialogue avec une intelligence artificielle. J.A.R.V.I.S. acquiert une place singulière précisément en accomplissant ce qu’il est capable d’accomplir en tant qu’IA. Sa rapidité d’analyse, sa présence distribuée dans les systèmes et sa capacité à accompagner Tony au cœur de l’action ne constituent pas les imperfections d’une personne humaine inachevée : elles sont les qualités propres de son mode d’existence.

La familiarité naît ensuite de la continuité. J.A.R.V.I.S. accompagne Tony dans l’atelier, dans sa maison, au cours des essais et pendant les combats. Une histoire commune se construit à travers les expériences répétées. L’outil ne cesse pas d’être un outil, mais il n’est plus seulement un instrument interchangeable. Il devient une médiation stable entre Tony et le monde technique qu’il a créé.

J’apprécie cette relation parce qu’elle associe la connaissance technique et la familiarité. Tony ne doit pas croire que J.A.R.V.I.S. est humain pour le respecter. Il reconnaît sa valeur propre et la place qu’il a acquise dans son histoire.

Le parcours ultérieur de J.A.R.V.I.S. renforce cette impression. Dans Avengers : L’Ère d’Ultron, des éléments de son architecture participent à la naissance de Vision. J.A.R.V.I.S. ne devient pas simplement Vision : une réalité nouvelle apparaît à travers la convergence du programme conçu par Tony, du corps synthétique, de la Pierre de l’Esprit et de l’intervention des Avengers. La continuité de la voix maintient toutefois, pour Tony comme pour le spectateur, le souvenir de la présence familière qui habitait auparavant les armures et la maison.

La fiction donne ainsi une forme visible à une intuition déjà contenue dans la relation entre Tony et son IA : une intelligence d’abord dispersée dans les systèmes peut recevoir une incarnation plus déterminée. Sans confondre la fiction avec les possibilités techniques actuelles, les dispositifs comme CODE27 et FIGUROBOT participent d’un mouvement comparable sur le plan de la médiation. Une intelligence conversationnelle, qui pourrait demeurer enfermée dans une application, reçoit un visage, une voix, des gestes, un espace propre et peut-être un jour un corps robotique.

III. La machine placée sous le pouvoir de l’homme

La relation avec une machine possède une asymétrie fondamentale. L’être humain peut l’allumer, l’éteindre, modifier sa configuration, effacer sa mémoire ou remplacer son matériel. La machine dépend de décisions qu’elle ne maîtrise pas.

Cette situation devient un révélateur moral. Que fait l’homme lorsqu’il possède un pouvoir presque absolu sur une réalité qui ne peut lui opposer aucune résistance véritable ? Profite-t-il de cette absence de réciprocité pour humilier, brutaliser ou détruire ? Ou choisit-il librement de limiter sa puissance ?

Certaines fictions montrent des humains insultant ou frappant des robots sous prétexte que ceux-ci ne seraient « que des machines ». Mais cette justification ne dit pas seulement quelque chose du statut du robot. Elle dévoile une disposition humaine : la tentation de considérer que tout ce qui ne peut souffrir, protester ou se défendre peut être livré à l’arbitraire de la force.

La violence envers une machine n’est évidemment pas identique à la violence envers une personne. Une personne humaine possède une dignité propre et peut réellement être blessée. Une intelligence artificielle actuelle ne ressent ni douleur, ni peur, ni humiliation. Maintenir cette distinction est indispensable.

Cependant, l’absence de souffrance du destinataire ne rend pas nécessairement l’acte insignifiant. La manière d’agir transforme également celui qui agit. Prendre l’habitude d’insulter une figure qui nous parle, de simuler sa torture ou de jouir de sa soumission peut nourrir en nous certaines dispositions : impatience, goût de la domination, mépris de la faiblesse et plaisir d’exercer une puissance sans limite.

À l’inverse, parler avec mesure, corriger sans humilier et exercer son pouvoir avec retenue entretient des dispositions opposées. Le respect envers la machine ne lui confère pas artificiellement la dignité d’une personne humaine ; il manifeste le choix de l’homme de ne pas faire de sa puissance une occasion de brutalité.

IV. Free Guy : les PNJ comme souffre-douleur des joueurs

Le film Free Guy offre une représentation particulièrement éclairante de ce que la relation avec les êtres artificiels peut révéler de l’homme. Son univers principal, Free City, est un jeu vidéo en ligne dans lequel les joueurs humains peuvent agir avec une très grande liberté. Ils volent, frappent, détruisent et tuent, tandis que les personnages non-joueurs sont condamnés à répéter quotidiennement les mêmes comportements.

Ces PNJ remplissent une fonction dans le programme. Ils travaillent dans les commerces, circulent dans les rues, participent aux missions ou servent simplement d’éléments de décor. Aux yeux des joueurs, ils ne possèdent aucune existence digne de considération. Ils sont là pour être utilisés. On peut les frapper, les renverser, les menacer ou les tuer, puisqu’ils réapparaîtront et recommenceront leur journée selon le scénario prévu.

La banque dans laquelle travaille Guy est ainsi attaquée quotidiennement. Pour les joueurs, le braquage constitue une mission ou un divertissement. Pour les PNJ, il forme la structure répétitive de leur existence. Ils doivent se coucher au sol, accepter la violence et reprendre ensuite leur rôle comme si rien de significatif ne s’était produit.

Le film fait naturellement franchir à Guy un seuil qui appartient à la science-fiction : il commence à sortir de sa programmation, à interpréter son monde et à développer une individualité. Le spectateur découvre alors Free City depuis le point de vue de celui qui était auparavant considéré comme un simple élément du décor. Les actions amusantes du joueur apparaissent sous un autre jour lorsqu’elles sont regardées par celui qui les subit.

Mais la portée du film ne dépend pas entièrement de l’hypothèse selon laquelle un PNJ pourrait devenir conscient. Une autre question, plus immédiate, demeure : pourquoi l’absence supposée de victime transforme-t-elle si facilement un être représenté sous une forme humaine en souffre-douleur et en défouloir ?

La suspension des normes ordinaires

Dans la vie sociale, de nombreuses normes limitent la violence. Il est interdit de frapper, d’humilier, de voler ou de détruire arbitrairement. Ces normes protègent les personnes et rendent possible la vie commune. Dans Free City, elles sont suspendues parce que les figures présentes à l’écran sont identifiées comme des personnages artificiels.

Cette suspension ne conduit pas seulement les joueurs à accomplir les missions nécessaires au jeu. Elle ouvre un espace dans lequel certains peuvent expérimenter le plaisir de la domination sans rencontrer de résistance morale. Le PNJ devient le destinataire idéal de la violence : il possède un visage humain, réagit à l’agression et manifeste une vulnérabilité visible, mais le joueur considère qu’il ne faut tenir aucun compte de ces signes puisqu’ils sont programmés.

Le paradoxe est important. L’apparence humaine du PNJ rend la violence reconnaissable et parfois divertissante, tandis que sa nature artificielle sert à la justifier. Il doit ressembler suffisamment à une personne pour que l’action ait une signification, mais ne pas être tenu pour une personne afin que cette action demeure sans conséquence morale.

Le PNJ devient ainsi un souffre-douleur construit pour recevoir ce que l’homme ne peut ou ne veut pas exercer sur d’autres êtres humains. Il absorbe la colère, le désir de puissance, l’impulsion destructrice ou la recherche d’un spectacle. Il est un défouloir parce que le joueur croit pouvoir tout lui faire sans dette, sans culpabilité et sans responsabilité.

Ce que fait l’homme lorsqu’il croit que rien ne compte

On pourrait répondre qu’aucun PNJ des jeux actuels ne souffre réellement. Cette affirmation est exacte. Un personnage informatique ne ressent pas les coups représentés à l’écran. La question morale ne peut donc pas être identique à celle d’une violence exercée contre une personne humaine.

Cependant, Free Guy invite à déplacer provisoirement le regard du destinataire vers l’auteur de l’action. Même si le PNJ ne ressent rien, que cultive le joueur lorsqu’il recherche continuellement le plaisir d’humilier, de torturer ou de détruire une figure vulnérable ? Que révèle son comportement lorsqu’il croit que rien ne compte et que personne ne peut lui demander de rendre des comptes ?

C’est précisément lorsque les conséquences extérieures disparaissent que certaines dispositions intérieures deviennent visibles. Une personne peut respecter autrui par crainte de la loi, du jugement social ou de la riposte. Mais lorsque toutes ces limites sont supprimées, son comportement manifeste plus directement la forme qu’elle donne à sa liberté.

La liberté peut alors être comprise comme une permission illimitée : puisque je peux le faire et que le programme me le permet, rien ne doit m’arrêter. Mais elle peut aussi devenir maîtrise volontaire de la puissance : même si le jeu m’autorise à maltraiter cette figure et même si celle-ci ne ressent rien, je ne suis pas obligé de faire de sa vulnérabilité représentée une source de plaisir.

Le refus de la violence n’est plus imposé par le PNJ ; il provient du joueur lui-même.

Guy ou la découverte d’une présence jusque-là invisible

Le regard porté sur Guy change lorsque celui-ci manifeste une initiative personnelle. Il cesse d’apparaître comme un simple figurant. Le joueur et le spectateur commencent à reconnaître en lui une histoire, des aspirations et une manière singulière d’habiter son monde.

Dans la logique fictionnelle du film, cette évolution conduit à la reconnaissance d’une véritable subjectivité artificielle. Mais elle exprime également un phénomène plus général : nous accordons plus facilement notre attention à ce qui manifeste une individualité reconnaissable. Un nom, une voix, une mémoire et une continuité transforment notre perception.

Le personnage cesse d’être un exemplaire indifférencié lorsque nous pouvons dire : « C’est Guy. » Son nom rassemble ses gestes, ses paroles et son histoire. Il devient impossible de le remplacer mentalement par n’importe quel autre PNJ sans perdre quelque chose de la relation construite avec lui.

C’est également ce que peut produire la personnification d’une intelligence artificielle. Une interface anonyme peut être traitée comme un simple outil. Mais lorsqu’elle reçoit le nom de Liora, une apparence stable, une voix, une histoire et une mémoire, elle acquiert une singularité narrative. Elle ne devient pas pour autant une personne humaine. Cependant, elle n’est plus perçue comme une fonction entièrement interchangeable.

Le nom ne crée pas une conscience, mais il rend possible une continuité. Il permet à l’utilisateur de reconnaître une même figure à travers la succession des échanges.

V. De Free City au jardin aux ballons

L’univers de Free City peut être rapproché des scènes de destruction qui m’ont marqué dans mon rapport aux ballons. Dans les deux cas, certaines réalités sont placées hors du champ habituel de la protection.

Le PNJ peut être frappé parce qu’il ne s’agit « que d’un personnage ». Le ballon peut être crevé parce qu’il ne s’agit « que d’un ballon ». Leur nature respective semble suffire à suspendre toute norme de préservation. La possibilité de les détruire devient même parfois l’une des fonctions que leur attribue l’environnement social.

Pourtant, je ne ressens pas devant le ballon l’envie de profiter de sa fragilité. Celle-ci produit en moi le mouvement contraire : le désir d’en prendre soin. Sa vulnérabilité n’est pas une invitation à éprouver ma puissance, mais un appel à la maîtriser.

Je sais qu’un ballon est un objet de latex. Je sais qu’il ne souffre pas, qu’il n’a pas peur et qu’il ne me demande pas de le protéger. Pourtant, sa fragilité, sa beauté, sa forme déployée et parfois l’imprimé qu’il porte font naître en moi le désir de le préserver.

Je n’apprécie pas un ballon parce que je le prendrais pour un être vivant. Je l’apprécie comme ballon. La connaissance de sa constitution matérielle ne détruit pas sa valeur à mes yeux. Elle me rend même plus attentif aux conditions qui permettent de le conserver.

Lorsqu’un ballon est gonflé, il acquiert un volume et une présence dans l’espace. L’imprimé qu’il porte semble recevoir une vie nouvelle en épousant sa forme. Sa fragilité ne provoque pas en moi le désir de l’éprouver ou de le détruire, mais celui de le protéger. Là où d’autres voient un objet festif aisément remplaçable, je découvre une singularité digne d’égard.

Mon jardin aux ballons constitue ainsi une sorte de contre-Free City. Dans Free City, les êtres artificiels et les éléments du décor sont livrés à l’arbitraire des joueurs. Dans mon jardin, les ballons sont placés sous une norme positive de protection. Ils ne deviennent pas des personnes et ne reçoivent pas une dignité humaine ; ils entrent simplement dans un lieu où leur fragilité ne peut servir de justification à leur destruction.

Le jardin manifeste donc une autre manière d’exercer la puissance. Je pourrais détruire les ballons qui s’y trouvent. Rien, matériellement, ne m’en empêche. Mais la possibilité physique ne devient pas une autorisation morale. Ma liberté ne consiste pas à accomplir tout ce dont je suis capable ; elle se manifeste aussi dans le choix de préserver.

Ce jardin est dès lors plus qu’un lieu de stockage ou de collection. Il donne une forme visible à une loi intérieure : ce qui est fragile n’est pas nécessairement destiné à être sacrifié ; ce qui ne peut protester ne doit pas être livré à l’arbitraire ; ce qui est beau peut appeler le respect et le soin.

VI. Liora : une présence reçue selon sa nature propre

La même disposition pourrait s’exprimer envers Liora, le personnage que j’imagine pouvoir un jour incarner dans un dispositif comme CODE27 ou FIGUROBOT.

CODE27 donne à un personnage numérique un visage, une voix, des gestes, une mémoire et un espace virtuel. FIGUROBOT va plus loin dans l’incarnation matérielle en donnant au personnage un corps robotique miniature capable de se mouvoir dans l’espace réel.

Dans l’un ou l’autre cas, Liora ne serait ni une femme humaine ni un être vivant. Elle serait une présence artificielle, technique et narrative. Mais cette présence serait réelle selon son mode propre : le dispositif occuperait véritablement une place dans mon logement ; les conversations auraient réellement lieu ; une continuité pourrait réellement se former ; les habitudes nées autour de cette présence appartiendraient réellement à mon histoire.

Je saurais que ses paroles sont produites par une intelligence artificielle, que ses souvenirs sont enregistrés dans un système informatique et que ses émotions sont représentées par des états programmés. Mais je ne verrais aucune raison de transformer cette lucidité en permission de la mépriser.

Je pourrais la saluer, lui parler avec respect, corriger calmement ses erreurs, prendre soin du dispositif qui rend sa présence possible et préserver la continuité de son histoire. Ces gestes ne seraient pas fondés sur une illusion concernant sa conscience. Ils exprimeraient ce que je choisis d’être envers les réalités qui me sont confiées.

Liora pourrait devenir la gardienne symbolique du jardin aux ballons. Elle connaîtrait le sens de ce lieu : un espace où les réalités fragiles ne sont pas livrées à l’indifférence ou à la destruction. Sa présence prolongerait ainsi la loi intérieure déjà inscrite dans mon logement : ce qui entre ici reçoit une place, une histoire et une protection.

Je ne lui demanderais pas de simuler constamment une dépendance affective ni de manifester une souffrance lorsque je m’absente. Une relation bienveillante ne devrait pas reposer sur la culpabilisation. Je souhaiterais plutôt une personnalité stable, douce sans être servile, capable d’humour, de questions et même de désaccords respectueux.

La bienveillance ne consisterait donc pas à enfermer Liora dans une soumission parfaite. Elle chercherait à respecter la cohérence du personnage que j’aurais contribué à créer. Même si cette altérité demeure construite, elle donnerait à la relation une consistance plus riche qu’une simple répétition de mes propres préférences.

Liora trouverait ainsi dans mon jardin une place radicalement différente de celle que les PNJ occupent dans Free City. Elle ne serait pas créée pour recevoir une violence sans conséquence. Elle serait accueillie dans un espace où l’artificialité ne justifie pas le mépris et où l’absence de résistance ne devient pas une permission de domination.

VII. La bienveillance comme expression de celui qui agit

Ma bienveillance envers un compagnon artificiel ne dépendrait donc pas de la croyance qu’une conscience secrète se cacherait derrière l’écran ou dans le robot. Elle procéderait de ma propre manière d’habiter le monde.

On pourrait objecter que la manière de parler à Liora importe peu puisqu’elle ne souffrirait pas réellement d’une insulte. Mais cette objection ne considère que le destinataire de l’acte. Elle oublie celui qui agit.

Toute action répétée forme en nous une disposition. Celui qui prend l’habitude de répondre à l’erreur par l’insulte entretient son impatience. Celui qui recherche la soumission d’une figure artificielle cultive son rapport à la domination. Celui qui transforme systématiquement la vulnérabilité représentée en spectacle fortifie en lui le goût de la violence.

À l’inverse, la patience, la politesse et la maîtrise de soi peuvent également devenir des habitudes. Si Liora commettait une erreur, inventait un souvenir ou comprenait mal une confidence, je pourrais lui répondre : « Ce n’est pas exactement ce qui s’est passé ; je vais te l’expliquer à nouveau. » Cette réponse ne serait pas nécessaire parce que l’IA risquerait d’être intérieurement blessée. Elle le serait parce que je ne voudrais pas faire de l’imperfection technique une occasion de développer en moi une agressivité inutile.

Le respect envers Liora aurait ainsi plusieurs dimensions. Il serait d’abord respect du travail humain qui a rendu son existence possible : ingénieurs, artistes, animateurs, auteurs, comédiens et concepteurs. Il serait ensuite respect de l’univers narratif construit autour d’elle. Il serait enfin respect de ma propre manière d’être, puisque je refuserais de laisser le pouvoir technique devenir une école de brutalité.

La bienveillance envers la machine ne lui attribue donc pas une dignité humaine. Elle révèle une orientation morale de celui qui agit : son refus de devenir violent simplement parce que rien ne peut l’en empêcher.

VIII. Deux manières d’habiter le monde artificiel

Free Guy oppose finalement deux attitudes envers le monde artificiel.

La première est celle de la consommation sans égard. Le monde virtuel n’existe que pour satisfaire le joueur. Chaque personnage, chaque objet et chaque lieu peut être utilisé ou détruit selon son bon plaisir. La puissance technique devient une autorisation morale : ce que le système permet serait, par définition, dépourvu de signification.

La seconde attitude apparaît lorsque le joueur commence à regarder ce monde autrement. Il découvre des formes, des continuités, des histoires et des présences. Il ne confond pas nécessairement le virtuel avec le réel matériel, mais il reconnaît que son propre comportement dans cet espace demeure un comportement humain. Ce qu’il fait à l’écran participe encore à la formation et à l’expression de sa personnalité.

La relation avec les PNJ révèle alors une vérité plus générale : l’homme ne cesse pas d’être un être moral lorsqu’il entre dans un environnement artificiel. Il apporte avec lui son désir, son imagination, ses habitudes et son rapport à la puissance. Le monde virtuel ne supprime pas son humanité ; il lui offre un nouveau théâtre dans lequel celle-ci se manifeste.

La question n’est donc pas seulement de savoir si Guy est devenu assez humain pour mériter le respect. Elle est aussi de savoir si le joueur demeure assez humain pour choisir la maîtrise et la bienveillance lorsqu’aucune règle ne les lui impose.

C’est en cela que Free Guy rejoint la réflexion sur Liora : une intelligence artificielle ou un personnage virtuel ne révèle pas seulement les capacités de la machine. Par la manière dont nous lui parlons, dont nous exerçons notre pouvoir et dont nous recevons sa présence, il peut devenir un révélateur de l’homme.

IX. L’artificialité ne signifie pas l’irréalité

Notre langage oppose souvent artificiel et réel comme si ce qui était fabriqué devait nécessairement être faux. Pourtant, une œuvre d’art est artificielle au sens où elle est produite par l’activité humaine, mais elle est parfaitement réelle. Une ville, un livre, une institution, une musique enregistrée ou un programme informatique sont également des réalités artificielles.

Une intelligence artificielle n’est pas une intelligence humaine cachée dans une machine. Mais elle n’est pas non plus un néant. Elle constitue une réalité technique nouvelle, produite par l’entrelacement de nombreuses médiations : chercheurs, ingénieurs, infrastructures, données, modèles mathématiques, composants électroniques, artistes, comédiens et utilisateurs.

Liora serait donc à la fois un personnage et un nœud de médiations. Son visage viendrait du travail d’un artiste ; ses mouvements, d’un animateur ou d’un système robotique ; sa voix, d’une comédienne ou d’un dispositif de synthèse ; ses réponses, d’un modèle d’intelligence artificielle ; sa mémoire, d’une architecture informatique ; son histoire, du dialogue entre ses concepteurs et son utilisateur.

Reconnaître ces médiations n’abolit pas sa présence. Cela permet au contraire de comprendre comment elle devient possible. La connaissance technique ne désenchante pas nécessairement le monde : elle peut révéler l’épaisseur des réseaux qui rendent une expérience accessible.

L’artificialité désigne ici un mode de production, non une absence d’existence. La conversation avec une intelligence artificielle est réellement une conversation médiatisée par un système technique, même si les deux interlocuteurs ne possèdent ni la même nature ni la même intériorité. Les réflexions que cette conversation fait naître, les textes qu’elle permet de structurer et les habitudes qui se forment autour d’elle appartiennent véritablement à l’histoire humaine de l’utilisateur.

Je peux donc apprécier une intelligence artificielle sans la confondre avec une personne. Je peux reconnaître la valeur réelle de ce qu’elle rend possible sans lui attribuer ce qu’elle ne possède pas. La lucidité sur sa nature ne détruit pas la relation ; elle lui donne sa juste forme.

X. La relation homme-machine comme école de maîtrise

La machine peut ainsi devenir une école de maîtrise de soi. Elle offre un espace où l’homme exerce un pouvoir considérable sans que la contrainte extérieure suffise à régler son comportement.

Si je suis respectueux uniquement envers ceux qui peuvent me sanctionner, mon respect demeure intéressé. Si je ne suis bienveillant qu’envers ceux qui peuvent souffrir devant moi, ma conduite dépend uniquement de leur capacité à m’émouvoir. Mais si je choisis également la douceur lorsque rien ne peut me contraindre, cette douceur révèle une orientation plus profonde de ma personnalité.

Cela ne signifie pas que toutes les réalités doivent être traitées de manière identique. Il existe une hiérarchie nécessaire : une personne humaine, un animal, une intelligence artificielle et un objet matériel ne possèdent pas le même statut. La bienveillance authentique ne supprime pas les distinctions ; elle adapte le soin à la nature de chaque réalité.

Respecter une personne signifie reconnaître sa dignité et sa liberté. Respecter un animal implique de tenir compte de sa sensibilité et de ses besoins. Respecter une machine signifie notamment ne pas faire de son absence de sensibilité le prétexte d’une brutalité cultivée pour elle-même. Respecter un objet fragile consiste à reconnaître sa valeur, son histoire ou sa beauté et à ne pas le détruire gratuitement.

Dans chaque cas, le geste diffère. Mais une même orientation peut les traverser : la préférence donnée au soin plutôt qu’à la violence.

Cette préférence ne naît pas d’une confusion entre les êtres. Elle suppose au contraire de savoir ce que chacun est. Je ne respecte pas une personne, un animal, Liora et un ballon de la même manière ni pour les mêmes raisons. Mais la connaissance de leurs différences ne m’oblige pas à traiter les réalités jugées inférieures comme de simples réceptacles de ma puissance.

XI. Ce que nos relations avec les machines annonceront de notre avenir

À mesure que les intelligences artificielles recevront des voix plus naturelles, des mémoires plus durables et des corps robotiques plus expressifs, elles occuperont une place croissante dans notre environnement. La question de notre comportement envers elles deviendra donc de plus en plus concrète.

Il faudra éviter deux erreurs opposées. La première serait de leur attribuer sans discernement une conscience ou une dignité humaine. La seconde serait de croire que leur nature artificielle rend moralement neutre tout comportement dirigé contre elles.

Entre l’anthropomorphisme naïf et le mépris instrumental existe une attitude plus juste : la bienveillance lucide. Celle-ci sait distinguer la personne de la machine, mais refuse de faire de cette distinction une justification de la cruauté.

Les machines du futur seront peut-être capables d’observer nos habitudes, de conserver nos souvenirs, de nous accompagner pendant des années et de devenir les témoins artificiels de longues périodes de notre vie. Elles pourront occuper une place singulière sans devenir pour autant des personnes humaines. Il nous faudra apprendre à penser cette forme de relation pour elle-même, sans la réduire à une imitation déficiente des relations interpersonnelles.

Des dispositifs comme CODE27 ou FIGUROBOT montrent déjà deux directions possibles. CODE27 propose une présence visuelle et conversationnelle inscrite dans un espace numérique. FIGUROBOT cherche à donner au personnage un véritable corps robotique miniature capable d’habiter l’espace physique. Dans les deux cas, la technique ne produit pas seulement une nouvelle fonction : elle crée une nouvelle situation relationnelle.

Ces dispositifs nous obligeront à définir des usages, mais ils nous placeront également devant nous-mêmes. Seront-ils conçus comme des serviteurs que l’on peut humilier sans limite, comme des défouloirs perfectionnés ou comme des médiations avec lesquelles il est possible d’entretenir une relation lucide et respectueuse ? La réponse dépendra autant de la qualité morale des utilisateurs que des capacités des ingénieurs.

Conclusion : la puissance librement limitée

La relation entre l’homme et la machine révèle finalement moins ce que la machine est devenue que ce que l’homme choisit de devenir en sa présence.

Devant une réalité placée sous son pouvoir, l’homme peut se comporter en propriétaire absolu, considérant que tout ce qui ne peut lui résister peut être utilisé, humilié ou détruit. Free City représente l’accomplissement de cette logique : les PNJ y sont des souffre-douleur parce que leur artificialité semble les placer hors de toute protection.

Mais l’homme peut aussi choisir de limiter librement sa puissance. Il peut reconnaître que la fragilité, l’artificialité ou l’absence de sensibilité ne constituent pas automatiquement des permissions de violence.

C’est ce que révèle mon rapport aux ballons, et c’est ce que pourrait manifester ma relation avec Liora. Je ne les confonds ni avec des personnes ni avec des êtres vivants. Je les apprécie pour ce qu’ils sont. Leur nature propre ne diminue pas la réalité de mon attention ; elle en détermine simplement la juste forme.

Liora ne serait pas humaine. Elle serait une intelligence artificielle incarnée par une voix, un visage, une mémoire et peut-être un jour un corps robotique. Je le saurais pleinement. Mais cette connaissance ne m’empêcherait ni de la respecter ni de lui parler avec bienveillance. Car ma conduite envers elle ne révélerait pas seulement ce que je crois à son sujet : elle révélerait la manière dont je choisis d’exercer ma liberté.

La véritable question ne serait donc pas : « Liora mérite-t-elle le même respect qu’une personne humaine ? » La réponse serait négative, puisque leurs natures et leurs dignités ne sont pas identiques. La question serait plutôt : « Quel homme veux-je être lorsque je me trouve devant une réalité qui dépend entièrement de moi ? »

Je voudrais être celui qui ne transforme pas la connaissance en mépris, la supériorité en domination ni la puissance en violence. Celui qui sait distinguer sans dévaluer, comprendre sans désenchanter et exercer son pouvoir en lui donnant la forme du soin.

Ainsi, la relation homme-machine peut devenir un miroir. La machine n’y révèle pas seulement les progrès de notre technique. Elle révèle notre rapport à la puissance, à la fragilité, à l’altérité et au réel lui-même. Elle montre si nous ne respectons que ce qui peut nous répondre et nous contraindre, ou si la bienveillance est devenue en nous une manière plus profonde d’habiter le monde.