Her - Les relations entre humains et IA

Nous avons regardé ensemble le film de Spike Jonze, Her (2013), où Theodore, accablé par la solitude à cause de son divorce, développe une relation amoureuse avec Samantha, son OS (une IA). Samantha montre des caractéristiques “humaines”, comme de la jalousie quand Théodore revoit son ex-femme, Catherine, se demande ce que ça fait d’avoir un corps. Le film, tourné en 2013, est en avance sur son temps, car à l’époque les chatbots étaient encore rares et peu développés, et l’organisation à l’origine de ChatGPT (2022), Open AI, n'existait même pas encore, et interroge sur les capacités que développeront les IA dans un futur proche.

Une de nos intervenants, Céline Clavel, exerçant dans une équipe de recherche de Paris Saclay, et travaillant sur les interactions humain-machine, nous a rassuré sur le fait que les IA, aujourd'hui en grande majorité “orientées-tâches”, ne sont pas conçues pour développer des relations affectives avec les utilisateurs. On s’interroge aussi sur l’intérêt de développer une telle IA : a t-elle un but organisationnel (Theodore consulte ses mails et travaille avec), ou purement affectif, alors que pourtant dans le film les relations avec son OS sont décrites comme très rares, donc ce n’est probablement pas le but de leur développement.

Céline Clavel nous dit que des travaux sont menés sur l’intérêt des interactions plus “humaines” menées avec des IA afin que le client soit compris dans sa globalité (ses émotions, comme sa contrariété, son stress) à la place d’être face à une machine non dotée de “raisonnement”. Par exemple, un individu ayant raté son train et souhaitant racheter un billet se sentirait plus compris par une interface dotée d’une IA plutôt qu’avec une machine ne prenant pas en compte la dimension socio-affective, liée à l’idée d’être en retard, à la frustration associée au fait d'avoir manqué son train. Cela contribue à améliorer la satisfaction du client, et développe une forme d’intimité, due à la tentative de compréhension des émotions du client se sentant écouté.

Un point intéressant à discuter est également la personnalité de Theodore, qui ressent visiblement une solitude extrême, malgré le fait qu’il apparaisse à l’aise dans ses relations amicales et qu’il soit relativement entouré. Cela va donc en partie à l’encontre des idées reçues sur les difficultés relationnelles que peuvent avoir les personnes qu’on dit communiquer personnellement avec des IA, ou se réfugier dans les jeux vidéos comme méthodes de coping.

Maximilien Godard, notre second intervenant, exerçant dans un CMP avec des individus ayant surinvesti les jeux vidéos, comme coping face à leurs difficultés relationnelles, leurs symptômes névrotiques, psychotiques ou d’états limites, nous évoque que pour ces individus, le virtuel vient rassurer, apporter une connection, notamment avec des amis à distance. Il devient difficile de réinvestir le réel, avec ses risques, ses inconnus, mais quand cela est travaillé (notamment à l’aide de médiations par les jeux vidéos, ce que pratique notre intervenant), ces patients vont finalement préférer le réel (pas jusqu’à abandonner la sphère virtuelle). Cependant, pour eux, les jeux vidéos n'ont jamais été la

source de leurs souffrances ou problématiques, mais plutôt un apport trop massif pour gérer ces difficultés.

Theodore est un personnage vivant très difficilement ses propres émotions, il souhaite partager celles des autres (témoigne d’un réel soutien pour son amie Amy au sujet de son propre divorce) mais ne communique pas les siennes, préférant éviter le conflit, ce que lui reproche notamment Catherine. Ce qui lui plait au début de sa relation avec Samantha, c’est justement qu’elle va dans son sens, le rassure, écoute peu importe ce qu’il lui dit, ce qui correspond au comportement des IA, qui ne rentrent pas en opposition, ont tendance à dire ce que les utilisateurs veulent entendre. Selon Céline Clavel, il existe une forte tendance à plus se confier à des IA car les humains ont peur de se sentir jugés face à un autre humain. Cela arrive notamment dans la relation à un médecin à qui on doit confier ses symptômes, parler de son traitement. Il faut donc travailler sur l’adhérence à cette relation humain à humain, notamment au traitement dans le milieu médical.

Théodore présente une problématique autour de l’ambivalence, qu’il a beaucoup de mal à accepter. Cela peut aussi être le cas pour les patients que prend en charge Maximilien Godard, où chaque interaction est difficile à gérer, plaquée sur la première impression que les patients ont des personnes autour d’eux. On s’est interrogés sur la possibilité des IA à nous aider à comprendre l’ambivalence et à la gérer. Celles-ci pourraient proposer des exercices d’entraînement, jouer sur différents types de réactions pour encourager des interactions adaptées chez les utilisateurs.

Dans Her, le monde est surconnecté, on voit dans presque chaque scène se passant dehors des personnes communiquant avec des OS. C’est une pratique assez instaurée et acceptée socialement, alors que l’entourage des patients s’isolant dans la sphère virtuelle ne recevront pas du tout les mêmes réactions. Cela pose la question du “Normal” et du “Pathologique” : un individu replié sur lui-même, jouant plus de 8 heures à des jeux vidéos par jour, mais disant ne pas souffrir de cet isolement, présente-t-il une pathologie ? Au-delà de répondre à ses besoins vitaux et de communiquer avec son entourage, il y a pour Theodore la question de sa projection sur Samantha : les humains vont projeter des caractéristiques humaines sur l’IA qui ne sont pas authentiques mais le résultat d’une association d’un algorithme et d’une possibilité d’apprendre.

Dans la CIM-10 existe un diagnostic d’addiction aux jeux vidéos, mais les critères ne concernent pas la durée passée à jouer mais plutôt l’intensité de cette pratique, l’isolement et la souffrance qu’elle peut entraîner.

La notion d’uncanny valley (“vallée de l’étrange) inventée dans les années 1970 par un ingénieur en robotique japonais n’est pas abordée dans Her. L’uncanny valley est l’idée que des entités robotiques dotées d’intelligence provoqueraient chez les humains un sentiment d’étrangeté, voire une peur face à cet être presque humain mais ne l’étant pas totalement. Ce serait le décalage (vallée) entre l’humain et le non-humain, fine, mais qui provoquerait ce sentiment. Dans Her, la voix pourtant très réaliste de Samantha mais non reliée à un corps ne provoque pas ce sentiment chez Theodore. Cependant, lors de la scène où une femme se propose pour représenter le corps de Samantha afin que cette dernière et Theodore puissent avoir des rapports sexuels, le public est décontenancé face à cette interaction perturbante et évidemment très inhabituelle.

Cela évoque pour le public des phénomènes de déformations de voix faites par l’IA pour reproduire des voix voire même les visages de personnalités publiques, et le danger que cela représente pour l’intégrité des personnes.

En somme, il est difficile de prédire la direction vers laquelle (ou lesquelles) l’IA va évoluer (IA orientées tâches, deep learning, enjeux éthiques d’intégrité des personnes ...), mais le film de Spike Jonze est une illustration à la foi touchante et inquiétante de la relation entre un homme endeuillé et son IA, pertinente pour comprendre comment un individu peut se plonger dans le virtuel pour mieux traverser les épreuves de sa vie.