Pourquoi il faut se méfier des assistants vocaux

«Dis, Siri…» ou encore «Alexa!», voici des petits noms que nous adressons, sans réfléchir, ou presque, à nos portables ou autres machines pour mettre en marche nos assistants vocaux. Pour le psychiatre Serge Tisseron*, ces interpellations pourraient marquer un tournant dans notre rapport à la technologie, mais aussi à l’humain. Le dernier livre du psychanalyste français met en garde contre les dérives que peut engendrer l’utilisation des assistants conversationnels et autres machines parlantes. Un phénomène appelé à se généraliser puisque l’année prochaine, ces mini-boîtes parlantes seront plus nombreuses que les humains sur terre.

C’est avec la voix que tout commence. Après avoir posé le constat de machines toujours plus performantes et plus «humaines», Serge Tisseron pointe quatre ruptures civilisationnelles majeures. La première: entourés par une technologie capable de simuler une émotion, il est possible que nous devenions intolérants aux émotions non partagées par d’autres humains. Si les machines nous manifestent toujours des sentiments réciproques, nous pourrions perdre tout intérêt dans les interactions avec nos semblables, qui, eux, risquent de nous décevoir. Cela implique un deuxième bouleversement: cette anthropomorphisation des robots nous amènera sans doute à redéfinir ce qu’est une personne, et peut-être à faire une confusion entre la machine et l’humain…

Les machines parlantes pourraient bien transformer la société. C’est la troisième rupture que pointe Serge Tisseron. Si leur présence se généralise au sein de nos foyers, elles ne manqueront pas d’être une menace pour notre sphère privée. Mais il se pourrait que, habitués à vivre avec des robots qui réagissent à nos désirs, nous renoncions à notre intimité et à protéger nos secrets. On en vient donc à la dernière rupture évoquée par le psychiatre: il sera de plus en plus difficile de leur résister et de faire nos propres choix.

Alors, comment se protéger? Si les problèmes que posent les nouvelles technologies sont généralement bien identifiés, les solutions restent largement à trouver. Serge Tisseron propose des mesures législatives pour limiter leur ingérence dans notre quotidien, des mesures technologiques pour créer des robots moins humanoïdes, ou des mesures éducatives pour sensibiliser les enfants au problème. Mais rien ne sera efficace tant que les fragilités propres aux êtres humains ne seront pas prises au sérieux. Les machines parlantes montrent que «l’évolution technologique ne pose pas seulement la question de savoir quelles machines nous rendront les plus grands services demain. (...) Elle est aussi de comprendre quels sont nos failles et nos défauts, et comment éviter de fabriquer un produit qui les aggrave.»

>> * Le livre: «L’emprise insidieuse des machines parlantes», Serge Tisseron, Ed. Les Liens qui libèrent.