Crédit photo, Getty Images
- Author, Dorian Lynskey
- Role, BBC
Avec Arnold Schwarzenegger en vedette, la superproduction de 1984 « Terminator » est devenue synonyme des dangers des machines superintelligentes. Mais il « aide et entrave » notre compréhension de l’IA.
Dans un épisode de la sitcom Silicon Valley de HBO, Thomas Middleditch (Richard Hendricks) explique sa plateforme d’apprentissage automatique Pied Piper à un groupe de discussion lorsqu’un participant la compare inévitablement au film « Terminator » de James Cameron, sorti en 1984. « Non, non, non », insiste Middleditch, exaspéré. « Je peux vous assurer qu’il ne s’agit pas d’une situation à la Skynet. Non, Pied Piper ne deviendra en aucun cas sensible et n’essaiera pas de conquérir le monde. » Trop tard. Il a perdu la salle.
Avec ses robots tueurs et son système d’intelligence artificielle dévoyé, Skynet, « Terminator » est devenu synonyme du spectre d’une intelligence artificielle qui se retourne contre ses créateurs humains. Les éditeurs d’images illustrent régulièrement les articles sur l’IA avec la tête de mort chromée du robot « chasseur-tueur » T-800 du film. Le roboticien Ronald Arkin a utilisé des extraits du film dans une conférence de 2013 intitulée « How NOT to build a Terminator » (Comment ne pas construire un Terminator).
Mais le film est une bénédiction mitigée. Le philosophe Nick Bostrom, dont le livre « Superintelligence », publié en 2014, a popularisé le risque existentiel d’une « IA non alignée » (une IA qui n’est pas alignée sur les valeurs et le bien-être de l’homme), a admis que sa femme le « taquine à propos de ‘Terminator’ et de l’armée de robots ». Dans son livre « The Road to Conscious Machines », le chercheur en IA Michael Woolridge consacre un chapitre entier à se plaindre du « récit Terminator de l’IA ».
Il existe des films influents plus récents et plus plausibles sur l’IA, notamment « Ex Machina » et « Her », mais lorsqu’il s’agit des dangers de la technologie, « Terminator » règne en maître quarante ans après sa sortie. « D’une certaine manière, il est presque plus pertinent aujourd’hui qu’il ne l’était à sa sortie », a déclaré Cameron à « The Ringer », à propos du film et de sa suite de 1991, « parce que l’IA est maintenant une chose réelle à laquelle nous devons faire face, alors qu’à l’époque, il s’agissait d’un fantasme ».
Crédit photo, Getty Images
Anti-armes et anti-machines
C’est un véritable exploit pour un film qui, en fait, ne s’intéresse pas particulièrement à l’IA. Il s’agit d’abord et avant tout d’un thriller maigre et lugubre mettant en scène un « homme » inarrêtable, qui poursuit une femme effrayée mais pleine de ressources. Le T-800 est un tueur implacable dans la veine de Michael Myers dans Halloween. Cameron l’a qualifié de « film d’horreur de science-fiction ». En second lieu, il s’agit d’un film de voyage dans le temps, sur le thème du « destin contre la volonté », comme l’a dit Cameron.
L’idée de départ est qu’à un moment donné, entre 1984 et 2029, les États-Unis ont confié l’ensemble de leur système de défense à Skynet. Un jour, Skynet a atteint la superintelligence – un esprit qui lui est propre – et a déclenché une guerre nucléaire mondiale. Les survivants de l’humanité ont alors mené une rébellion de plusieurs décennies contre l’armée de robots de Skynet. En 2029, la résistance humaine est sur le point de remporter la victoire grâce au leadership de John Connor. Skynet envoie alors un T-800 (Arnold Schwarzenegger) en 1984 pour tuer Sarah (Linda Hamilton), la future mère de John, avant qu’elle ne tombe enceinte. La résistance réagit en renvoyant Kyle Reese (Michael Biehn) pour arrêter le T-800 et sauver Sarah. Dans l’un de ces paradoxes temporels que les spectateurs ne devraient pas examiner de trop près, Kyle se lie avec Sarah et s’avère être le père de John. L’avenir est sauvé.
Crédit photo, Getty Images
« Terminator » est donc à la fois un thriller, une histoire d’amour, une rumination sur le libre arbitre et une satire de notre dépendance à la technologie. C’est un film anti-entreprises, anti-guerre, anti-armes et surtout anti-machines. La technologie, des répondeurs aux Walkmans, est impliquée lorsque des personnes sont tuées dans ce film. Mais il n’y a pas grand-chose à dire sur l’IA elle-même.
« Terminator est devenu l’un des films les plus rentables de tous les temps, avec 78,4 millions de dollars américains (environ 47,3 milliards de francs CFA), mais Cameron ne s’attendait pas à créer une pierre angulaire de la culture. Il a écrit le scénario dans un hôtel miteux de Rome en 1982, après avoir été renvoyé de son premier poste de réalisateur. Sa productrice, Gale Ann Hurd, n’a pu réunir qu’un budget de 6,4 millions de dollars américains (environ 3,8 milliards de francs CFA). Son acteur principal, un ancien bodybuilder au talent non prouvé, n’avait pas de grands espoirs. Schwarzenegger a parlé à un ami d’un « film de merde qu[‘il était] en train de faire, [qui allait prendre] quelques semaines ».
Cameron lui-même s’attendait à ce que « Terminator » soit « écrasé » au box-office par les deux épopées de science-fiction de l’automne : « Dune », de David Lynch, et « 2010 : The Year We Make Contact », de Peter Hyams, une suite bientôt oubliée de « 2001 : L’Odyssée de l’espace ». Il y a là une synchronicité intéressante : non seulement « Terminator » a surpassé 2010, mais Skynet a supplanté HAL 9000, l’ordinateur meurtrier de 2001, en tant qu’image dominante de l’IA qui a mal tourné.
Bien avant que le domaine de l’IA n’existe, ses dangers potentiels se manifestaient sous la forme du robot, créé par Karel Čapek dans sa pièce RUR en 1921 et popularisé par le film « Metropolis » de Fritz Lang en 1927. Dans son excellent livre du BFI sur « Terminator », Sean French suggère que l’image la plus mémorable du film – le T-800 sortant des flammes, son costume de chair fondu pour exposer son endosquelette métallique – est un clin d’œil au robot en flammes de Metropolis. Dans les années 1920, il était logique que l’intelligence des machines marche et parle, comme le monstre de Frankenstein. La popularité des robots mortels a conduit l’écrivain de science-fiction Isaac Asimov à rédiger, en 1942, les « trois lois de la robotique », première tentative de définition d’une IA éthique.
Dans le monde réel, le domaine de l’intelligence artificielle a officiellement vu le jour en 1956, lors d’une université d’été à l’université de Dartmouth, organisée par les informaticiens John McCarthy (qui a inventé le terme) et Marvin Minsky. Leur ambition était de concevoir des machines capables de penser comme les humains, mais cela s’est avéré beaucoup plus difficile qu’ils ne l’avaient imaginé. L’histoire de l’IA est celle d’un boom et d’un effondrement : un cycle de « printemps de l’IA » et d' »hivers de l’IA ». Des promesses époustouflantes attirent l’attention, les financements et les talents ; leur échec entraîne la chute de ces trois éléments.
Crédit photo, Getty Images
L’essor des années 1960, avant que l’ampleur des obstacles techniques ne devienne évidente, est connu comme l’âge d’or de l’IA. Le battage extravagant sur les « cerveaux électroniques » a enthousiasmé le réalisateur Stanley Kubrick et l’écrivain Arthur C. Clarke, qui ont intégré l’IA dans le film « 2001 : l’Odyssée de l’espace », en 1968, sous la forme de HAL 9000. Le nom (qui signifie Heuristically Programmed Algorithmic Computer) vient de Minsky lui-même, engagé comme consultant par Kubrick. Les yeux rouges du T-800 sont certainement un hommage à HAL – le fait d’avoir vu 2001 dans son enfance a mis Cameron sur la voie du cinéma.
Daniel Crevier, historien de l’IA, a comparé le scénario de HAL (un ordinateur mal programmé qui tourne mal) à celui de Colossus, le thriller de 1966 de DF Jones (l’ordinateur devient une nouvelle forme de vie semblable à un dieu). Dans le roman de Jones, le gouvernement américain confie imprudemment l’ensemble de son dispositif de défense au superordinateur en question. Colossus devient sensible, s’associe à son homologue soviétique et fait chanter l’humanité pour qu’elle se soumette à une techno-dictature : se rendre ou risquer l’anéantissement nucléaire. Colossus est un proto-Skynet.
La fin de l’histoire
Ni HAL ni Colossus n’avaient – ou n’avaient besoin – de corps. La brillante innovation de Cameron a été de combiner l’ordinateur incontrôlable (Skynet) avec le robot tueur (le T-800). Le T-800 est une forme d’IA à usage unique, capable d’apprendre de son environnement, de résoudre des problèmes, d’effectuer des tâches physiques sophistiquées et de simuler des voix, mais qui peine à tenir une conversation. Skynet, semble-t-il, peut tout faire sauf bouger.
Skynet est un produit du deuxième printemps de l’IA. Pendant que Cameron écrivait le scénario, l’informaticien britanno-canadien Geoffrey Hinton repensait et relançait la recherche sur l’approche de l’IA par les réseaux de neurones : modéliser l’intelligence de la machine sur les neurones du cerveau humain. Skynet est une IA à réseaux de neurones. Hinton, qui vient de recevoir le prix Nobel de physique, est récemment devenu un fanatique de l’IA (« Mon intuition est que nous sommes grillés. C’est la véritable fin de l’histoire. »), mais selon un article du New Yorker, il a apprécié Terminator en 1984 : « Cela ne le dérangeait pas que Skynet… soit un réseau de neurones ; il était heureux de voir la technologie présentée comme prometteuse. »
Le nom Skynet est peut-être aussi un clin d’œil à la Guerre des étoiles, le rêve voué à l’échec du président Reagan de créer un bouclier antinucléaire autour des États-Unis à l’aide de lasers basés dans l’espace. (Heureusement pour l’avenir de la franchise, ce nom a également fait écho à l’internet, un mot qui existait en 1984 mais qui n’a été largement utilisé que dans les années 1990). Les noms de portmanteau de nouvelles entreprises ambitieuses comme IntelliCorp, Syntelligence et TeKnowledge ont peut-être incité Cameron à réduire le nom original du créateur de Skynet, Cyber Dynamics Corporation, en Cyberdyne Systems.
En revoyant « Terminator », il est surprenant de constater que le mot Skynet n’est prononcé que deux fois. Selon Kyle Reese, il s’agit de : « Nouveau. Puissant. Accroché à tout. On lui fait confiance pour tout diriger. On dit qu’il est devenu intelligent… un nouvel ordre d’intelligence. Alors il a vu tous les gens comme une menace, pas seulement ceux de l’autre côté. Elle a décidé de notre sort en une microseconde… l’extermination. » C’est là tout l’intérêt du film pour l’IA. Comme Cameron l’a souvent dit, les films « Terminator » s’intéressent davantage aux êtres humains qu’aux machines.
Crédit photo, Getty Images
La suite de la superproduction de 1991, « Terminator 2 : Judgment Day », a quelque peu étoffé l’histoire. Elle découle d’un autre paradoxe temporel : l’unité centrale et le bras droit du Terminator original ont survécu à sa destruction et ont permis au scientifique de Cyberdyne Miles Bennett Dyson (Joe Morton) de concevoir Skynet. La tâche des héros ne consiste plus seulement à sauver John Connor, âgé de 10 ans, du T-1000 qui voyage dans le temps, mais aussi à détruire Skynet dans le berceau numérique. (Ce fut le dernier mot de Cameron sur le sujet jusqu’à ce qu’il produise et coécrive « Terminator : Dark Fate ». Il a récemment déclaré au magazine Empire que toutes les suites qui ont suivi étaient « escomptables »).
Dans « Terminator 2 », un T-800 en forme de Schwarzenegger est le protecteur plutôt que le chasseur, et donc le porteur de l’exposé : « Le système est mis en service le 4 août 1997. Les décisions humaines sont retirées de la défense stratégique. Skynet commence à apprendre à une vitesse géométrique. Il devient conscient de lui-même à 2 h 14, heure de l’Est, le 29 août. Dans la panique, ils tentent de le débrancher. » Skynet riposte en lançant des missiles nucléaires sur la Russie, sachant que la contre-attaque dévastera les États-Unis. Trois milliards de personnes meurent en vingt-quatre heures : Le Jugement dernier.
Ce récit est fondamentalement différent de celui de Reese. Dans le premier film, Skynet surinterprète sa programmation en considérant l’ensemble de l’humanité comme une menace. Dans le second, il agit par intérêt personnel. Cette contradiction ne dérange pas la plupart des spectateurs, mais elle illustre un désaccord crucial sur le risque existentiel de l’IA.
Le profane est susceptible d’imaginer l’IA non alignée comme rebelle et malveillante. Mais Nick Bostrom, par exemple, insiste sur le fait que le véritable danger provient d’une programmation imprudente. Pensez au balai du sorcier dans le film Fantasia de Disney : un appareil qui suit docilement ses instructions jusqu’à des extrêmes ruineux. Le second type d’IA n’est pas assez humain – il manque de bon sens et de jugement moral. La première est trop humaine – égoïste, rancunière, avide de pouvoir. Toutes deux pourraient en théorie être génocidaires.
« Terminator » nous aide et nous empêche de comprendre l’IA : ce que cela signifie pour une machine de « penser », et comment cela peut tourner mal. De nombreux chercheurs en IA reprochent à l’obsession de « Terminator » d’exagérer le risque existentiel de l’IA au détriment de dangers plus immédiats tels que le chômage de masse, la désinformation et les armes autonomes. « Tout d’abord, cela nous pousse à nous inquiéter de choses dont nous n’avons probablement pas besoin, écrit Michael Woolridge. Mais deuxièmement, cela détourne l’attention des questions soulevées par l’IA dont nous devrions nous préoccuper. »
Cameron a révélé à Empire qu’il préparait un nouveau film « Terminator » qui se débarrasserait de tout le bagage narratif de la franchise tout en conservant l’idée centrale des humains « impuissants » face à l’IA. Si ce projet se concrétise, il sera fascinant de voir ce que le réalisateur a à dire sur l’IA, maintenant que c’est un sujet dont nous parlons – et nous inquiétons – tous les jours. Le message le plus utile de « Terminator » pour les chercheurs en IA est peut-être celui de la « volonté contre le destin » : les décisions humaines déterminent les résultats. Rien n’est inévitable.
Dorian Lynskey est l’auteur de « Everything Must ».