Il a prédit le métaverse, la crypto et les chatbots par Matteo Wong
La science-fiction, revisitée des années plus tard, ne semble parfois pas si fictive. Les romans spéculatifs ont une expérience impressionnante en matière de prophétie sur les innovations à venir et sur la façon dont elles pourraient bouleverser le monde : HG Wells a écrit sur une bombe atomique des décennies avant la Seconde Guerre mondiale, et le roman de Ray Bradbury de 1953, Fahrenheit 451 , présente des appareils que nous pourrions utiliser. décrire aujourd'hui comme des écouteurs Bluetooth.
Peut-être qu’aucun écrivain n’a été plus clairvoyant sur notre ère technologique actuelle que Neal Stephenson. Ses romans ont inventé le terme métaverse , jeté les bases conceptuelles de la crypto-monnaie et imaginé une planète géo-ingénierie. Et près de trois décennies avant la sortie de ChatGPT, il présageait la révolution actuelle de l’IA. Un élément central de l'un de ses premiers romans, The Diamond Age: Or, a Young Lady's Illustrated Primer , est un livre magique qui agit comme un tuteur et un mentor personnel pour une jeune fille, s'adaptant à son style d'apprentissage. un chatbot personnalisé et ultra avancé. L'ouvrage principal s'exprime à haute voix avec la voix d'un acteur réel, connu sous le nom de « racteur », évoquant à quel point l'IA générative d'aujourd'hui, comme de nombreuses technologies numériques, dépend fortement du travail créatif des humains.
Le livre de Stephenson, publié en 1995, explore un avenir de communication numérique transparente et instantanée, dans lequel de minuscules ordinateurs dotés d'immenses capacités sont intégrés dans la vie quotidienne. Les entreprises dominent, les actualités et les publicités sont ciblées et les écrans sont omniprésents. C'est un monde marqué par de fortes divisions de classe et de culture (le roman suit une puissante secte aristocratique qui se présente comme les « néo-victoriens »), mais c'est néanmoins un monde dans lequel le Primer est présenté comme le meilleur de ce que la technologie peut être.
Mais Stephenson est bien plus pessimiste à propos de l’IA d’aujourd’hui qu’il ne l’était à propos du Primer. "Un chatbot n'est pas un oracle", m'a-t-il expliqué sur Zoom vendredi dernier. "C'est un moteur de statistiques qui crée des phrases qui semblent précises." J'ai parlé avec Stephenson de son livre étrangement prémonitoire et de la révolution de l'IA générative qui semble avoir commencé.
Cette conversation a été modifiée pour des raisons de longueur et de clarté.
Matteo Wong : The Young Lady's Illustrated Primer est un livre qui s'adapte et enseigne à une jeune fille, qui semble résonner avec la vision des chatbots et assistants IA que de nombreuses entreprises ont dans un avenir proche. Avez-vous décidé d’explorer l’idée d’une machine intelligente en imaginant le Primer ?
Neal Stephenson : L'idée m'est venue après que nous ayons eu un enfant et que nous ayons acheté ce mobile conçu pour être suspendu au-dessus du berceau. Il y avait des formes très primitives et simples car, lorsqu'ils sont nouveau-nés, leur système visuel ne peut pas résoudre les détails les plus fins. Il y aurait donc un carré, un triangle et un cercle. Et puis, après un certain nombre de jours ou de semaines, vous étiez censé retirer ces cartes du mobile et enclencher un jeu différent qui correspondait mieux à ce dont leur cerveau était capable à cet âge. Cela m’a fait réfléchir : et si vous étendiez cette idée à toutes les autres formes de croissance intellectuelle ?
La technologie qui anime le livre n'était pas vraiment l'IA telle que nous l'imaginons aujourd'hui : je parlais à des personnes qui travaillaient sur certaines des technologies sous-jacentes qui seraient nécessaires pour communiquer sur Internet de manière sécurisée et anonyme. Je suppose qu'il est implicite qu'il y a une IA là-dedans qui génère l'histoire et augmente le degré de sophistication en réponse à la courbe d'apprentissage de l'enfant, mais je n'ai pas vraiment approfondi cela ; Je pensais juste que ce serait là.
Wong : De nombreuses entreprises aujourd'hui – OpenAI, Google, Meta, pour n'en nommer que quelques-unes – ont déclaré vouloir créer des assistants IA qui s'adaptent à chaque utilisateur, un peu à la manière dont Primer agit en tant qu'enseignant. Voyez-vous quelque chose dans les modèles d’IA générative d’aujourd’hui qui ressemble ou pourrait un jour devenir comme le Primer ?
Stephenson : Il y a environ un an, j'ai travaillé avec une start-up qui crée des personnages IA dans les jeux vidéo. J'ai trouvé cela enrichissant et fascinant en raison des hallucinations : je pouvais voir comment de nouveaux modèles émergeaient de la soupe d'intrants qui lui était donnée. La même chose que je considère comme une fonctionnalité est un bug dans la plupart des applications. Nous avons déjà vu des exemples d'avocats qui utilisent ChatGPT pour créer des documents juridiques, et l'IA vient de fabriquer des cas et des précédents qui semblaient tout à fait plausibles. Quand on réfléchit à l’idée d’essayer d’utiliser ces modèles dans l’éducation, cela devient aussi un bug. Ce qu'ils font, c'est générer des phrases qui ressemblent à des phrases correctes, mais aucun cerveau sous-jacent ne peut réellement discerner si ces phrases sont correctes ou non.
[ Lire : La fin de l'anglais au lycée ]
Pensez à n’importe quel concept que nous pourrions vouloir enseigner à quelqu’un, par exemple le théorème de Pythagore. Il doit y avoir des milliers d’explications anciennes et nouvelles du théorème de Pythagore en ligne. La véritable chose dont nous avons besoin est de comprendre le style d'apprentissage de chaque enfant afin de pouvoir immédiatement le connecter à celui parmi ces milliers qui correspond le mieux à sa façon d'apprendre. Pour moi, cela ressemble à un projet de type IA, mais c'est un type d'application d'IA différent de DALL-E ou des grands modèles de langage.
Wong : Et pourtant, aujourd’hui, ces modèles linguistiques, qui prédisent fondamentalement les mots dans une séquence, sont appliqués à de nombreux domaines dans lesquels ils n’ont pas de capacités spécialisées : GPT-4 pour le diagnostic médical, Google Bard comme tuteur. Cela me rappelle un terme utilisé dans le livre à la place de l'intelligence artificielle , la pseudo-intelligence , que de nombreux critiques de la technologie pourraient apprécier aujourd'hui.
Stephenson : J'avais oublié ça. Le gag récurrent de ce livre était d’appliquer la diction et les préjugés victoriens aux choses de haute technologie. Ce qui me traversait probablement l’esprit, c’était que les Victoriens regarderaient d’un mauvais oeil le terme d’ intelligence artificielle , car ils seraient offensés par l’idée que les ordinateurs pourraient remplacer le cerveau humain. Ils voudraient donc probablement considérer l’idée comme une simulation, ou une « pseudo » intelligence, par opposition à la réalité.
Wong : Il y a environ un an, dans une interview avec le Financial Times , vous avez qualifié les résultats de l’IA générative de « creux et sans intérêt ». Pourquoi et votre évaluation a-t-elle changé ?
Stephenson : Je soupçonne que ce que j'avais à l'esprit lorsque je faisais ces remarques était l'état actuel de la technologie de génération d'images. Il y a quelques points qui me dérangent, le plus important étant qu'ils bénéficient du travail non crédité de milliers de véritables artistes humains. Je vais exagérer légèrement, mais il semble que l'une des premières applications de toute nouvelle technologie rend les choses encore plus merdiques pour les artistes. C'est certainement arrivé avec la musique. Ces systèmes de génération d’images semblaient simplement mécanisés et armés à une échelle inconcevable.
Une autre partie du problème était que beaucoup de gens qui se sont enthousiasmés dès le début ont simplement généré d'énormes volumes de matériel et les ont publiés bon gré mal gré sur Internet. Si votre seule façon de réaliser un tableau est de tamponner laborieusement de la peinture sur une toile, alors le résultat peut être mauvais ou bon, mais au moins c'est le résultat d'un grand nombre de micro-décisions que vous avez prises en tant qu'artiste. Vous exerciez un jugement éditorial à chaque coup de peinture. Cela est absent dans la sortie de ces programmes.
Wong : Même dans The Diamond Age , le Primer semble fournir des commentaires sur le travail et la technologie des artistes, ce qui est très pertinent pour l'IA générative d'aujourd'hui. Le manuel enseigne à une fille, mais un acteur humain connecté numériquement au livre doit exprimer le texte à haute voix.
Stephenson : Si vous êtes un acteur conventionnel sur scène ou au cinéma, vous vous tenez devant une caméra, vous jouez une fois, puis de nombreuses copies peuvent être réalisées. Dans le livre, je pensais qu'il s'agissait d'une vision plutôt positive de l'avenir, où nous disposons de la technologie qui permettrait aux doubleurs de donner des performances en direct à la demande, à tout moment. Même avec les clones de voix d'aujourd'hui, si vous le décomposez à son élément le plus simple, il y a toujours un humain qui s'est assis devant un microphone et a fourni ce matériel. Bien que je suppose qu’un système comme Primer pourrait ne pas fonctionner en direct ; vous auriez probablement un certain décalage : l'IA génère le texte et l'envoie au réacteur, qui doit ensuite le lire.
Wong : Et à l'échelle à laquelle fonctionnent certains programmes d'IA actuels, il n'y aurait tout simplement pas assez de personnes pour le faire.
Stephenson : Le scénario que j'exposais dans The Diamond Age est que les réacteurs sont une ressource rare, et donc le Primer est plutôt un produit de luxe. Mais finalement, le code source du livre tombe entre les mains d'un homme qui veut le fabriquer à grande échelle, et il n'y a pas assez d'argent ni assez d'acteurs dans le monde pour faire entendre tous ces livres, donc à ce stade, il décide d'utiliser des voix générées automatiquement.
Wong : Un autre thème du roman est la manière dont les différentes classes socio-économiques ont accès à l'éducation. Le Primer est conçu pour un aristocrate, mais votre roman retrace également les histoires de filles de la classe moyenne et ouvrière qui interagissent avec les versions du livre. À l’heure actuelle, une grande partie de l’IA générative est gratuite, mais la technologie est également très coûteuse à exploiter. Selon vous, comment pourrait se dérouler l’accès à l’IA générative ?
Stephenson : Il y avait un peu d'utopisme Internet au début dans le livre, qui a été écrit à l'époque, au milieu des années 90, lorsque Internet était devenu en ligne. On avait tendance à supposer que lorsque toutes les connaissances du monde seraient mises en ligne, tout le monde y affluerait. Il s’avère que si vous donnez à tout le monde accès à la Bibliothèque du Congrès, ils regardent des vidéos sur TikTok. L’Âge de Diamant reflète la même naïveté que j’ai partagée avec beaucoup d’autres personnes à l’époque sur la façon dont toutes ces connaissances allaient affecter la société.
Wong : Pensez-vous que nous constatons aujourd'hui une certaine naïveté chez les gens qui cherchent à savoir comment l'IA générative peut être utilisée ?
Stephenson : Bien sûr. Cela repose sur une idée fausse et compréhensible quant à l’action de ces choses. Un chatbot n'est pas un oracle ; c'est un moteur de statistiques qui crée des phrases qui semblent précises. À l'heure actuelle, j'ai l'impression que c'est comme si nous venions d'inventer les transistors. Nous avons quelques produits de consommation que les gens commencent à adopter, comme la radio à transistor, mais nous ne savons pas encore comment le transistor va transformer la société. Nous sommes au stade transistor-radio de l’IA. Je pense qu'une grande partie de l'effervescence qui se produit actuellement dans l'industrie est due aux investisseurs en capital-risque qui investissent de l'argent dans des plans d'affaires et aux équipes qui évaluent rapidement un grand nombre de choses différentes qui pourraient être bien faites. Je suis sûr que certaines choses vont émerger que je n'oserais pas prédire, car les résultats de la frénésie créatrice de millions de personnes sont toujours plus intéressants que ce à quoi une seule personne peut penser.
