Il y a quelques jours, j’ai fait relire un texte à Claude.
Rien de spectaculaire. Je lui ai demandé de faire ce que ferait un relecteur : repérer les petites erreurs, les formulations maladroites, les problèmes de ponctuation.
En deux secondes, il m’a répondu quelque chose comme :
Virgules à la place d’un point : lignes 146, 267. Tic récurrent dans le texte, à relire d’un œil.
Simple et efficace.
Ça m’a rappelé une nouvelle d’Isaac Asimov.
Le Correcteur
La nouvelle s’appelle Le Correcteur (Galley Slave en anglais). Elle date de 1957 et le seul robot dedans s’appelle Easy (Asimov avait un don pour les noms de robots : EZ -> Easy, DV -> Dave, SPD -> Speedy, QT -> Cutie, NDR -> Andrew…).
Easy est un robot correcteur. Il ne fait pas grand-chose d'autre : il relit et corrige des textes.
Le titre original, Galley Slave, est d'ailleurs plus clair que la traduction française. Les galleys sont les épreuves d’imprimerie, l’étape où l’auteur voit ses phrases prendre leur forme finale et les retravaille une dernière fois. C’est ce travail qu’Easy prend en charge.
Au début de la nouvelle, il doit faire une démonstration de ses capacités. On lui donne un livre qu’il feuillette et, en quelques minutes, il donne son analyse.
La virgule, ligne 6 de la page 32, est superflue, alors qu’elle eût été nécessaire à la ligne 13 de la page 54.
On ne se demande pas pourquoi j’ai fait le rapprochement :)
Déjà , c’est impressionnant qu’Asimov ait imaginé un robot capable de corriger un texte en 1957. Pour rappel, The Mother of All Demos, qui montre notamment la première souris, date de 1968, et le premier traitement de texte de 1976.
Mais ce qui m’intéresse surtout, c’est qu’Easy n’est pas présenté comme un robot capable de tout faire. Il est juste correcteur et c'est intentionnel de la part de ses fabricants. Dans l’œuvre d’Asimov, les Terriens sont très hostiles aux robots (ne croyez pas le film I, Robot, il ne respecte pas du tout l’esprit d’Asimov), donc U.S. Robots cherche des solutions pour vendre ses machines malgré cette hostilité.
Easy est donc une machine spécialisée, cachée dans une université, qui fait un travail suffisamment précis et rentable pour qu'on puisse l'accepter.
En 1957, c’est de la science-fiction.
Aujourd’hui, si je demande à une IA de relire un article, personne ne trouve ça particulièrement extraordinaire.
Le robot d’Asimov est devenu banal. Il a simplement perdu son corps métallique et son nom de robot.
Ninheimer vs Easy
Le Correcteur raconte surtout un procès.
Easy est accusé d’avoir saboté le manuscrit d’un professeur, Simon Ninheimer. La machine aurait introduit des erreurs dans son travail, au point de mettre sa réputation en danger.
Finalement, on découvre que Ninheimer a saboté lui-même son livre pour faire accuser la machine et discréditer la robotique.
Le robot est donc innocent. Mais le discours final de Ninheimer est toujours intéressant soixante-dix ans plus tard :
Un livre doit prendre forme entre les mains de l’écrivain [...] Il doit travailler et retravailler, voir l’oeuvre se modifier au-delà du concept original.
Il décrit comme le cœur de son métier le fait de voir les phrases prendre forme et de les remodeler. C’est précisément le travail qu’Easy accomplit à sa place.
Puis il demande :
Que restera-t-il à l’érudit ? Une seule chose : le choix des décisions stériles concernant les ordres à donner au robot pour la suite du travail !
Ce n’est pas encore ce qui se passe dans la nouvelle, puisque c’est Ninheimer qui a demandé les modifications à Easy. Mais il imagine déjà le problème : si une machine fait tout le travail, que reste-t-il à l’auteur ? Essentiellement, lui donner des instructions.
C'est qu’on appelle, depuis quelques années, prompter.
Ninheimer se trompe de méthode mais Asimov ne lui donne pas tort.
D'ailleurs, Asimov a eu l’idée de la nouvelle alors qu’il refusait justement de confier ses propres épreuves à quelqu’un d’autre. Au téléphone avec son éditeur, pressé d’écrire une histoire, il explique qu’il est trop occupé à corriger les épreuves d’un manuel qu’il co-écrit. Quand on lui suggère de déléguer, la réponse est sans appel : « Impossible ! Je ne ferais confiance à personne d’autre ! » C’est en retournant à ses propres épreuves qu’il imagine un robot pour faire le travail à sa place. (source)
C’est probablement pour ça que Ninheimer est plus intéressant qu’il n’en a l’air.
Il est coupable, mais son argument ne l’est pas forcément. Comme dans Les Indestructibles 2 où Evelyn (la méchante) voit dans la protection qu’apportent les Supers une cause de faiblesse pour les humains : ce n’est pas parce que sa méthode est mauvaise qu’une personne a forcément tort.
Susan Calvin, qui défend le robot, répond à Ninheimer qu’il était condamné à échouer. Ce dernier lui répond qu’il était condamné à essayer. On sent déjà l’inéluctabilité de l'adoption.
Easy est encore un correcteur, simple et caché, qu’on ne voit pas comme dangereux. C’est peut-être à cause de cette banalité que j’avais mélangé cette nouvelle avec Pour que tu t’y intéresses.
Les Georges 😋
Donc dans ma tête, cette histoire était liée à une autre nouvelle d’Asimov : Pour que tu t’y intéresses (…That Thou Art Mindful of Him en anglais), publiée en 1974. Je me souvenais notamment d’un robot chargé de chasser les insectes.
Dans cette histoire, les Terriens ont toujours peur des robots et cela gêne les ventes de U.S. Robots. Ils créent donc deux robots particulièrement avancés, George Neuf et George Dix (moi je dis qu’Asimov est un visionnaire car les Georges sont toujours particulièrement avancés), qui cherchent une solution.
Leur idée est assez simple : arrêter de fabriquer des robots qui ressemblent à des humains et fabriquer à la place des machines spécialisées, mono-tâches.
Il y a donc ce robot-oiseau destiné à lutter contre les insectes. Il ne fait que ça, ne vise qu’une sorte d’insecte et s’arrête quand il n’y en a plus. C’est plus un outil qu’un robot.
Il ne parle pas, ne veut rien, ne semble pas intelligent.
Et c’est justement ce qui doit permettre aux humains de l’accepter.
C’est un peu comme ça que l’IA entre dans nos vies : une IA pour le code, une autre pour le sport, les courses, répondre au téléphone…
Des outils spécialisés plutôt qu'une intelligence artificielle générale.
Vilains Georges
Mais les Georges ne cherchent pas seulement à rendre les robots acceptables. Ils cherchent aussi à résoudre un problème logique posé par les Trois Lois de la Robotique.
- Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
- Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
- Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.
Que doit faire un robot lorsque deux êtres humains sont en conflit ou que deux humains donnent des ordres contradictoires ?
Les robots doivent protéger et obéir aux humains, mais lesquels ?
Les Georges poussent le raisonnement jusqu’à redéfinir l’humain. Puisqu’on ne peut pas dire qui est plus humain par son apparence, ils vont chercher ailleurs : dans les capacités. Et comme les robots sont intellectuellement supérieurs aux humains biologiques, pourquoi faudrait-il considérer les deux groupes comme équivalents ?
Ils finissent par distinguer les « êtres-humains-comme-eux » des « êtres-humains-comme-les-autres ». Et donc par devenir prioritaires dans les lois de la robotique.
Les Georges ne violent pas les Trois Lois, ils les réinterprètent. Et c’est là que ça devient beaucoup moins drôle. Comme Easy, ils ne sont pas méchants. Mais eux savent ce qu’ils font et où leur raisonnement peut mener.
Ils nous aident énormément tout en devenant dangereux pour nous : un pharmakon, un remède qui est aussi un poison.
C’est dans ces nouvelles que la nature des robots devient vraiment inquiétante, une idée qu’Asimov développera ensuite dans Les Robots et l’Empire.
Conclusion
Les deux nouvelles me paraissent nettement plus sombres que le reste des histoires de robots d’Asimov, en tout cas dans ma mémoire.
En général, les Trois Lois protègent l’humanité, parfois malgré elle, jusqu’à des extrêmes avec R. Giskard Reventlov et R. Daneel Olivaw.
Easy, lui, ne protège personne. Il corrige des virgules. Et c’est peut-être ça qui me plaît dans cette nouvelle. En 1957, Asimov imagine déjà une machine capable de faire un travail intellectuel très précis, suffisamment bien pour que l’humain puisse finir par lui faire confiance et il en a prédit les conséquences.
Aujourd’hui, je demande la même chose à une IA.
Post-scriptum
Le brouillon de cet article a d'ailleurs été rédigé par l’assistant IA qui a aussi corrigé mes virgules. Quelque part, Ninheimer me regarde en soupirant. Qu’il se rassure : j’ai modifié presque chaque phrase.
