Cyber-attaque ou Quand la boucle ne la boucle pas…
La cyberattaque de ces derniers jours a fait pisser de la copie. Où il est question de Windows, de la NSA, et de tout ce qu’on ne nous dit pas, terreau idéal pour que fleurissent quelques nouvelles théories complotistes.
Extraits du chapitre 4, Autonomie, du livre de Jean-Gabriel Ganascia, Le mythe de la Singularité. Faut-il craindre l’intelligence artificielle ? , paru en février 2017
:
Machines autoreproductives
Il était une fois un courriel assez banal diffusé à toute une liste de destinataires dont je faisais partie. Tôt après avoir reçu, me parvint la réponse automatique d’un de mes corécipiendaires : absent de son bureau, il avait programmé un renvoi automatique à l’envoyeur avec copie à tous ces colistiers. Puis arrivèrent une seconde et troisième réponse automatique de deux autres destinataires qui avaient procédé identiquement. Ces trois réponses ayant été envoyées à tout le monde, les messages des absents furent renvoyés à leur tour sur les boîtes des autres absents, qui par rebond automatique les renvoyèrent de nouveau et ainsi de suite. Rapidement, nous fûmes submergés de messages puisque, à chaque itération, le nombre de renvois doublait. À cela s’adjoignirent les usagers mécontents qui adressèrent à l’émetteur des demandes comminatoires de désabonnement, demandes qui, elle-même, se répercutèrent dans le cycle des rebonds multiples… L’expéditeur initial nous pria alors instamment de ne pas répondre pour ne pas en rajouter, ce qui en rajouta illico, grossissant plus encore nos boîtes aux lettres déjà pleines de messages inutiles. Cela ressemblait au déclenchement d’une avalanche, lorsqu’une boule de neige grossit, grossit, grossit jusqu’à rompre l’équilibre d’une plaque qui se détachant provoque un glissement qui lui-même fait céder les congères qui à leur tour se rompent et ainsi de suite. Sauf l’intervention autoritaire d’ingénieurs ayant la main sur le système d’exploitation et les protocoles de transmission, rien n’aurait pu arrêter la multiplication des petits messages, car à la différence d’une avalanche de montagne où la quantité de neige apparaît finie, le nombre potentiel d’envois de courriels est illimité…
Cela s’apparente à l’« effet domino », ou réactions en chaîne ou aux risques systémiques ont que de petites causes répercutent des échos qui eux-mêmes entrent en résonance jusqu’à produire des résultats retentissants. Dans le monde physique, les lois thermodynamiques de conservation de l’énergie limitent ces phénomènes. Dans le monde virtuel, cette autoamplification semble possible ; du moins rien ne vient la freiner, sauf les limites des capacités des machines lorsqu’elles saturent.
En général, on craint ces enchaînements en cascade. La seule prolifération de messages plus ou moins identiques n’apporte rien d’autres que gêne et désagréments. Les ingénieurs fabricants de maliciels en tirent avantage lorsqu’ils conçoivent des algorithmes autoreproductifs destinés uniquement à infester les machines et à se propager, tels les virus ou les vers. L’apport n’en est que négatif ; rien d’autre n’en sort que le mal.
Pourtant, si au lieu de se contenter de propager l’information inutile en la recopiant, les machines dupliquaient leur programme puis en amélioraient les différentes versions en observant leurs comportements et en en tirant des conséquences bénéfiques, elle parviendrait peut-être d’un temps suffisant à réaliser des prouesses. C’est sur ce principe que reposent les théories de l’amorçage de l’autoapprentissage en intelligence artificielle […]. Jusqu’à présent et après plus d’un demi-siècle, on a obtenu très peu de résultats tangibles dans cette voie de recherche. Cela étant, si l’on exigeait pas de contrepartie empirique pour valider ces théories cela ressemblerait à s’y méprendre au fameux épisode des aventures du baron de Münchhausen lorsque, sautant dans une mare et s’y trouvant embourber jusqu’au cou, il s’enlève lui et son cheval, qu’il tient serrer fortement entre ses genoux, en tirant ses cheveux par la force de son propre bras… (pp. 43-44).
Et pourquoi les machines se contentent-elle de propager l’information inutile au lieu de participer à l’amélioration des boucles, en évitant les tautologies ? La réponse à cette question, si tant est qu’elle soit possible, serait des plus intéressantes. Mais on peut émettre l’hypothèse que, entre autres, Bill Gates aurait moins de dollars à mettre au service de la malaria pour se penser humaniste.
Refus de la dimension tragique de l’humanité. Plus le monde (se) dramatise et plus le nombre des comiques augmente : disparition de l’humour. Aimé Shaman