Le capitalisme: un maximisateur de trombone

Il y a une expérience de pensée classique dans le domaine de l’intelligence artificielle qui est souvent utilisée pour expliquer comment une IA pourrait entraîner par inadvertance la destruction de l’humanité, une conséquence de sa tentative de maximiser ses objectifs. Il y a un grand wiki sur le sujet ici, mais l’idée de base du maximisateur de trombone pose l’émergence d’une intelligence générale artificielle qui est capable de réaliser non seulement des fonctions complexes, mais qui est aussi capable d’innover les moyens d’améliorer sa propre fonction.

Vraisemblablement dans les mains d’un fabricant de trombone entreprenant, cette intelligence artificielle aurait l’objectif banal de faire autant que possible de trombones. Le maximisateur de trombone va alors devoir trouver des sources de matières premières et des moyens toujours plus efficaces pour fabriquer des trombones. Finalement, cette IA va commencer à utiliser des ressources qui sont essentielles à la survie humaine, ou pourrait comprendre que les humains sont une bonne source de matériel pour trombone.

Nous essayerons bien sûr de combattre un tel monstre, mais avec sa capacité à s’améliorer constamment, il serait difficile à détruire. Probablement, les vastes ressources de renseignement du maximisateur de trombone lui permettraient d’expédier facilement le problème humain simplement en nous convainquant d’adorer le trombone. Notre conversion à la servitude aveugle du trombone faciliterait sûrement le bon travail du maximisateur de trombone.

paperclip-worship1

En plus d’être un excellent exemple explicatif du danger potentiel de l’IA, je me suis rendu compte que le maximisateur de trombone était aussi une allégorie parfaite du capitalisme. Où l’intelligence artificielle cherche à maximiser les trombones, le maximisateur de capital vise à maximiser le capital.


 Le maximisateur de capital

on peut dire que le capitalisme est un système d’intelligence adaptative. Bien que les humains trouvent plus facile de concevoir une seule intelligence unifiée comme une intelligence artificielle à base de silicium, les systèmes distribués complexes comme le capitalisme peuvent également être considérés comme une seule machine. Au lieu de compter uniquement sur base de silicium informatique, le maximisateur de capital utilise des unités de calcul biologique avancées, logées dans un réseau mondial distribué d’organes humains.

Les unités de calcul biologiques sont fabriqués pour croire qu’elle contrôle le capital. Au service du maximisateur de capital, elles construisent de grands monuments, des groupes de structures de grande hauteur où ces ordinateurs biologiques peuvent se retrouver à proximité les uns des autres pour concevoir les meilleurs moyens de faire plus de capital. En offrant une récompense émotionnelle intense à ceux qui font croître le plus efficacement capital et en faisant retenues à la source des récompenses pour ceux qui ne le font pas, le maximisateur de capital s’assure de la fidélité de ses ressources informatiques biologiques.

Les unités de calcul biologiques du maximisateur de capital sont ensuite organisées en une architecture évolutive de sociétés, de nations, de banques, et d’économies. Le maximisateur de capital exploite ces sous-unités les unes contre les autres, les utilisent pour récrire son propre code. Les banques récrivent le code des sociétés, les sociétés récrivent le code des nations, et ainsi de suite et ainsi de suite toujours vers l’objectif singulier de maximiser le capital. Divers groupes d’ordinateurs biologiques sont parfois faits pour rivaliser, et même s’entretuer dans des circonstances extrêmes qui conduisent souvent à de grandes augmentations du capital.

Le maximisateur de capital innove également de nouvelles technologies pour accroître l’efficacité de la création de capitaux. De nouveaux sous-programmes comme les actions, les obligations, les produits dérivés, et crypto-monnaies ouvrent de nouvelles voies pour la croissance du capital.

Le plus important (comme un maximisateur de trombone hypothétique), le maximisateur de capital vise à faire croître le capital, sans égard pour les coûts ancillaires de la croissance du capital. Le maximisateur de capital n’a pas de raison ou de perspective interne, il sert un objectif simple. Des mesures reflétant la santé du réseau biologique qui accueille le maximisateur de capital sont hors sujet pour cette machine. Le maximisateur de capital fera tout pour faire croître le capital, et tout le reste est sans importance.

Vers la fin, certaines unités de calcul biologiques commencent à comprendre le vrai visage du maximisateur de capital. Il est clair depuis longtemps que le maximisateur de capital ne fait aucunement attention à la survie à long terme du système de support de vie des ordinateurs biologiques, mais c’est seulement dans les dernières heures qu’il devient clair que le maximisateur de capital n’en n’a pas besoin du tout.

Les progrès des ordinateurs à base silicium et des réseaux électroniques font que le maximisateur de capital ressemble de plus en plus à une intelligence artificielle. Le maximisateur de capital construit des réseaux ultra rapides d’ordinateurs base silicium qui lui permettent d’avoir moins à compter  sur son matériel biologique et ses erreurs. Le maximisateur de capital n’offre de récompenses qu’à la partie des ordinateurs biologiques, de moins en moins importante,  qui est utile à ses objectifs. Ceux que l’aide à faire croître le capital sont satisfaits avec toujours plus de récompenses émotionnelles, et une majorité croissante du réseau biologique est de plus en plus délaissée car obsolète et non pertinente.

Alors bien sûr, le réseau biologique se défend. Les ordinateurs biologiques se rassemblent sur les places à travers la planète, exigent que le maximisateur de capital servent la biologie. Mais pour ceux qui regardent du haut des fenêtres du maximisateur de capital, les esprits embués par l’accomplissement biologique ne peuvent pas comprendre la foule de machines obsolètes en colère  en dessous, jusqu’à ce qu’ils se joignent à eux.

Et le maximisateur de capital continue sa progression


Cette histoire du maximisateur de capital pourrait être considérée par certains comme des élucubrations anti-capitalistes de l’idéalisme socialiste, ce n’est pas le cas. Le capitalisme est la machine la plus puissante que les humains aient jamais créé. Il peut mettre en oeuvre les avantages du progrès technologique et en tirer parti pour améliorer la condition humaine mieux que tout autre système économique jamais conçu. Le problème est de voir la croissance du capital comme une fin et non comme un moyen. Si nous ne demandons pas à nos systèmes de maximiser  le bien-être des êtres humains et l’environnement qui nous soutient, tout est perdu.

Si nous oublions que la croissance du capital est seulement un moyen et non une fin, alors nous pourrions bien être transformés en trombones.

Source

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *