L'intelligence artificielle (IA) est une menace existentielle pour la race humaine, selon une recherche de l'Université d'Oxford

Les machines pour anéantir les humains dans le futur comme le décrivent les films Terminator

La fiction est une imagination d’un esprit fertile, mais il semble que la fiction puisse un jour devenir réalité. Dans la série de films Terminator avec Arnold Schwarzenegger, il était dépeint que les machines ou l’intelligence artificielle (IA) anéantiraient la race humaine dans un avenir imprévisible. Eh bien, les chercheurs d’Oxford croient que cela pourrait effectivement se produire.

Une équipe de chercheurs de l’Université d’Oxford a dressé une liste de raisons qui, selon eux, constituent une menace existentielle pour l’ensemble de la « race humaine » et estiment que les IA possèdent un potentiel maximum pour détruire la race humaine.

Un rapport récent publié par les chercheurs de l’Université d’Oxford a mis en évidence 12 risques majeurs qui menacent de mettre fin à la civilisation humaine.

Ces raisons pourraient être regroupées dans les 4 catégories suivantes :

• a) Risques actuels qui incluraient les conditions climatiques extrêmes et incertaines, la guerre nucléaire, la situation écologique catastrophique et la pandémie mondiale et l’effondrement des systèmes en raison de maladies désastreuses ;
• b) Risques extérieurs (exogènes) comme les supervolcans et les impacts d’astéroïdes ;
• c) Risques émergents (créés par l’homme) incluent la biologie synthétique, la nanotechnologie, l’intelligence artificielle et d’autres encore à annoncer, c’est-à-dire des risques incertains ;
• d) Risque de politique mondiale qui signifierait une mauvaise gouvernance mondiale dans l’ensemble.

Les auteurs Dennis Pamlin et Dr Stuart Armstrong ont clairement mentionné ces risques et ont également proposé 10 solutions possibles pour atténuer l’effet de ces risques.

Bien que les 12 risques soient des menaces infinies pour la race humaine, la catégorie des risques émergents est dangereuse. L’« intelligence artificielle » (IA) semble posséder un énorme potentiel pour œuvrer délibérément à l’extinction de la race humaine. Bien que la biologie synthétique et la nanotechnologie, avec l’IA, pourraient être une réponse à de nombreux problèmes existants, si elles sont utilisées de manière incorrecte, elles pourraient probablement être le pire outil contre l’humanité.

Le terme « intelligence artificielle » (IA) a été inventé par John McCarthy en 1955, ce qui signifie créer un « logiciel » ou une machine « super intelligente », qui est une combinaison de science et d’ingénierie de telle manière qu’une machine agirait et penserait comme un humain ou même au-delà.

Elon Musk, qui est PDG de Tesla Motors et SpaceX et co-fondateur de PayPal, a maintes fois averti contre les menaces de l’IA. Musk considère l’IA comme la « plus grande menace existentielle pour l’humanité ». Dans son récent discours adressé aux étudiants du Massachusetts Institute of Technology (MIT), Musk a comparé les IA à des « démons ». Il croit fermement que si ces « ordinateurs super intelligents » commencent à travailler par eux-mêmes, ils pourraient émerger en démons incontrôlables.

Dans son récent discours aux étudiants du MIT, il a noté :

« Je pense que nous devrions être très prudents à propos de l’intelligence artificielle. Si je devais deviner quelle est notre plus grande menace existentielle, c’est probablement cela. Donc, nous devons être très prudents. Je suis de plus en plus enclin à penser qu’il devrait y avoir une certaine supervision réglementaire, peut-être au niveau national et international, juste pour s’assurer que nous ne faisons pas quelque chose de très insensé. »

Musk, avec Mark Zuckerberg de Facebook et l’acteur hollywoodien Ashton Kutcher, a investi dans Vicarious, une entreprise qui vise à construire un ordinateur intelligent qui pensera comme un humain ! Musk dit qu’il a investi dans cette entreprise uniquement pour s’assurer que le produit final créé sera un « bon ordinateur super intelligent » et non un « monstre désastreux ».

Ainsi, en plus de Musk et des chercheurs de l’Université d’Oxford, Stephen Hawking (qui a déjà fabriqué un « synthétiseur vocal » utilisant l’IA comme base et est un physicien renommé) estime que les IA ont le potentiel d’évoluer en agents menaçants vitaux pour la race humaine.

À l’heure actuelle, Eric Horvitz, un informaticien, avec Russ Altman, professeur de bio-ingénierie et d’informatique à Stanford, ont proposé l’idée de former un comité nommé « AI100 » et l’objectif de ce comité est de garder un œil attentif sur les différents développements de l’IA et aussi sur son résultat global sur la race humaine.

L’intelligence humaine peut certainement créer des « machines super intelligentes », mais pouvons-nous contrôler la « pensée » de ces IA ? Le temps nous le fera savoir, si nous existons ou si nous sommes terminés !