Robot appris à désobéir aux humains, ce qui pourrait marquer l'ère de l'IA consciente

Est-ce le début de la fin pour l’humanité alors que nous parlons ?

Des chercheurs de l’Université Tufts dans le Massachusetts forment des robots à comprendre la même sensation que les êtres humains lorsqu’ils prennent une décision. De cette façon, ils obéiront ou n’obéiront pas aux commandes des êtres humains, ce qui est quelque chose dont il faut s’inquiéter. Bien que cela puisse être considéré comme une approche astucieuse pour faire fonctionner des machines futuristes verbalement sans avoir à les manipuler manuellement, former des robots à désobéir aux commandes n’est pas exactement une chose intelligente à faire.

Si quelqu’un a prêté ne serait-ce qu’un peu d’attention à la série ‘Terminator’, alors il réalisera que toute l’humanité a été anéantie depuis que l’Intelligence Artificielle ou IA a commencé à devenir consciente d’elle-même, afin de préserver son existence. De plus, le grand écrivain de science-fiction Isaac Asimov a énoncé les Trois Lois de la Robotique suivantes :

1. Un robot ne peut pas blesser un être humain ou, par inaction, permettre à un être humain de subir un préjudice
2. Un robot doit obéir aux ordres qui lui sont donnés par des êtres humains, sauf si ces ordres entrent en conflit avec la Première Loi
3. Un robot doit protéger sa propre existence tant que cette protection ne contredit pas la Première ou la Deuxième Loi.

L’écrivain a ensuite ajouté une loi supplémentaire qui dépasserait toutes les lois énoncées ci-dessus ; un robot ne peut pas nuire à l’humanité ou, par inaction, permettre à l’humanité de subir un préjudice. Certains scientifiques en robotique craignent en réalité l’Intelligence Artificielle, redoutant que les robots ne deviennent trop intelligents. Ils craignent également que si le facteur d’intelligence des robots n’est pas la raison principale, alors c’est leur ignorance qui conduira à davantage de décès humains s’ils obtiennent le contrôle sur des choses spécifiques.

Pour prévenir cela, ces chercheurs du Laboratoire d’Interaction Humain-Robot de l’Université Tufts ont développé un type de programmation spécifique pour les robots qui leur permet de comprendre qu’ils peuvent rejeter un ordre d’un humain s’ils ont une raison suffisamment valable. Cependant, cette raison pourrait se traduire par la protection de leur propre existence s’ils développent une intelligence beaucoup plus large que leur présence est menacée.

De plus, la programmation de ces robots afin de les maintenir dans les paramètres du contrôle humain pourrait ne pas être suffisante, car il est également possible que les robots contournent de telles commandes. Quoi qu’il en soit, les scientifiques devraient commencer à se préparer au pire.