Les ingénieurs incapables de comprendre le fonctionnement de l'IA de recherche de Google

Bon sang, même les ingénieurs de Google ne comprennent pas le nouveau système d’IA RankBrain utilisé dans la recherche

On dirait que l’IA RankBrain de Google est un Skynet en devenir, car même les ingénieurs qui y travaillent sont incapables de la comprendre. Selon Paul Haahr, l’un des meilleurs ingénieurs de l’entreprise travaillant dans l’équipe de recherche de Google, le nouveau moteur d’IA RankBrain de Google est en réalité plus complexe que ce que l’on pensait auparavant, et même certains employés de Google n’ont aucune idée de son fonctionnement exact.

Cette déclaration a été faite par Haahr lors de SMX West, une conférence sur le marketing de recherche qui s’est tenue à San Jose, Californie, entre le 1er et le 3 mars.

Google comprend comment RankBrain fonctionne mais pas vraiment ce qu’il fait. @haahr #SMX — Jonah Stein (@Jonahstein) 3 mars 2016

Haahr répondait à des questions sur les produits de recherche de Google en général lors du discours d’ouverture de l’événement, lorsque quelqu’un lui a demandé à propos de la dernière addition de l’entreprise, l’IA RankBrain.

La réponse de l’ingénieur, comme l’a confirmé Barry Schwartz, reporter de SERoundtable, et de nombreux autres participants à la conférence sur Twitter, était que beaucoup des propres ingénieurs de Google ne comprennent pas tout à fait comment fonctionne le nouvel algorithme RankBrain.

Google a commencé à travailler sur RankBrain, un système d’intelligence artificielle, au cours des dernières années sous la supervision du meilleur ingénieur John Giannandrea, un expert en IA.

Google ne comprend pas tout à fait ce que RankBrain fait, dit @haahr #smx — AJ Kohn (@ajkohn) 3 mars 2016

Bien que le système ait été annoncé en octobre 2015, Google a déclaré que RankBrain était en fait opérationnel des mois auparavant, mais qu’ils n’en avaient informé personne.

Comme l’a expliqué Google, RankBrain est le troisième indicateur le plus important de l’entreprise, parmi des centaines d’autres, lorsqu’il s’agit de classer les résultats de recherche qui apparaissent sur votre écran.

RankBrain fonctionne sur la base d’un système d’intelligence artificielle que Google réoriente périodiquement, et il est dit avoir un soi-disant « instinct » lorsqu’il s’agit de sélectionner les bonnes réponses à vos requêtes de recherche.

En réalité, cet « instinct » est ce que la plupart des ingénieurs sont incapables de comprendre. RankBrain a été spécialement créé pour trier les questions délicates, a expliqué un ingénieur de Google dans une interview télévisée avec Bloomberg. Cependant, plus tard, il est devenu si bon qu’il a commencé à être de plus en plus un outil précieux pour déterminer le classement final des résultats de recherche d’une requête.

Le succès de RankBrain a été encore plus visible lorsque Giannandrea a été nommé responsable de la recherche Google le mois dernier, après qu’Amit Singhal, l’ancien responsable de la division recherche de Google pendant les quinze dernières années, a annoncé sa retraite.

Considérant les sommets que la recherche Google a atteints aujourd’hui grâce aux efforts de Singhal, confier les commandes à un spécialiste de l’IA confirme la direction et la confiance que Google accorde à RankBrain, un système que certains de ses ingénieurs reconnaissent ouvertement ne pas comprendre comment il fonctionne.

Étant donné que l’IA est encore dans ses phases de développement, cela fait peur car elle ne couvre que des services Web peu importants, et non des opérations à l’échelle nationale comme le tristement célèbre Skynet dans les films « Terminator ». Comme Stephen Hawking l’avait souligné il y a quelques années, si ce petit « assistant de recherche » est difficile à comprendre, alors l’IA est véritablement la plus grande menace pour l’humanité.