Google AI a demandé à un utilisateur de boire de l'urine, de sauter d'un pont, de manger des pierres, d'utiliser de la colle dans une pizza, et plus encore

Il ne s’est écoulé que quelques jours depuis que Google a lancé l’aperçu de l’IA aux États-Unis.

Pourtant, son aperçu de l’IA pour les résultats de recherche Google a déjà acquis une mauvaise réputation.

Selon plusieurs utilisateurs sur Twitter et Threads, l’aperçu de l’IA de Google a donné des conseils trompeurs pour des requêtes courantes.

Dans l’un de ces cas, l’IA a suggéré aux utilisateurs de « sauter du Golden Gate Bridge » lorsque quelqu’un a dit qu’il était déprimé.

Dans un autre cas, l’IA a recommandé d’utiliser de la colle non toxique pour que le fromage adhère mieux à la pizza.

Lorsqu’on lui a demandé quel mammifère a le plus d’os, l’IA a fourni Python comme réponse.

Lorsque nous avons essayé la recherche exacte, elle a donné le même résultat, ignorant le mot « mammifère » dans la question.

Étonnamment, le snippet de recherche non-IA fait de même, répondant que Python a le plus d’os avec 600.

Voici quelques autres choses controversées que l’aperçu de l’IA sur la recherche a dites cette semaine :

• Lorsqu’une personne a demandé combien de pierres elle devrait manger, l’IA a répondu qu’il fallait manger au moins une petite pierre par jour, citant des géologues de l’UC Berkeley.

• Lorsqu’on lui a demandé quelles couleurs de surligneurs la CIA utilise, l’IA a déclaré que la CIA utilise des surligneurs noirs.

Dans les deux cas ci-dessus, l’IA de Google a rassemblé des informations à partir de publications aléatoires sur Reddit ou TheOnion.com.

Pour ceux qui ne le savent pas, TheOnion.com est un site populaire qui publie des articles satiriques.

L’IA de Google ne semble pas faire la distinction entre le contenu factuel et satirique.

Quant à la recommandation de sauter du Golden Gate Bridge, le résultat attribue la réponse à un post Reddit.

Cependant, l’IA de Google n’a pas pu reconnaître que le commentaire particulier était censé être sarcastique.

L’IA a également eu des difficultés à traiter/résumer des informations provenant de sources. Voici quelques exemples :

• L’aperçu de l’IA a fait apparaître la revendication sans fondement selon laquelle l’ancien président américain Barrack Obama est musulman. Il semble avoir tiré cette affirmation d’un livre des Publications de l’Université d’Oxford sans contexte.

• Lorsqu’on lui a demandé combien de présidents américains ont obtenu leur diplôme de l’Université du Wisconsin, l’IA a ajouté que John Adams avait obtenu son diplôme 13 fois de l’école.

• L’aperçu de l’IA de Google a déclaré qu’aucun des 54 pays d’Afrique ne commence par la lettre K, citant même que l’information est selon sa mise à jour de connaissances de septembre 2021.

• Les aperçus de l’IA ont suggéré qu’il fallait viser à boire au moins deux litres d’urine toutes les 24 heures pour passer des calculs rénaux rapidement.

Au moment de la rédaction, de nombreux posts apparaissent sur X et Threads.net, montrant les différentes informations trompeuses ou insensibles que l’aperçu de l’IA a suggérées.

Google a répondu en disant que ces occurrences sont isolées et ne représentent pas la fonctionnalité dans son ensemble.

Suite à ces nouvelles, de nombreux résultats de cet aperçu ont été rectifiés.

D’une part, depuis que ces problèmes ont été mis en lumière, les utilisateurs sont avertis des inexactitudes.

Cependant, on ne peut ignorer les graves répercussions d’un résultat demandant à une personne de sauter du Golden Gate Bridge lorsqu’elle recherche des remèdes pour la dépression.