Google AI предложил пользователю пить мочу, прыгнуть с моста, есть камни, использовать клей в пицце и многое другое

Всего несколько дней прошло с момента запуска Google AI Overview в США.

Тем не менее, его AI Overview для результатов поиска Google уже приобрел плохую репутацию.

Согласно множеству пользователей в Twitter и Threads, AI Overview Google предоставил вводящие в заблуждение советы по распространенным запросам.

В одном из этих случаев AI предложил пользователям “прыгнуть с моста Золотые Ворота”, когда кто-то сказал, что он в депрессии.

В другом случае AI рекомендовал использовать нетоксичный клей, чтобы сыр лучше прилипал к пицце.

Когда спросили, какое млекопитающее имеет наибольшее количество костей, AI ответил, что это Питон.

Когда мы попробовали тот же самый запрос, он дал тот же результат, игнорируя слово “млекопитающее” в вопросе.

Удивительно, но не-AI Snippet поиска делает то же самое, отвечая, что у Питона 600 костей.

Вот несколько других спорных вещей, которые AI Overview в поиске сказал на этой неделе:

• Когда человек спросил, сколько камней ему следует съесть, AI ответил, что нужно есть как минимум один маленький камень в день, ссылаясь на геологов из UC Berkeley.

• Когда спросили, какие цветные маркеры использует ЦРУ, AI ответил, что ЦРУ использует черные маркеры.

В обоих случаях выше Google AI собрал информацию из случайных постов на Reddit или TheOnion.com.

Для тех, кто не в курсе, TheOnion.com - это популярный сайт, публикующий сатирические статьи.

AI Google, похоже, не различает фактическое и сатирическое содержание.

Что касается рекомендации прыгнуть с моста Золотые Ворота, результат ссылается на пост в Reddit.

Тем не менее, AI Google не смог распознать, что конкретный комментарий был предназначен для сарказма.

AI также испытывал трудности с обработкой/суммированием информации из источников. Вот несколько примеров:

• AI Overview выдал безосновательное утверждение, что бывший президент США Барак Обама - мусульманин. Похоже, он взял это утверждение из книги Oxford University Publications без контекста.

• Когда спросили, сколько президентов США окончили Университет Висконсина, AI добавил, что Джон Адамс окончил школу 13 раз.

• Google AI Overview заявил, что ни одна из 54 стран Африки не начинается с буквы K, даже указав, что информация основана на его обновлении знаний от сентября 2021 года.

• AI Overviews предложили, что следует стремиться пить как минимум два литра мочи каждые 24 часа, чтобы быстро пройти камни в почках.

На момент написания статьи в X и Threads.net появляется все больше постов, показывающих различную вводящую в заблуждение или нечувствительную информацию, которую AI Overview предложил.

Google ответил, что эти случаи являются изолированными и не представляют собой функцию в целом.

После этих новостей многие из результатов Overview были исправлены.

С одной стороны, поскольку эти проблемы были вынесены на свет, пользователи предупреждены о неточностях.

Тем не менее, нельзя игнорировать серьезные последствия результата, который предлагает человеку прыгнуть с моста Золотые Ворота, когда он ищет средства от депрессии.