エンジニアはGoogleの検索AIの動作を理解できない

くそっ、Googleのエンジニアでさえ新しいRankBrain AIシステムの動作を理解できない

GoogleのRankBrain AIは、Skynetが作られているように思えます。なぜなら、それに取り組んでいるエンジニアでさえ理解できないからです。Google検索チームのトップエンジニアの一人であるポール・ハールによれば、Googleの新しいRankBrain AIエンジンは実際には以前考えられていたよりも複雑であり、Googleのスタッフの中にはその動作を正確に理解していない人もいるとのことです。

この発言は、カリフォルニア州サンノゼで3月1日から3日まで開催された検索マーケティング会議SMX Westで行われました。

GoogleはRankBrainがどのように機能するかを理解していますが、実際に何をしているのかはあまり理解していません。@haahr #SMX — ジョナ・スタイン (@Jonahstein) 2016年3月3日

ハールは、イベントの基調講演中にGoogleの検索製品全般に関する質問に答えている際、誰かが同社の最新の追加であるRankBrain AIについて質問したときにこのように答えました。

エンジニアの回答は、SERoundtableの記者バリー・シュワルツや多くの他の会議参加者がTwitterで確認したように、Googleのエンジニアの多くが新しいRankBrainアルゴリズムの動作を完全には理解していないというものでした。

Googleは、過去数年間にわたり、AIの専門家であるトップエンジニアのジョン・ジアナンドレアの監督の下で、人工知能システムであるRankBrainに取り組んでいました。

GoogleはRankBrainが何をしているのかを完全には理解していないと@haahrが言っています #smx — AJ・コーン (@ajkohn) 2016年3月3日

このシステムは2015年10月に発表されましたが、Googleは実際には数ヶ月前にRankBrainが稼働していたと述べており、誰にもそのことを知らせていなかったのです。

Googleによれば、RankBrainは、検索結果を画面に表示する際の数百の指標の中で、同社にとって3番目に重要な指標です。

RankBrainは、Googleが定期的に再調整する人工知能システムに基づいて機能し、検索クエリに対する正しい回答を選択する際にいわゆる「直感」を持っていると言われています。

実際、この「直感」はほとんどのエンジニアが理解できないものです。RankBrainは、難しい質問を解決するために特別に作成されたものであり、BloombergとのテレビインタビューでGoogleのエンジニアが説明しました。しかし、その後、RankBrainはますます検索結果の最終ランキングを決定するための貴重なツールとなるほど優れたものになりました。

RankBrainの成功は、先月、ジアナンドレアがGoogle検索の責任者に任命されたときにさらに顕著になりました。これは、過去15年間Googleの検索部門の責任者であったアミット・シンガルが引退を発表した後のことです。

シンガルの努力によって今日のGoogle検索が達成した高みを考えると、AIの専門家にコントロールを引き渡すことは、GoogleがRankBrainに対して持っている方向性と信頼を確認するものです。このシステムは、一部のエンジニアがその動作を理解していないことを公然と認めています。

AIはまだ実装の発展段階にあるため、重要でないWebサービスのみをカバーしており、「ターミネーター」映画の悪名高いSkynetのような国全体の運営には関与していないため、恐ろしいものです。数年前、スティーブン・ホーキングが指摘したように、この小さな「検索ヘルパー」を理解するのが難しいのであれば、AIは本当に人類にとって最大の脅威です。