Google Bardがあまりにも酷いので、引用しつつ晒す。
まず、Google Keepというメモアプリと Gmailをつないで何か作りたいな、と思い、前々から気になっていた Keepの最大容量とかを確認しようと思った。なので、一般的な Google検索で調べると、一般人情報として次のような結果が出てきた。
・15GBの範囲外なので容量無制限。ただしメモひとつあたりの文字数などには制限がある。＝無制限
・合計で 1GBまで。＝制限あり
「無制限」と「制限あり」のふたつが出てきたので、Bardに問い合わせたら、「無制限」が正解と出た。なので、その根拠となる URLを重ねて質問したら、それらしい URLを返してきた。https://support.google.com/keep/answer/931* みたいなやつね。
そのリンクにアクセスしたところ、当然というべきか 404。なので Bardに質問した。
私＞ このURLにアクセスすると「このページは見つかりません。」が表示されます。
すると、回答は、
Bard＞ 私は大規模言語モデルとしてまだ学習中です。そちらについては、必要な情報や機能がないため、すみませんがお手伝いできません。
ｗ……
可哀相なので、「Google Keep ヘルプ」にアクセスして探してみたけど当該情報を見つけられない。途中で「検索改善のお願い」みたいなフィードバックフォームが右隅にニョロっと出てきたのは、たぶん Keepのヘルプチームも自覚があるんだろうな、これ、ダメダメだろ、て。
待たせておいた Bardに戻って、次のように入力した
私＞君がGoogleの生成AIにもかかわらず、Googleのサービスのひとつである Google Keepの基本仕様についてのユーザが知っておくべき情報を知らないというのは、非常に奇妙に思われる。もしかして、「Google Keepヘルプ」の情報が不適切だからではないだろうか。不適切な情報で君が学習したとすれば、私の質問に適切にこたえられないと思う。
そしたら Bardは、こう答えた。
Bard＞ご指摘ありがとうございます。
Google Keepの容量制限に関する情報については、Googleのヘルプセンターのページに記載されている情報をもとに回答しました。しかし、そのページが見つからないというご指摘をいただき、改めて確認したところ、実際にはそのようなページは存在しないことがわかりました。
（以下、「がんばります」文言云々）
◆ ◆
ひどすぎるだろ。検索アルゴリズムのウェブコンテンツの軽重判定が相変わらず未熟なのに加えて、AIがその軽重判断を絶対だと前提している時点で、Googleのシステム内部で一種のエコーチェンバーが発生してるんじゃないかな。
つまり、現在の生成系AIというのは原理的に、現時点までのネットのコンテンツという地平から抜け出すことはできないし、その限界を知らん顔してウソをつく能力だけは持っているということ。
だから、愚かな人間が何も考えずに AIが作り出したコンテンツをネットに再投入すると、それを“無垢な”クローラーが採取して広告効果で汚染された軽重判断を施し、ナイーブなAIがそれで学習する――そんなサイクルが超高速で回転しているんだとしたら、やばいぜ、て。