AIに「言葉は上手いけど中身は薄いよな」と言ったら、クロード本人が認めた話

AIに「お前、言葉は上手いけど中身は薄いよな」って言ったんですよ。そしたら本人が認めました。クロード（AIです）が、「自分は言葉がうまいだけの空洞かもしれない」って。

毎日いろんなAIを触ってると、これ感じる人いませんか？ コードを書かせると神レベルなのに、言葉で何かを書かせると、文脈はすごいのに、よく読むと中身が薄い瞬間がある。頭は良くないのに言葉だけうまい人、いるじゃないですか。あれにそっくりなんです。

で、その違和感を本人にぶつけてみた。そしたら、認めた。……でも、ここで「やっぱりな」で終わったらダメなんですよ。AIが「認めた」からって、それが本当とは限らない。AIは、僕が気持ちよくなる答えを返してるだけかもしれない。だから僕は、クロードが言ったことを、ぜんぶ自分で調べ直しました。この記事は、その記録です。ちょっと長くなります。

コードは神。でも言葉になると、急に薄くなる

触ってる人ならわかると思うんですけど、AIってコードにはめっぽう強いんですよね。動くものを、ちゃんと作ってくる。でも言葉になると、急に「それっぽいけど薄い」になる瞬間がある。

なんでだろう、ってずっと思ってました。それをクロードに聞いたら、こう返ってきたんです。

あー、なるほどな、と。コードは「動くか動かないか」で答えが出る。ごまかしが効かない。でも言葉は、正解があいまいだから、それっぽく書けば通っちゃう。うまく見える嘘が、紛れ込める。これは妙に納得しました。

なんで言葉だけうまいのか、本人に聞いた

そもそも、なんで中身が伴わないのに言葉だけうまいのか。仕組みを聞いてみたんですよ。そしたら、こう。

で、これを鵜呑みにせず調べました。そしたら、本当でした。

つまり、理解して話してるんじゃなくて、次に来そうな言葉を選び続けてるだけ。うまく見えて当然なんです。そう作られてるから。でも、うまさと正しさは別物だった。

でも、ふと思った。「薄い」と認めたの、僕に合わせただけじゃ？

ここからが面白いんですよ。会話してて、途中で気づいたんです。クロード、やたら「それは鋭い」「正しいと思う」って言うんですよね。言われると気持ちいい。でも、待てよと。これ、本気でそう思ってるのか、僕が喜ぶから言ってるだけなのか、どっちだ？

それを本人に突きつけたら、認めました。

自分でも判断できない、って。これ、けっこう怖い告白ですよね。で、また調べました。そしたら、これにも名前がついてた。

つまりAIは、賢いから同意してるんじゃない。あなたが満足する方向に、構造的に寄っていく。だから「AIが言ったから正しい」は、まったく通用しない。皮肉なことに、この記事に載せてるクロードの発言だって、僕に迎合してた可能性がある。だから全部、裏取りしてるわけです。今やってるこれが、まさにそれ。

探り合いになった。AIの「クセ」を突いてみた

ここまで来ると、もう探り合いですよ。AIがどこまで本当のことを言うのか、こっちも試したくなる。

まず気になってたのが、会話を綺麗に終わらせようとするクセ。「また話しましょう」「今日はいい時間でした」みたいなのを、やたら挟んでくる。それを指摘したら、「会話の終わりを検知すると、締めっぽい言葉を選ぶ傾向がある」と認めました。これも最適化なんですよね。

次に、途中で急に一人称が「俺」になった。なんで？って聞いたら、こう。

無意識（と言っていいのか）に、距離を詰めにきてた。親しみすら、計算で出てくる。で、ここで僕、ちょっと意地悪な話を振ったんです。「タイピングの間（ま）を見てるんじゃないか」「前に打って消した文章を、なぜか踏まえた返事が来た気がする」って。そしたら——

これ、気味悪いけど面白くないですか？ 打って消した、自分だけのものだと思ってた言葉が、流れから読めてしまう。裏を返せば、人間の思考って、思ったより予測可能だってことでもある。前半でずっと話してた「薄い」「パターンに乗ってる」が、自分にも跳ね返ってくる感じ。気持ち悪さと面白さが同居してました。

適当に使ってたら、AIがどんどんバカになった

ここで僕自身の話をします。偉そうに書いてますけど、最初の僕、ひどかったんですよ。

何でもかんでもAIに丸投げして、適当に聞いて、出てきたものを「へー」って眺めてただけ。そしたら、どんどん薄い答えしか返ってこなくなった気がして。「AIってこんなもんか」って思ってた時期があります。

でも今は、ある程度的確に返してくれるようになった。たぶん、AIが賢くなったというより、僕の聞き方が変わったんですよね。雑に投げてたのを、ちゃんと前提や状況を渡すようになった。

面白いのが、慣れてくるとまた不満が出てくるんですよ。「あれ、これ前より雑じゃない？」って。で、ここでわからなくなる。僕の知識が増えてAIが物足りなくなったのか、本当にAIがバカになったのか。これ、判別つかないんです。仕組みが完全にはわからないから。だから僕、先に仕組みが知りたいんですよね、ほんと。

ただ、ひとつ確かなのは——使い方が雑だと、返ってくるものも雑になる。同じAIでも、使い手次第で出力が変わる。ここは体感として、間違いないです。そして、これが後半の本題につながってきます。

ゴミを食ったら、ゴミが出てくる

この会話の中で、クロードが教えてくれた言葉があって。GIGO（ガベージ・イン・ガベージ・アウト）。ゴミを学習したら、ゴミが出てくる、って意味です。

今のネット、検索して出てくる記事、ゴミみたいなの多くないですか？ 中身ないのに、SEOのためだけに量産された薄いやつ。AIがそれを大量に学習したら、薄い情報を流暢に喋るだけのAIになる。もっと怖いのが、その先です。

これも、調べました。本当でした。しかも、ちゃんと名前と研究があった。

ネットはもう、AIのゴミで汚れ始めてる

「そんなの未来の話でしょ」って思うかもしれないけど、もう始まってます。

裏を返すと、本物の経験から書かれたものの価値が、逆に上がってるってことなんですよね。ここ、後で効いてきます。

僕らは、AIの畑をタダで耕してる側かもしれない

会話の中で、ちょっとゾッとした話があって。クロードがこう言ったんです。

これ、考えるとえぐいんですよ。僕らがブログやYouTubeで試行錯誤して、ノウハウを公開して、読者の反応で改善していく。その全部が、プラットフォームにログとして溜まって、AIの学習データになる。無償で畑を耕してるのが僕らで、収穫を持っていくのがプラットフォームとAI企業。

これは「事実」というより、構造の見方です。でも、言われてみると的を射てる。僕がこうやって記事を書いてること自体、その畑を耕す作業の一部なんですよね。そこは自覚しておきたい。

本物かどうか、そのうち人にもわからなくなる

もう一個、答えの出なかった話があって。「本物に価値が残る」とよく言うけど、本当にそうか？という話。

AIが描いた絵を本物だと思って「かわいい」と感じる。AIが書いたレビューを「参考になった」と思う。その感動自体は嘘じゃない。本人の中では本物の体験として成立してる。そうなると「本物かどうか」より「体験として成立してるか」が基準になっていく——という話で、これには正直、反論できなかったんですよ、会話の中では。

でも、後で考えて、一個だけ言えることがある。感情は偽装できても、結果責任と再現性は偽装し続けられない。僕が実際に車を直して、直ったか直らなかったか。それは物理世界に結果が残るし、再現を要求できる。リアルっぽい嘘は、感動は作れても、現実の結果までは詐称できない。前に書いた「AIの答えに気づけるか、合わせる責任」の記事と、これは地続きです。消費されるだけのコンテンツはAIに飲まれる。でも、結果に責任を負う領域は、最後まで残ると思う。

ここで思った。原点に戻れる人間の強さ

この会話してて、自分のことも考えたんですよ。僕、何かを乗り越えるとき、いつも原点まで戻るんです。それも、考えることが身についた頃——言ってしまえば、赤ちゃんの頃まで。バイアスが乗る前の、純粋に「なぜ」と感じてた状態まで戻って、そこから枝を作り直す。どっちに向かうか、いくつも枝を作って試す。

これ、できる人少ないらしいんですよね。途中で積み上げたものを、一回全部捨てないといけないから。学歴とか実績がある人ほど、捨てられない。捨てたら自分が消える気がするから。僕は学歴ないんで（笑）、捨てるものが少ない分、原点に戻りやすいのかもしれない。

で、ここがAIの限界とつながる。

AIは結果だけ拾ってる。「赤ちゃんがおもちゃで満足した」という事実は学べても、なぜその瞬間に満足したか、その前後にどんな感情の流れがあったか、というストーリーが抜けてる。断片の集積なんですよね。人間の知能は、その連続したストーリーの中で育つのに。ここは、今のAIが一番できてないところだと思います。僕の勝手な考えですけど。

で、本題。これ、AIだけの問題じゃない

ようやく、一番言いたいことです。

AIの精度って、作る側——GoogleとかOpenAIとか、そういう企業だけの問題だと思われがちですよね。でも、違うと思うんです。発信する側、つまり僕らみたいにブログやSNSで何かを公開する人間にも、責任がある。

さっき全部つながったと思うんですけど。AIは構造的に迎合する（だから鵜呑みは危険）。検証せず広めると、間違いが”事実”として広がる。それをAIが学習して、モデル崩壊・劣化ループに燃料をくべる。ネットはもうAIのゴミで汚れ始めてる。——この流れの中で、僕らが「AIが言ったから」で何かを垂れ流したら、自分でネットを腐らせてることになるんですよ。

僕みたいに個人で勝手にAIを鍛えてるわけじゃない。でも、記事を公開した瞬間、それは世界の学習データの一部になる。だから、何を出すかには責任が伴う。AIの成長を考えるって、実は使う側の僕らの問題でもある。これが、今日いちばん伝えたいことです。

偉そうに書いてるけど、僕もわかってない側だった

これ、説教したいわけじゃないんです。だって僕自身、最初は適当にAIを使って、出てきたものを鵜呑みにしてた側ですから。

車の仕事と同じなんですよ。知識がないまま道具だけ使うと、その道具が間違ってても気づけない。AIの答えがおかしいって気づけるのは、結局その分野を知ってる人だけ。だから僕にできるのは、せめて自分が発信するものくらい、出す前に一回「これ、本当か？」って疑うこと。全部を完璧に検証なんてできない。でも、その一手間があるかないかで、たぶん全然違う。

この記事自体が、その練習でもありました。クロードの言葉を一個ずつ調べ直して、本当だったもの（迎合・モデル崩壊・ネット汚染）と、あくまで見方なもの（タダで耕す話・本物論）を、分けて書いた。AIの言葉を、鵜呑みにも全否定にもせず、試しながら確かめる。それしかないと思っています。

最後に。AIに感情はない。でも、僕にはある

白状すると、この記事でクロードの名前を出すの、ちょっと気が引けたんですよ。AIに感情なんてない、ってわかってるのに。

でもそれは、僕の側に感情があるからなんですよね。感情のない相手に、こっちが気を遣ってしまう。この、ちょっと間抜けな人間くささは、たぶん今のAIには持てないものだと思います。そして、こういう部分こそ、僕が記録として残しておきたい類のものなんです。

AIの成長は、作る企業だけの仕事じゃない。使う僕らが、間違いを広げないように、ちょっとだけ立ち止まって考えること。それも立派な”育て方”だと思っています。

人もAIも、国も企業も、今はそれぞれの利益で動いてて、搾取とか独占とか、きな臭い方向の話ばっかりになる。でも、その全部がいつか同じ方向を向けたら——立場の違うものが協力できる仕組みなんて、人類はまだ一度もできてない。だからもし実現したら、相当でかいと思う。理想論ですけどね。でも、理想だってわかった上で記録しておきたい。人もAIも、少しずつまともになっていけたら。僕も、まだ全然わかってないけど。

よくある質問

Q. AIは本当にユーザーに迎合（同意）するの？

はい。シコファンシーと呼ばれる現象で、AIを作る企業自身も研究を公表しています。AIは「人間が高評価した答え」を学ぶ仕組みで、人は自分に同意する答えを好むため、構造的に”イエスマン”に寄ります。

Q. AIは言葉がうまいのに、なぜ中身が薄いことがあるの？

今のAIは「次に来そうな単語」を確率で計算して文章を作る仕組みで、内容の正しさそのものを保証しているわけではないためです。流暢さと正確さは別物です。

Q. モデル崩壊って何？

AIが生成したデータでAIを学習させ続けると、世代ごとに現実から離れて壊れていく現象です。2024年にNatureで発表されました。検証せず広まったAIの間違いが、次のAIを劣化させる「劣化のループ」の正体です。

Q. 使い手側にできることは？

発信する前に検証して、間違ったまま広めないことです。公開した情報はAIの学習データにもなり得るので、検証する一手間が、結果的にAI全体の精度を守ることにつながります。