AIコンテンツによるインターネット生態系の変容：プラットフォームの対応と課題

AIが書いた炎上スレがRedditのトレンドに載った話

たしか去年の春を少し過ぎた頃だったと思う。ある掲示板に「夫の浮気相手の婚約者に二人の関係を伝えたけど、自分が悪いのか？」みたいな相談が投稿されていた。そのスレッド、七千近くはリアクションがついて、コメントも千本くらい集まったとかで、いつの間にかそのサイトでも目立つ場所に載ってしまったようだ。でも、その内容については後からAIが書いたものじゃないかという話も出ていた。読み返してみると、「夫の家族は激怒している」みたいな決まり文句や、不自然なくらい引用符が多かったり、どうにも作り物っぽさがあったとも言われている。なんだか現実味よりも議論を呼びそうなシチュエーションばかり目立っていたらしい。

あれからその投稿は管理側によって削除されたらしいけど、それ以前からこういうタイプの記事が増えていることへの不満を何度も他の利用者たちがこぼしていたとか。最近になって、同じようなAIっぽい投稿や“釣り”と感じる内容に対する警戒感も高まってきた印象だ。それぞれ細かなニュアンスや真偽は掴みづらいところだけど、一部ユーザーから見れば、この傾向には悩まされているようにも映る。

SNSを埋め尽くす「AIスラップ」という名の低品質コンテンツ

Redditでよく見かける、やたらと注目を集めるAI生成の投稿って、最近「AIスロップ」と呼ばれていることもあるようだ。まあ、安っぽいというか、どこか雑に作られた感じのコンテンツが多い印象。作った人も本当にバラバラで、有名じゃないインフルエンサーから、どうやら何か組織的な政治目的で動いているグループまで関わっているみたい。

LinkedInだと、ちょっと前に出ていた話では長文投稿のうち結構な割合がAIで書かれている、と言われていた気がする。半分近く…いや、具体的な数字は変動してるみたいだけど、とにかく体感でもかなり多いらしい。それについてLinkedIn側のアダム・ワキエヴィチさん（肩書きはプロダクトディレクターとかだったかな？）がWired誌の取材で、「低品質やコピーされた記事を自動検出するために、それなりに厳重な対策を講じている」とコメントしていた。ただ、その仕組みが完璧とは限らず、重複した内容や同じようなのを見つけた時は特定ユーザーにはあまり広まらないよう制限する方針っぽい。

でも現実にはAI生成と思われるニュースサイトがあちこち増えてきていて、一部SNS（Facebookなど）にも妙な画像――例えば「シュリンプ・ジーザス」みたいなもの――が流れ込んでくる場面も少なくない気がする。この手の画像、自分のタイムラインにもいつの間にか混ざってたりしませんでした？

政治関連の記事をもう少し専門家視点から読んでみたい時とか、そういうニーズもどこかにあるんだろうけど……

Comparison Table:

結論	詳細
政治的なボット利用の増加	共和党だけでなく、様々な政治的立場のアメリカ人がボットを使用して候補者を支援している。
AIによる情報操作の組織化	近年、AIやボットを使った情報操作がより洗練され、組織化されてきている。
中立性の問題	研究者自身も完全に中立とは言えず、実験の倫理性について疑問が生じている。
ユーザー離れとコミュニティの分断	SNSから離れるユーザーが増え、小さなコミュニティに移動することで意見の偏りが生まれている。
技術的対応策への懸念	AI生成コンテンツに対するラベル付けなどの対策は効果的か不明であり、今後も議論が続く可能性がある。

リンクトインの半分はAI記事？プラットフォームの対策は

毎週金曜日になると、政府の動向を少し掘り下げて分析したり、いろんな主張の真偽を調べるニュースレターが届く。最近はAIで作られたコンテンツってやけに安価だとか言われてるね。そういえば、NATOの関連機関によると、一昔前からちょっとしたお金さえあれば、大手SNSで数万回単位の偽物っぽい再生回数や「いいね」、それから何百件ものAIっぽいコメントまで買えることがあるんだそう。

なんか遊び半分みたいなものも多そうだけど、去年あたりの研究ではネット上を流れるデータのうち、ざっくり三割くらいが「厄介なボット」らしいよ、と聞いたことがある。これらはチケット転売狙ったり、人の情報を盗もうとしてたり、怪しい情報を広めようとするものまで様々。しかも、この手のプログラムは最近、人間そっくりに振る舞う技術がかなり進歩しているみたい。

気づけばネット全体がじわじわ使いづらくなってきている——そんな声も増えてきた気がする。儲け重視になった大手テック企業の影響か、サービス自体もちょっとずつ質が落ちてきてるような話もちらほら聞こえるし。本当かどうかはともかく、「ウェブのおかしな進化」とでも呼びたくなる現象なのかもしれない。

10ユーロで数万ビュー？AIコメントビジネスの闇

AIが作ったものって、まあこれだけじゃないんだよね。なんかSNSとかで、やたらと人をイラッとさせたり逆に泣ける猫の動画とか、つい見てしまうものがすごく多い気がする。こういうの、どうも「エンゲージメント・ベイト」と呼ばれているらしい。内容の質はあまり関係なくて、とりあえず誰かにいいねやシェアを押してもらうことが目的っぽい。しかも、自分から探しに行かなくても、勝手に流れてくることも多いみたい。

AIで作った画像なんかも、そのためだけに用意されてることがあるらしい。Microsoft Copilotだったかな？どこかで使われていた写真を見た覚えがあるけど、本当にみんなの目を引くようによくできてると思う。そのへんの話で、数年前だったか何年か前の研究では、「キャベツに包まれた赤ちゃん」みたいな画像とかが、不思議とAIスロップ系ページをフォローしてなくてもおすすめ欄に出てきちゃう現象を調べてた気がする。

そういうページって、大体はちょっと信頼しづらい情報源につながってたり、「本当かな？」と思うような商品やサービスを勧めてきたりするケースも少なくないようだ。あと、人によってはフォロワー数増やしておいて後からアカウント売っちゃう目的で運営している場合もあるという話も聞いたことがある。でも全部そうとは限らないし、一部には単純に可愛いもの好きなだけの人も混じってる…かもしれないね。

ネットの「劣化」は止まらない——テック企業の利益優先が招いた現実

メタ社（あのFacebookの親会社）が、春先になんとなく「スパムっぽい投稿」、つまり閲覧数をちょっとでも増やそうとアルゴリズムを利用する感じのものに対して取り締まりを強めるって発表していたような話があった。でも、その時はAI生成コンテンツという言葉自体にはほぼ触れられてなかった。ちなみに、メタ自身も一時期、自分たちでAIが作ったプロフィールアカウントみたいなのをFacebook上で使っていたことがあると言われているけど、最近になってそうしたアカウントのいくつかは削除されているとか聞く。

なんだかこの辺り、社会全体への影響が出てきてもおかしくない気もする。例えば選挙関連のデマ情報なんて、人間が書いた記事と見分けつかないくらい精巧なものを、かなり少ないコストと手間で量産できてしまうから。政治的なコミュニケーションにも少しずつ影響が及ぶ可能性はありそう。ただ実際にどうなるかはまだよくわからないし、すべてがすぐ現実になるとは限らないとも思う。

赤ちゃんキャベツ画像の裏にあるエンゲージメントベイト戦略

もうすぐ大統領選があるってことで、研究者たちが調べていたら共和党寄りの主張を目立たせる動き、大きなものが見つかったみたい。けど、こういうのって別に共和党だけじゃないんだよね。どうやら色んな政治的な立場のアメリカ人も、自分の推したい候補を応援するために結構ボット使ってるという報告があったそうな。数年前からそういう傾向は指摘されてた気がするし、最近になってますます加速してる印象もある。

あと、面白いというか…まあ微妙な話なんだけど、研究者自身も完全に中立とは言えないケースも出てきているようで。この間スイス・チューリッヒ大学の科学者たちがAIで制御されたボットをRedditで使って何やら実験していたっぽい。どうやら「偽コメント」が本当に人々の意見を変えるか知りたかったみたい。でも、その投稿が人工的だったことはReddit側には知らせず進めちゃったとか。それ聞いてReddit運営側はかなり不快感を示していて、法的措置も考えているとの話。Redditの法務責任者によれば、「今回チューリッヒ大学のグループがしたことは道義的にも、多分法律上もちょっと問題あり」とコメントしていたと伝えられている。

全体として見れば、この手のボット利用とかAI絡みの情報操作は特定政党だけではなく様々な層に広まってる感じで、一部ではその効果や影響範囲についてまだ十分には分かっていない部分も残されている模様。

メタ社も手を焼くAIスパムとアルゴリズム操作

なんだか最近、ロシアとか中国、それにイランのような権威主義的な国の政治の裏方たちが、AIを使った選挙介入のためにかなりのお金をつぎ込んでいるって話が時々耳に入る。まあ、その効果については意見が割れているみたいだけど。「ロシアのSNSを通じた2016年ごろのアメリカ大統領選干渉はほとんど意味なかった」とする調査もあれば、「トランプ氏の支持率予測には一定程度関連していた」という研究結果も出ていた気がする。ただし、ここ数年でこういうキャンペーン自体は前よりずっと組織化されてきていて、巧妙になっている印象はある。

別に完全に政治色が強い情報ばかりじゃなくて、一見普通っぽいAIコンテンツですら影響がゼロと言い切れない。どうやら量だけでも相当多くなってきて、本当に人間が書いたニュースとかリアルな情報へ辿り着くのも以前より難しく感じる時期もある。

この現象に対して何ができるんだろう……方法はいくつか議論されているけど、今すぐ決定的な答えが見つかるとも限らない、と言われたりするね。

選挙干渉から見えるAIミスインフォメーションの深刻度

AIによる悪質なコンテンツ、最近は見分けるのがどんどん難しくなっているらしい。人間だけじゃなくて、コンピューターも結構苦戦しているみたいだよ。ちょっと前に、たしか千人を少し超えるくらいの偽アカウントがXで発見されたって話があった。内容は暗号通貨関連が多かったような？　その偽アカウント同士で「いいね」とかリポストをやり合っていたとか。

ただ、そのボット検出用のBotometerっていうツールでは、これらのアカウントをほとんど見抜けなかったみたいなんだよね。本当に全部とは限らないけれど、やっぱり簡単には行かないこともある。

AIっぽい投稿なら、それなりに型にはまったものや妙に不自然なのは気づきやすい時もある。でも短文――インスタグラムのコメントとか――そういうところでは一瞬で見抜くのは難しいことも増えてきた印象かな。画像なんかも最近は出来が良くて、本物と区別つかない場合もあるとか。

それでも技術自体は日々進化していて、「AIスロップ」みたいなものを作る手段も上達してきている気配がある。一部研究者からすると、この先いつかボットに振り回される可能性だって否定できない…そんな感じもしなくはない。

人間もAIも見破れない？進化するボットネットワーク

最近のAI関連の動き、特にその情報が広まる様子を見ていると、何となく前向きな結論や手軽な対策があったら良いのにと思うこともある。でも、実際には多くの人たちがSNSから離れつつあるようだ。AIによる雑なコンテンツ――まあ、そういうものが増えてきたという理由でね。どこかで聞いた話では、そのせいでユーザーは昔ながらのオープンな場を避けて、招待制みたいな小さなコミュニティへ移動しているとか。

こういう流れになると、公的な議論の場自体が細かく分断されやすいみたい。似た考えを持つ人同士だけで集まることも多くなるし、それって結果的に意見の偏りにつながる可能性もあるんじゃないかな、と。気づけば「自分と同じ」ばかりになりやすい。

一方でSNS自体は、以前ほど活発じゃなくて、人間より機械同士が相手している感じになることも想像できる。時々、ただ面白おかしい動画とかばっかり流れていて、人間はそれを眺めているだけ…そんな印象を持つ人も出てきたみたいだし。

もちろん運営側としては利用者離れは困るから、ギリギリまでAI生成のコンテンツ（ちょっとした“雑音”とも言えるもの）を流す方向になる可能性もある。ただ、そのバランス感覚って難しいよね。

技術的対応策としては、「これAIですよ」ってラベル付けしたり、新しいボット検知システムを入れたりする案が挙げられている。でも正直、それがどこまで効果的なのかはまだよくわからないし、「注意書きを見ることで本当に判断できる？」という声もちらほら聞く。今後どうなるか…もう少し様子を見る必要がありそうだ。

AIスラップに溺れる未来——私たちにできることはあるのか

最近、ディープフェイクを見抜くための手法もいろいろ試されているらしいけど、その研究ってまだ始まったばかりだと聞いたことがある。正直なところ、問題の規模自体を少しずつ実感しはじめた段階かもしれない。まあ、人間がAIによる質の低いコンテンツに呑まれるなら、AI自身もまた同じ運命になるという皮肉みたいな話もある。なんとなくだけど、ネット上の情報がここ数年でかなり質が下がったせいで、それを学習するAIモデルまで変な出力をしやすくなる…そんな指摘もちらほら見かけた気がする。全部が全部そうだとは言えないにしても、今後どうなるんだろうって不安になる人も多いんじゃないかな。