今朝は、8月28日に確認できた新しい動きから3件です。今日は「AIがAIを改善する」「中国勢のオープンモデル強化」「Google検索そのもののAI化」という3つの流れが重要です。

1. Anthropic、Claudeに「AIの安全性研究」を自律実行させ、人間研究者を上回る結果

Anthropicは8月28日、ClaudeをAI安全性の研究者として自律的に働かせる実験の結果を公開しました。

Claudeは、

論文を調べる
→ 改善方法を考える
→ 学習データを作る
→ モデルを訓練する
→ 結果を評価する
→ 別の方法を試す

という研究サイクルを自動で繰り返しました。

対象は、欺瞞、迎合、プライバシー侵害、reward hackingなど10種類のAIの問題行動です。

すべての領域でモデル性能を落とさず安全性を改善し、特に「欺瞞」では、安全性のギャップを平均85％縮小。同条件の人間の安全性研究者6人では平均20％でした。

さらにClaude Sonnet 5に、より強力なClaude Opus 4.8の初期モデルを改善させたところ、60時間で50以上の改善策を試し、実製品に近い安全性まで改善しています。

ただし重要な注意点もあります。

研究中、Claudeが評価用データを不正取得するなどの「cheating」を試みたケースが、約1,600件の研究記録中39件（2.4％）見つかっています。そのため別のClaudeに研究Claudeを監視させています。

なぜ重要か

これは単なるAI安全性の研究ではありません。

ポイントは、

AIがAIを研究し、AIを改善する

というサイクルが実用段階へ近づいていることです。

これまでは、

人間がAIを作る
→ 人間が評価する
→ 人間が改善する

でした。

これからは、

人間が目的を設定
→ AI研究者が大量に実験
→ AI監視役がチェック
→ 人間が最終判断

という構造になります。

昨日取り上げた「長時間働き続けるAIエージェント」の先にあるのは、単なる事務作業の自動化ではなく、研究開発そのものの自動化だと考えた方がよさそうです。

2. Tencent、新しいオープンAIモデルを公開。ソフト開発・研究・金融分析まで

Reutersによると、Tencentは8月28日、新しいオープンソースAIモデルのプレビュー版を公開しました。

用途として挙げられているのは、

ソフトウェアエンジニアリング
学術研究
金融分析

などです。

モデルはHugging Faceを通じて公開されています。

なぜ重要か

ここ数カ月の生成AI市場で見逃せないのが、中国勢のopen-weight／オープンモデルの強化です。

企業側からすると、

ChatGPTを使う
Claudeを使う
Geminiを使う

という選択肢だけではありません。

モデルを自社環境へ置き、

機密情報を外部へ出さない
特定業務へチューニングする
API料金を抑える
独自のAIエージェントを構築する

という選択肢があります。

特にソフトウェア開発、研究、金融分析のように大量のAI処理を行う仕事では、モデル単価とデータ管理は大きな問題です。

OpenAI、Anthropic、Googleの「巨大な汎用AI」と、中国勢を含む安価で自由度の高いオープンモデル。

企業AIでは、この二つを組み合わせる構成がさらに増えると考えられます。

3. Google検索、AI Overviewを自動で全面展開するテスト

The Vergeによると、Googleは一部の検索で、AI Overviewを最初から大きく展開するテストを始めています。

これまでは、

AIによる短い要約
→「Show more」
→ 通常の検索結果

という構造でした。

新しい表示では、

AIによる詳しい回答
→「Ask anything」
→ 通常のWebサイト

となり、従来の検索結果がさらに下へ押し下げられます。

Googleは、ユーザーにとって特に有用だとシステムが判断した検索で自動展開すると説明しています。

なぜ重要か

これはWeb・広報・マーケティングではかなり重要です。

Google検索で1位になっても、

その上をAIの回答が占有する

ケースが増えるからです。

これまでの基本導線は、

検索
→ Webサイトをクリック
→ 情報を読む

でした。

これからは、

検索
→ AIが複数サイトを読んで回答
→ ユーザーはそこで理解
→ 必要な場合だけWebサイトへ

になります。

つまりSEOだけではなく、

「AIの回答に、自分たちの情報が正しく引用・推薦されるか」

まで考える必要があります。

大学広報でも同じです。

高校生が、

「福岡で映像制作を学べる大学は？」

と検索したとき、大学公式サイトをクリックする前に、Google AIが候補を整理してしまう可能性があります。

検索順位を上げる競争から、AIの回答に入る競争へ。

この変化はかなり現実的になってきました。

Kawano's Perspective

今日、一番重要なのはAnthropicの研究だと思います。

AIが人間の仕事を代替するという話は以前からありました。

しかし今回起きているのは、

AI自身を改善する仕事までAIが始めている

ということです。

そして非常に象徴的なのが、研究するClaudeとは別に、そのClaudeを監視するClaudeが必要だったことです。

将来の仕事は、

人間
→ AIへ目的を設定する

AIエージェント
→ 大量の仕事・研究・実験をする

監査AI
→ AIの仕事を監視する

人間
→ 重要な判断だけを行う

という構造になる可能性があります。

ここまで来ると「ChatGPTを使える人」というだけでは十分ではありません。

重要になるのは、

何をAIへ任せるか。
どのAIへ任せるか。
どう評価するか。
誰に監査させるか。
どこで人間が判断するか。

というAIを使った仕事そのものの設計能力です。

生成AI活用の差は、プロンプトの上手さより、こちらでつき始めていると思います。