生成AIAI_News

MicrosoftがAIエージェントの安全評価と長時間タスク実行を前進

2026年11月7日のAIニュースまとめ 生成AI
2026.11.08
この記事は約4分で読めます。

対象日：2026年11月7日（日本時間）

11月7日は、生成AIの安全性と、AIエージェントに長く複雑な仕事を任せるための実行基盤が主なテーマになりました。Microsoft Researchは、評価者の視点を反映して生成AIのリスクを探る「PersonaTeaming」を公開。MicrosoftはCopilot Studio向けのエージェント実行基盤の評価結果も示しました。

また、Azure Architecture Blogは、AIの推論と、実際にデータを書き換える権限付き処理を分ける設計例を公開しています。今回は、公式ページで11月7日付を確認でき、前日までの記事と重複しない3件を取り上げます。公開時刻を日本時間で確認できないため、各ページに表示された発表日を記載しています。

1. Microsoft Research、多様な視点で生成AIのリスクを探るPersonaTeamingを公開

Microsoft Researchは、人物像を設定して攻撃的なプロンプトを生成・改良するレッドチーミング手法PersonaTeamingを公開しました。自動化ワークフローは従来手法RainbowPlusより高い攻撃成功率とプロンプトの多様性を両立したと報告。11人の実務者調査では、AIの提案が新しい視点を促しましたが、小規模な評価です。

2. Microsoft、Copilotの長時間タスク実行基盤の評価結果を公開

Microsoftは、Copilot Studioで安全なコンテナ、コマンドライン、ファイル操作を使い、数千件のデータにまたがる長時間タスクを進めるMicrosoft Copilot harnessの評価を公開しました。同社評価では、従来基盤より合格率が10.8〜22.1ポイント向上、トークン消費は15〜21%減少。数値は同社のモデルと評価条件に基づきます。

3. Microsoft、AIの推論と権限付き操作を分離するAzure設計例を公開

Microsoftは住宅修繕を例に、AIの推論、認可されたサービスによる操作、結果を測定するデータ基盤を3つの領域に分けるAzureの設計例を公開しました。チャットAIから作業指示APIを直接更新せず、決定記録と人の確認を残して小さく導入する構成です。これは概念的なガイドであり、検証済みの製品導入例ではありません。

今日のまとめ

今回の3件は、生成AIの性能を高めるだけでなく、「どの視点でリスクを探すか」「長い作業をどの実行環境で続けるか」「推論と実行権限をどう分けるか」が重要になっていることを示しています。PersonaTeamingは評価者の背景や視点を取り込む方法を示し、Copilot harnessはツール利用を伴う複数工程の作業を続けるための基盤を評価しています。

その一方で、研究の参加者数は限られ、Copilot harnessの数値もMicrosoftの評価条件に基づく結果です。実環境へ導入する際は、モデル自身に最終権限を与えず、本人確認、アクセス制御、操作記録、停止手段を業務ごとに設計することが大切です。

OpenAI Newsroom、Google AI関連公式ブログ、Anthropic Newsroom、Meta AI Blog、Microsoft AI関連公式ブログ、NVIDIA AI Blog、Hugging Face Blog、Mistral AI Newsと補完情報源を確認しました。11月7日付で一次情報を確認でき、前日までの記事と重複しない3件を掲載しています。

参照元一覧

タイトルとURLをコピーしました