Microsoft の「セキュリティ副操縦士」がセキュリティ侵害に関する ChatGPT を評価

Oct 02, 2023

リリー・ヘイ・ニューマン

ここ数年、「人工知能」はサイバーセキュリティ業界で注目のバズワードとなっており、ネットワーク上で不審な動作を発見し、何が起こっているのかを迅速に把握し、侵入があった場合にインシデント対応を行うツールとして期待されています。 しかし、サービスの中で最も信頼でき、役立つのは、実際には、マルウェアやその他の疑わしいネットワーク活動の特徴を特定するように訓練された機械学習アルゴリズムです。 生成型 AI ツールが急増する今、マイクロソフトは、あらゆる誇大宣伝に値する防御者向けのサービスをついに構築したと述べています。

2 週間前、同社は Microsoft 365 Copilot を発表しました。これは、大規模な言語モデルに関する Microsoft 独自の取り組みに加え、OpenAI とのパートナーシップに基づいています。 同社は現在、Microsoft Sentinel や Defender などのセキュリティ ツール、さらにはサードパーティ サービスからのシステム データとネットワーク監視を統合する一種のセキュリティ フィールド ノートブックである Security Copilot を展開しています。

Security Copilot は、アラートを表面化し、ネットワーク内で何が起こっているのかを言葉とグラフの両方で計画し、潜在的な調査の手順を提供します。 人間のユーザーが Copilot と連携してセキュリティ インシデントの可能性を計画すると、プラットフォームは履歴を追跡して概要を生成するため、同僚がプロジェクトに追加された場合は、すぐに状況を把握して、これまでに何が行われたかを確認できます。 また、このシステムは、調査に関するスライドやその他のプレゼンテーション ツールを自動的に作成し、セキュリティ チームが状況の事実を部門外の人々、特にセキュリティの経験はないが常に情報を得る必要がある幹部に伝えるのに役立ちます。

Microsoft のセキュリティ担当首席副社長、Vasu Jakkal 氏は、「過去数年間、私たちが目にしてきたのは、攻撃の頻度、攻撃の巧妙さ、そして攻撃の激しさの絶対的な激化です。」と述べています。 「そして、守備側が攻撃のエスカレーションを抑える時間はあまり多くない。現在、バランスは攻撃側に傾いている。」

ジェレミー・ホワイト

ケイト・ニブス

WIREDスタッフ

ジェレミー・ホワイト

Jakkal 氏は、機械学習セキュリティ ツールは、エンドポイント セキュリティとして知られる電子メールや個々のデバイス上のアクティビティの監視など、特定の領域で効果的でしたが、Security Copilot はこれらの個別のストリームをすべて 1 つにまとめて、全体像を推定します。 「Security Copilot を使用すると、結合組織を形成するため、他の人が見逃した可能性のあるものを見つけることができます」と彼女は言います。

Security Copilot は主に OpenAI の ChatGPT-4 を利用していますが、Microsoft は、Microsoft 独自のセキュリティ固有のモデルも統合していることを強調しています。 システムは、調査中に行われたすべてを追跡します。 結果として得られる記録は監査でき、配布用に作成される資料はすべて、正確さと明確さのために編集できます。 調査中に Copilot が提案した内容が間違っているか無関係な場合、ユーザーは「ターゲット外」ボタンをクリックしてシステムをさらにトレーニングできます。

このプラットフォームはアクセス制御を提供するため、特定の同僚を特定のプロジェクトで共有し、他のプロジェクトでは共有できないようにすることができます。これは、潜在的な内部関係者の脅威を調査する場合に特に重要です。 また、Security Copilot を使用すると、24 時間年中無休の監視のための一種のバックストップが可能になります。 そうすることで、特定のスキルセットを持つ人が特定のシフトまたは特定の日に働いていない場合でも、システムはギャップを埋めるのに役立つ基本的な分析と提案を提供できます。 たとえば、チームが悪意のある可能性のあるスクリプトまたはソフトウェア バイナリを迅速に分析したい場合、Security Copilot はその作業を開始し、ソフトウェアがどのように動作しているか、およびその目標が何であるかをコンテキスト化できます。

Microsoftは、顧客データは他者と共有されず、「基礎AIモデルのトレーニングや強化には使用されない」と強調している。 しかしマイクロソフトは、世界中の大規模な顧客ベースからの「毎日 65 兆の信号」を自社の脅威検出および防御製品に情報を提供するために使用していることに誇りを持っています。 しかし、Jakkal 氏と、彼女の同僚である Microsoft 副社長兼 AI セキュリティ アーキテクトのチャン カワグチ氏は、Security Copilot には、統合されている他のセキュリティ製品と同様のデータ共有制限や規制が適用されると強調しています。 したがって、すでに Microsoft Sentinel または Defender を使用している場合、Security Copilot はそれらのサービスのプライバシー ポリシーに準拠する必要があります。

川口氏は、Security Copilot は可能な限り柔軟かつ自由に使えるように構築されており、顧客の反応が将来の機能の追加や改善に役立つと述べています。 このシステムの有用性は、最終的には、各顧客のネットワークと顧客が直面している脅威について、どれだけ洞察力があり、正確であるかにかかっています。 しかし、川口氏は、最も重要なことは、防御側ができるだけ早く生成 AI の恩恵を受け始めることであると述べています。

同氏は次のように述べています。「我々が何をしようと攻撃者が AI を使用することを考えると、防御者に AI を装備する必要がある。」