人工知能（AI）はサイバーセキュリティの防御を自動化し強化するのに役立ちますが、同時にサイバー犯罪者がより効果的な攻撃を行うのにも役立ちます。
この記事を読み終えると、以下のことができるようになります。
記事のリンクをコピーする
予測型の人工知能（AI）や機械学習（ML）は、以前からサイバー攻撃の検出、対処、対応に活用されてきました。近年では、より高度なAIモデルの登場や、それらを学習させるための大規模なデータセットの利用により、サイバー攻撃に対する防御が強化され、攻撃の初期段階での検知が可能になっています。
サイバーセキュリティ分野で予測AIを活用することで、ボット、マルウェア、ゼロデイ脆弱性の悪用、内部脅威を検出できるほか、不審な挙動や機密データの漏洩も検知することができます。また、セキュリティツールやチームの脅威インテリジェンスを向上させることができます。AIを組み込めば、従来のセキュリティ対策が完璧なものになるわけではありませんが、検出の速度と精度は向上します。また、AIを使えば、セキュリティチームやエンジニアリングチームが行う多くの手作業を自動化または排除して、生産性を向上させることができます。
AIとは、予測を行うことからシンボルを識別すること、テキストを生成することまで、コンピュータープログラムが人間の知能を模倣または再現する方法の広範な範囲を指す用語です。
AIにはさまざまな種類があります。サイバーセキュリティに最も関連があるのは、予測AIや機械学習（ML）、生成AI、そしてエージェント型AIです。
大まかにいうと、これらのタイプのAIはすべて、大量のデータサンプルに基づいて計算を行うことで機能します。たとえば、悪意のあるコードのサンプルをいくつか見たAIモデルは、これまで見たことのないマルウェアを識別できる可能性があります。より多くの例を見れば、より速く、より正確にマルウェアを検出し、無害なコードと区別することができます。
マルウェア対策に加えて、AIを活用したサイバーセキュリティモデルは、ユーザーやアプリケーションの挙動を同様に分析し、欺瞞的または不正なメッセージを検出したり、信頼できないIPアドレスを特定することができます。
AIを利用して、セキュリティベンダーとその顧客は以下を強化できます：
脅威インテリジェンス：ネットワークおよびウェブトラフィックのAIベースの分析により、新たな傾向や戦術に関するリアルタイムで詳細な脅威インテリジェンスを生成できます。そのインテリジェンスは、サイバー防御が最新の攻撃に自動的に適応するのに役立ちます。
脅威防御：基本的なセキュリティルールの静的なセットは多くの攻撃をブロックできますが、攻撃者は時間の経過とともに戦術やベクトルを変更する可能性があります。AIは、統計分析を用いて、マルウェアの進化、攻撃者の戦術変更、コマンド＆コントロールサーバーの切り替え、そして攻撃が世界中の異なる場所から発生する場合でも、脅威の特定と防御の適応を自動化することができます。AIの出力を時間をかけて学習し、洗練させる能力は、誤検出率を減少させることにも役立ちます（セキュリティチームが手動で確認する必要があるため、生産性が低下します）。
フィッシングの検出：攻撃者の視点から見れば、フィッシングは依然として最も使われている攻撃ベクトルであり、最も成功しているものです。これは、攻撃者が最初に組織内に足がかりを得た後、ラテラルムーブメントを使用して最終的な標的に到達する方法です。フィッシングやビジネスメール詐欺（BEC）攻撃はますます高度化しており、攻撃者は生成AIツールを使用してリアルなメールを大量に作成しています。AIアルゴリズムは、感情分析、機械学習、送信者の信頼性評価を通じて、説得力のある詐欺メールの検出に役立ちます。フィッシングメールを検出し、ブロックすることで、十分な訓練を受けたユーザーにも起こりうる、受信者が騙される可能性を排除することができます。
ディープフェイクの検出：攻撃者は、AIが生成したディープフェイクをフィッシング攻撃、ソーシャルエンジニアリングスキーム、誤情報キャンペーンに用いることが増えています。AIは、コンテンツやメディアが本物でないことを示す微妙な矛盾や異常を特定することで、ディープフェイクを検出するのに役立ちます。これにより、セキュリティチームは巧妙なソーシャルエンジニアリング攻撃を検出し、ブロックすることができます。
行動分析：MLアルゴリズムは、通常の活動の基準から逸脱する異常な行動パターンを特定できます（例：サードパーティのソフトウェアプラグインが異常なリクエストを送信し始めた場合）。このような逸脱は、妥協や進行中の悪意のあるアクティビティを示す可能性があります。行動分析は、以前信頼されていたが侵害されたソースからの攻撃を含む、多くの攻撃を特定するのに役立ちます。
内部脅威の軽減：行動分析は、従業員、契約者、その他のユーザーの異常な行動を検出し、内部脅威を検出して阻止することができます。
APIセキュリティ：アプリケーションプログラミングインターフェース（API）は、Webアプリケーションインフラストラクチャの重要な要素です。現在、インターネット上の動的トラフィックの大部分がAPI経由で行われているため、APIは攻撃者の標的になりやすい存在です。AIを活用したAPIセキュリティ防御は、スキーマと呼ばれる正常なAPIの通信パターンをモデル化し、それと異なる異常なAPIトラフィックを検出して潜在的な攻撃をブロックします。
サプライチェーン脅威の検出：攻撃者は、標的の依存関係、または「サプライチェーン」と呼ばれるアプリケーションやネットワークに統合されたサードパーティツールやサービスを攻撃することで、間接的に標的に到達することができます。このアプローチは、攻撃者が組織を直接攻撃するのではなく、裏口から侵入することを可能にするものと言えるかもしれません。AIは、サードパーティの依存関係に存在する脅威を特定し、サプライチェーン攻撃を阻止するのに役立ち、それを自動的に行うことができます。
データポイズニング、プロンプトインジェクションなどのさまざまな攻撃に対しAI自体は脆弱です。AIモデルのセキュリティとLLMの主要なリスクについてご紹介します。
人工知能（AI）はサイバー攻撃からの防御の自動化と強化に役立ちます。AIは、ボット、マルウェア、内部脅威などのサイバー脅威を検出、軽減、対応するために使用され、脅威を高精度で素早く検知するとともに、セキュリティ担当者が行う多くの手作業を自動化することができます。
サイバーセキュリティに最も活用できるのは、通常の通信と攻撃通信を見分けたり攻撃の兆候となる異常なユーザー行動を特定する「予測AIまたは機械学習（ML）」、コンテンツを解釈・作成する「生成AI（GenAI）」、自律的な行動を起こして脅威を軽減できる「AIエージェント」があります。
AIは、ネットワークトラフィックを分析して脅威を特定し、リアルタイムの脅威インテリジェンスを生成することで、防御機能が新たな攻撃にも対応できるよう自動で改善します。
AIアルゴリズムは感情分析を使用し、送信者の信頼性を評価することで高度なフィッシングメールを検出します。ディープフェイク対策の面では、AIは映像や音声、画像のわずかな矛盾点や異常を特定し、それが本物かどうかを判断することで、ソーシャルエンジニアリング攻撃の阻止に貢献します。
機械学習アルゴリズムが正常な挙動パターンを確立し、そこから逸脱する異常な行動パターンを特定し、以前は信頼されていたアクセス元が侵害されたり、アクティブな内部脅威が存在する可能性を検出します。
防御機能にAIを活用することで、想定されるAPIの使われ方をモデル化して、APIトラフィックの異常を検出して潜在的な攻撃をブロックすることができます。また、AIはサードパーティのツールやサービスに存在する脅威を自動的に特定し、サプライチェーン攻撃を阻止することもできます。