ソーシャルエンジニアリングの一環として、生成AIを悪用したフィッシングメールの巧妙化が企業の脅威となっている。この新たなリスクに対し、Amazon Bedrockを用いた防御システムが、攻撃メールの言語的痕跡を検知するアプローチで対抗を始めた。攻撃と防御の両面でAIの活用が進むことで、メールセキュリティの構図が根本から変化しつつある。
生成AIが変えたフィッシングの現場、数千通の偽メールを量産
フィッシング攻撃の手法は、生成AIの普及によって質と量の両面で変化した。従来は文法や言い回しに不自然さが残ることが多かったが、大規模言語モデル（LLM）とオープンソース・インテリジェンス（OSINT）を組み合わせることで、標的の役職や企業文化に合わせた違和感のない文章を、数千通単位で生成できるようになった。セキュリティチームにとって、既存のシグネチャベースの検知や不審なキーワードのフィルタリングだけでは対処が困難な状況が生まれている。攻撃者は件名や本文のパターンを容易に変えられるため、従来型の防御は無力化されつつある。
Amazon Bedrockが担う、「文脈の異常」を浮かび上がらせる役割
Amazon Bedrockを利用した防御の核は、メールの内容が組織内の通常のコミュニケーション文脈から逸脱していないかを評価する点にある。製品発表の場で明らかにされた仕組みでは、受信者の役割や過去のやり取りとの整合性、社内で通常使われない言い回しなどを、Bedrock上の基盤モデルが分析する。これにより、技術的には完璧な文章でも「経理部長にだけ送られる、CEOを装った至急の振込依頼」といった、状況に応じた異常をスコアリングできる。脅威の検知を、メール単体の静的な分析から、組織コンテクストに基づく動的な判断へと引き上げる点が本質的な変化だ。
セキュリティの構造転換、境界防御から言語行動分析へ
この取り組みが示唆するのは、セキュリティの重心が「外部からの侵入を防ぐ境界防御」から「内部の自然な行動からの逸脱を検知する分析」へと移りつつあることだ。AIが生成したフィッシングメールは、技術的には正規メールと区別がつかないため、送信元のIPアドレスや添付ファイルのマルウェアチェックといった従来層では検知できない。AWSがBedrockを用いて目指すのは、企業内のメールフローに機械学習モデルを適用し、計算論的な言語行動のパターン認識を防御の新たなレイヤーとして確立することだ。この変化は、セキュリティ製品がネットワーク機器から分析プラットフォームへと進化する契機となる。
クラウド事業者による防御、自社モデルを「利用される側」への対抗
Amazon Bedrockをフィッシング対策に用いる動きは、AIサービスを提供するクラウド事業者自身が、自社のテクノロジーが悪用されるリスクと向き合わざるを得なくなった現実を反映する。生成AIが攻撃の民主化を進める一方で、同じ基盤技術を保有する事業者は、防御のための高度な分析機能も提供できる立場にある。これは、モデルの性能を競う段階から、そのモデルを実運用環境でどう管理し、悪用を防ぎ、安全に使える状態に保つかという、プラットフォームとしての責任と競争力の次の段階に移行していることを示している。
