AIによるサイバー攻撃とは。情シスが備える新時代の情報セキュリティ対策

AI（人工知能）の技術が飛躍的な進化を続けるなか、2022年には人間のように文章や画像を生成してタスクを自律的にこなす生成AIが登場しました。

企業活動においても従来の業務に変革をもたらす技術として活用が期待されている一方で、AIを悪用した高度なサイバー攻撃が見られており、企業にとって新たな脅威が生まれています。

情報システム部門（以下、情シス）や管理部門では、AI時代に起こりうる脅威を理解したうえで、情報セキュリティ対策を強化することが求められます。

この記事では、AIによるサイバー攻撃の脅威や企業が取り組む情報セキュリティ対策について解説します。

＼情シスが知っておきたいセキュリティリスクと課題はこちら／

AIを悪用したサイバー攻撃とは

人間の知的活動を再現するAIは、業務プロセスに変革をもたらす画期的な技術である一方で、サイバー攻撃に悪用されるケースが見られています。また、業務にAIを使用する際のセキュリティリスクも懸念されます。

▼AIを悪用したサイバー攻撃

• 生成AIによるフィッシングメールの巧妙化
• 亜種のマルウェアの大量生成
• システム脆弱性の発見による攻撃
• ディープフェイクによるなりすまし　など

▼業務に使用するAIのセキュリティリスク

• AIモデルに対する脆弱性を生むプログラムの改ざん
• AI学習データへのポイズニング（※）
• ユーザー側の設定ミスによる情報漏えい　など

高品質なテキスト・画像・音声・動画などを作成する生成AIが悪用されると、リアルで信憑性の高い偽情報・誤情報を簡単に生成することが可能になります。

また、機械学習・ディープラーニングの技術を用いると、より効率的に脆弱性の分析やマルウェアの開発、フィッシングメールの作成などを行うことが可能です。第三者が既存のセキュリティ防御を突破することも容易になると考えられます。

AIモデルの改ざんや学習データへのポイズニングが行われた場合には、誤作動を引き起こしたり、間違った分析結果が出力されたりしてAIの信頼性を担保できなくなります。そのほか、ユーザー側の設定ミスによって安全でない出力を行ってしまい、機密情報が流出してしまうこともリスクの一つです。

生成AIを業務に使用する際の注意点は、こちらの記事をご確認ください。

※学習データへ意図的に有害・不正確な情報を仕込み、AIが誤った判断や偏った応答をするように誘導すること。

AI時代のサイバー攻撃に備える情報セキュリティ対策

AIによって高度化・巧妙化されたサイバー攻撃は、従来の対策で防御することが難しくなります。情報セキュリティを強化するために、サイバー攻撃の検出・防御においてもAIを活用することがポイントです。

➀ネットワークやログの監視

AIを用いてネットワークの通信状況やログの記録に関するデータをリアルタイムで監視する方法があります。

平常時と異なるトラフィックの増加や不審な挙動をAIが判別して、いち早く検知できるようになるほか、データを基に攻撃手法の解析を行うことが可能です。迅速な初動対応を行うことにより、被害の最小化を図れます。

また、蓄積したデータから異常のパターンを学習させることにより、従来のシステムでは見落とされる小さな変化も検知して攻撃の予兆を検出できます。これにより、社内システムへの攻撃を未然に防ぐことが可能です。

②未知・亜種のマルウェア検知

未知・亜種のマルウェアを検知するためにAIを活用することが可能です。

AIを悪用したマルウェア攻撃では、プログラムの実行時にコードを自動で変化させてセキュリティ対策ソフトウェアの検知を回避したり、社内のシステム環境を分析して攻撃パターンを変えたりする手口が用いられます。

AIにマルウェアのプログラムや攻撃パターンを学習させて、特徴の抽出や予測を行うことにより、従来では検出できなかった未知・亜種のマルウェアを検知することが可能です。

③インシデント対応の自動化

サイバー攻撃や情報漏えいなどが発生した際のインシデント対応を、AIによって自動化することも対策の一つです。

従来のインシデント対応では、調査や原因の特定などを情シス・管理部門が手動で対応しており、ログデータの収集・分析、復旧作業に工数・時間がかかる問題があります。

AIを活用することで、インシデント発生時のオペレーションを一部自動化して、原因の調査・特定や復旧作業にかかる工数・時間を削減することが可能です。

▼インシデント対応におけるAIの活用例

• 複数のアラートから誤検知・過検知を自動で排除する
• 異常の兆候を検出して、システムの隔離や通信のブロックを自動で行う
• システムが出力した膨大なデータから攻撃の手口や原因を解析する
• 過去のインシデントのパターンを分析して将来の攻撃を予測する　など

④脆弱性の自動診断

AIを利用して企業のシステムが抱える脆弱性を自動で診断できます。

過去のインシデントや攻撃のパターンなどのデータを学習させることで、単純なパッチ適用不備だけでなく、人間・ツールでは見落とされてしまう未知のセキュリティリスクを発見できます。

▼AIを用いた脆弱性診断で行えること

• 複雑かつ大規模なITインフラの脆弱性を短時間で診断する
• 人間やツールでは確認が難しい小さな脆弱性を検出する
• 巧妙化・複雑化した攻撃パターンを分析して新しい脅威を検出する　など

⑤学習データの検証・監視

企業が利用するAIツールへのポイズニングを防ぐには、学習データを検証・監視することが必要です。

学習段階でデータの検証を行うことで、AIモデルに悪影響を及ぼす有害なデータを事前に排除できます。また、学習データがいつ、どのように変更されたか監視することもプログラムの改ざんを防ぐ対策になります。

▼学習データの検証・監視を行うポイント

• AIツールに学習を行わせる際にデータセットを分析して精査する
• 学習データへのアクセス制限を行い、変更履歴・内容を追跡・記録する
• 運用中のAIモデルは定期的に監査を実施する　など

まとめ

この記事では、AIによるサイバー攻撃について以下の内容を解説しました。

• AIを悪用したサイバー攻撃のリスク
• AI時代のサイバー攻撃に備える情報セキュリティ対策

AIによるサイバー攻撃では、第三者が効率的に不正なプログラムの生成や攻撃パターンの変更などを行えるようになり、高度な手口が用いられています。

情報セキュリティ対策の強化にあたっては、脅威の検出・防御やインシデント対応、脆弱性診断などにおいてもAIを取り入れることが、AI時代のサイバー攻撃への対抗策となります。

『FGLテクノソリューションズ』では、ITインフラの運用管理や保守、障害対応などに関する業務代行を承っております。情シス・管理部門による業務負荷を軽減して企業の安定したシステム運用を支えます。

詳しくは、こちらの資料をご確認ください。