セキュリティテスト
AIペネトレーションテスト
AIペネトレーションテストは、人間のペンテスターが行うことをAIエージェントに実行させます。対象を把握し、何を試すかを決め、エクスプロイトを試み、成功したかを確認します。これにより、テストは年に1回ではなくリリースのたびに実行できるほど高速かつ安価になります。明確な限界もあり、ほかのペンテストと同じく、攻撃するのは稼働中のシステムだけです。
更新日
AIペンテストの仕組み
- 偵察。エージェントがアプリケーションをクロールし、API記述を読み、エンドポイント、パラメーター、ロールを把握します。
- 仮説。アプリケーションが明らかにする情報から、言語モデルが弱点のありそうな場所を推論します。
- 試行。エージェントがリクエストを送り、レスポンスに合わせて手を変え、人と同じようにステップを連鎖させます。
- 検証。優れたツールは証明できたものだけを、リクエストとレスポンスを証拠として報告するため、誤検知が抑えられます。
- 報告と再テスト。指摘事項は数分から数時間で届き、修正はすぐに再テストできます。
自動、AI、人間によるペンテストの比較
| 自動スキャナー | AIペンテスト | 人間によるペンテスト | |
|---|---|---|---|
| 手法 | 固定のチェックとシグネチャ | 計画し、攻撃し、適応するエージェント | 計画し、攻撃し、適応する専門家 |
| 指摘事項のエクスプロイト | なし | あり(ガードレールの範囲内) | あり |
| ビジネスロジック | なし | 一部 | あり |
| 速度 | 数分 | 数分から数時間 | 数日から数週間 |
| 頻度 | ビルドごと | リリースごと | 年に1~2回 |
| 1回あたりの費用 | 最も低い | 低い | 高い。ペネトレーションテストの費用をご覧ください |
AIペンテストが得意なこと
- 一般的なWebとAPIの弱点:インジェクション、クロスサイトスクリプティング、オブジェクト間やロール間のアクセス制御の不備、データの露出。
- 網羅性:すべてのエンドポイントを、すべてのリリースで、疲れることも退屈な部分を飛ばすこともなくテストします。
- 迅速な再テスト:修正は次の案件を待たずに、その日のうちに確認できます。
AIペンテストの限界
- ビジネスロジック。返金額が元の支払額を超えてはならないと判断するには、エージェントに欠けがちなビジネスの理解が必要です。
- 影響。エージェントは弱点を証明できますが、それが自社にとって何を意味するかの判断には依然として人が必要です。
- 安全性とスコープ。本物の攻撃を送る自律型エージェントには、厳格なガードレール、テストアカウント、外に出られないスコープが必要です。ツールが破壊的な操作をどのように防ぐかを確認してください。
- 自社のデータ。アプリケーションからのレスポンスがモデルプロバイダーに届く可能性があります。ツールがどこで動作し、何を保持するかを確認してください。
- コンプライアンス。監査人や顧客は、依然として人間主導のテストを期待することがよくあります。ペネトレーションテストの要件をご覧ください。
攻撃者もAIを使う
同じ能力は攻撃者にも役立ちます。AIエージェントはアプリケーションを探り、公開されたばかりのアドバイザリを以前より速く実用的なエクスプロイトに変えられます。 そのため、脆弱性が公開されてから悪用されるまでの猶予が短くなります。これこそ、より頻繁にテストし、新たに脆弱になったパッケージを含むリリースを数時間以内に把握すべき最大の理由です。
コードを書くのもAI
現在では、本番環境に届くプルリクエストの多くをAIコーディングエージェントが作成しており、エージェントは作業の中で依存関係を追加・更新します。 ときには存在しないパッケージを提案し、それを攻撃者が後から登録することもあります。 スロップスクワッティングとAIによるプルリクエストのサプライチェーンチェックをご覧ください。 稼働中のアプリに対するAIペンテストには、このどれも見えません。見えるのはアプリであって、ビルドに入ったものではありません。
AIペンテストが決して確認しないもの
CRACIは、AIかどうかにかかわらず、ペネトレーションテストを実施しません。ペンテストが飛ばすレイヤーをカバーします。 CRACIはGitHub Actionsのジョブを自社のランナーで実行し、各ビルドが取り込むすべてのパッケージを記録します。インストールスクリプトが取得するコードのように、どのロックファイルにも記載されていない隠れた依存関係も含まれます。 各リリースにはSBOMが付き、新しい脆弱性が公開されるたびに再チェックされます。また、エグレスポリシーはビルドが不要なホストに接続するのをブロックするため、侵害された依存関係がシークレットを外部に送信することはできません。 稼働中のアプリに対するAIペンテストと組み合わせれば、実行しているものとビルドしたものの両方をテストできます。
AIペネトレーションテストに関するよくあるご質問
AIペネトレーションテストとは何ですか?
AIエージェントが行うペネトレーションテストです。エージェントはアプリケーションを把握し、何を試すかを決め、エクスプロイトを試み、結果を検証します。人の関与はわずかです。
AIペンテストは自動ペネトレーションテストと同じですか?
厳密には異なります。従来の自動テストは固定のチェックを実行します。AIペンテストは人と同じように計画して適応し、ステップを連鎖させ、指摘事項を実際にエクスプロイトして検証します。
AIは人間のペンテスターに取って代われますか?
まだできません。AIは一般的な弱点を素早く頻繁にカバーしますが、ビジネスロジック、影響、複雑な攻撃の連鎖では人間のほうが優れています。ほとんどのチームは両方を使っています。
AIペネトレーションテストを本番環境に対して実行しても安全ですか?
厳格なガードレールがある場合に限ります。定められたスコープ、テストアカウント、破壊的な操作からの保護です。多くのチームはまずステージング環境に対して実行します。
AIペンテストでサプライチェーン攻撃は見つかりますか?
ほとんど見つかりません。AIペンテストは稼働中のアプリケーションを攻撃しますが、サプライチェーン攻撃の多くはビルド中に実行されます。各ビルドが取り込むものを記録することで、そのレイヤーをカバーできます。