보안 테스트
AI 침투 테스트
AI 침투 테스트는 사람 펜테스터가 하는 일을 AI 에이전트에게 맡깁니다. 대상을 파악하고, 무엇을 시도할지 정하고, 익스플로잇을 시도하고, 성공했는지 확인합니다. 덕분에 테스트가 1년에 한 번이 아니라 릴리스할 때마다 실행할 수 있을 만큼 빠르고 저렴해집니다. 분명한 한계도 있으며, 모든 펜테스트와 마찬가지로 실행 중인 시스템만 공격합니다.
업데이트
AI 펜테스트의 작동 방식
- 정찰. 에이전트가 애플리케이션을 크롤링하고, API 명세를 읽고, 엔드포인트, 파라미터, 역할을 파악합니다.
- 가설. 언어 모델이 애플리케이션이 드러내는 정보를 바탕으로 약점이 있을 만한 곳을 추론합니다.
- 시도. 에이전트가 요청을 보내고, 응답에 맞춰 방식을 바꾸고, 사람처럼 단계를 연결합니다.
- 검증. 좋은 도구는 입증한 것만 요청과 응답을 증거로 삼아 보고하므로 오탐이 줄어듭니다.
- 보고와 재테스트. 발견 사항이 몇 분에서 몇 시간 안에 도착하고, 수정은 바로 재테스트할 수 있습니다.
자동화, AI, 사람 펜테스트 비교
| 자동 스캐너 | AI 펜테스트 | 사람 펜테스트 | |
|---|---|---|---|
| 방법 | 고정된 검사와 시그니처 | 계획하고, 공격하고, 적응하는 에이전트 | 계획하고, 공격하고, 적응하는 전문가 |
| 발견 사항 익스플로잇 | 아니요 | 예, 가드레일 안에서 | 예 |
| 비즈니스 로직 | 아니요 | 일부 | 예 |
| 속도 | 몇 분 | 몇 분에서 몇 시간 | 며칠에서 몇 주 |
| 빈도 | 빌드마다 | 릴리스마다 | 1년에 한두 번 |
| 실행당 비용 | 가장 낮음 | 낮음 | 높음. 침투 테스트 비용을 참고하세요 |
AI 펜테스트가 잘하는 것
- 흔한 웹·API 약점: 인젝션, 크로스 사이트 스크립팅, 객체와 역할 간 접근 제어 결함, 데이터 노출.
- 범위: 모든 엔드포인트를 모든 릴리스에서, 지치거나 지루한 부분을 건너뛰는 일 없이 테스트합니다.
- 빠른 재테스트: 수정 사항을 다음 프로젝트가 아니라 당일에 확인할 수 있습니다.
AI 펜테스트의 한계
- 비즈니스 로직. 환불액이 원래 결제액을 넘으면 안 된다는 것을 알려면, 에이전트에게 흔히 부족한 비즈니스에 대한 이해가 필요합니다.
- 영향. 에이전트는 약점을 입증할 수 있지만, 그것이 자사에 어떤 의미인지 판단하려면 여전히 사람이 필요합니다.
- 안전과 범위. 실제 공격을 보내는 자율 에이전트에는 엄격한 가드레일, 테스트 계정, 벗어날 수 없는 범위가 필요합니다. 도구가 파괴적인 동작을 어떻게 막는지 물어보세요.
- 자사 데이터. 애플리케이션의 응답이 모델 제공업체에 전달될 수 있습니다. 도구가 어디서 실행되고 무엇을 보관하는지 확인하세요.
- 컴플라이언스. 감사인과 고객은 여전히 사람이 주도하는 테스트를 기대하는 경우가 많습니다. 침투 테스트 요구 사항을 참고하세요.
공격자도 AI를 씁니다
같은 능력은 공격자에게도 통합니다. AI 에이전트는 애플리케이션을 탐색하고, 갓 나온 보안 권고를 예전보다 빠르게 실제로 작동하는 익스플로잇으로 바꿀 수 있습니다. 그래서 취약점이 공개된 뒤 악용되기까지의 시간이 짧아지며, 이것이 더 자주 테스트하고, 새로 취약해진 패키지가 어떤 릴리스에 들어 있는지 몇 시간 안에 파악해야 하는 가장 강력한 이유입니다.
코드도 AI가 씁니다
이제 프로덕션에 도달하는 풀 리퀘스트의 상당수를 AI 코딩 에이전트가 열며, 에이전트는 작업하면서 종속성을 추가하고 업그레이드합니다. 때로는 존재하지 않는 패키지를 제안하고, 공격자가 그 이름을 나중에 등록하기도 합니다. 슬롭스쿼팅과 AI 풀 리퀘스트를 위한 공급망 점검을 참고하세요. 실행 중인 앱에 대한 AI 펜테스트는 이 중 어느 것도 보지 못합니다. 보는 것은 앱이지, 빌드에 들어간 것이 아닙니다.
AI 펜테스트가 결코 보지 않는 것
CRACI는 AI든 아니든 침투 테스트를 수행하지 않습니다. 펜테스트가 건너뛰는 계층을 다룹니다. CRACI는 GitHub Actions 작업을 자체 러너에서 실행하고, 각 빌드가 가져오는 모든 패키지를 기록합니다. 설치 스크립트가 가져오는 코드처럼 어떤 잠금 파일에도 나열되지 않은 숨은 종속성도 포함됩니다. 각 릴리스에는 새로운 취약점이 공개될 때마다 다시 확인되는 SBOM이 생기고, 이그레스 정책은 빌드가 필요하지 않은 호스트에 연결하는 것을 차단하므로 손상된 종속성이 시크릿을 외부로 보낼 수 없습니다. 실행 중인 앱에 대한 AI 펜테스트와 함께 쓰면, 실행하는 것과 빌드한 것을 모두 테스트할 수 있습니다.
AI 침투 테스트: 자주 묻는 질문
AI 침투 테스트란 무엇인가요?
AI 에이전트가 수행하는 침투 테스트입니다. 에이전트가 애플리케이션을 파악하고, 무엇을 시도할지 정하고, 익스플로잇을 시도하고, 결과를 검증하며, 사람의 개입은 적습니다.
AI 펜테스트는 자동화된 침투 테스트와 같은가요?
꼭 그렇지는 않습니다. 기존의 자동화 테스트는 고정된 검사를 실행합니다. AI 펜테스트는 사람처럼 계획하고 적응하며, 단계를 연결하고, 발견 사항을 실제로 익스플로잇해 검증합니다.
AI가 사람 펜테스터를 대체할 수 있나요?
아직은 아닙니다. AI는 흔한 약점을 빠르고 자주 다루지만, 비즈니스 로직, 영향, 복잡한 공격 연결에는 여전히 사람이 더 뛰어납니다. 대부분의 팀은 둘 다 사용합니다.
AI 침투 테스트를 프로덕션에 실행해도 안전한가요?
엄격한 가드레일이 있을 때만 그렇습니다. 정해진 범위, 테스트 계정, 파괴적인 동작에 대한 보호가 필요합니다. 많은 팀이 먼저 스테이징 환경에서 실행합니다.
AI 펜테스트로 공급망 공격을 찾을 수 있나요?
거의 찾지 못합니다. AI 펜테스트는 실행 중인 애플리케이션을 공격하지만, 공급망 공격은 빌드 중에 실행되는 경우가 많습니다. 각 빌드가 가져오는 것을 기록하면 그 계층을 다룰 수 있습니다.
실행하는 것을 테스트하고, 빌드한 것을 기록하세요
GitHub Actions 빌드가 가져오는 모든 패키지를 기록하고, 새로운 취약점이 각각 어떤 릴리스에 영향을 주는지 확인하세요.
데모 예약