• 용어 정의: 소프트웨어 및 AI 시스템이 악의적인 사이버 공격, 비인가 접근, 또는 예측 불가능한 입력값으로부터 데이터의 기밀성과 무결성을 보호하고, 의도치 않은 오작동으로 인한 비즈니스 리스크를 통제할 수 있는지 평가하는 방어적 품질 검증 기법입니다.

• AI/SW 테스팅 실무 적용: B2B 엔터프라이즈 환경의 AI 모델은 민감한 기업 내부 데이터를 다루므로 프롬프트 인젝션(Prompt Injection)이나 기밀 유출과 같은 치명적 보안 위협에 노출되어 있습니다. 따라서 서비스 정식 시행(배포) 전에는 AI 아키텍처의 구조적 취약점과 학습 데이터의 편향성을 폐쇄된 환경에서 사전 색출하는 공격 시뮬레이션에 집중해야 합니다. 반면 서비스 시행(운영) 후에는 실제 라이브 트래픽에 은닉되어 유입되는 제로데이(Zero-day) 공격과 우회 질의를 실시간으로 탐지하고 즉각 격리하는 동적 방어망 체계로서 이 검증 로직이 작동해야 합니다.

➡️ [테스팅 사례 확인하기]