ML 모델 강건성 평가 방법론

자율주행 시스템과 같은 안전 필수 시스템에 머신러닝(ML) 모델이 적용될 경우, 불확실성과 적대적 공격에 대한 취약성으로 인해 인명 손실과 같은 심각한 결과를 초래할 수 있습니다. 따라서 이러한 시스템에 ML 모델을 통합하기 전에 모델의 경험적 강건성을 평가하는 것이 매우 중요합니다. ML 모델 강건성은 입력 섭동에 둔감하고 성능을 유지하는 모델의 능력을 의미합니다. 이러한 배경에서 Confiance.ai 연구 프로그램은 ML 모델의 경험적 강건성을 평가하기 위한 방법론적 프레임워크를 제안합니다. 이 프레임워크는 Capella 모델에 담긴 방법론적 프로세스(가이드라인)와 이를 지원하는 도구 세트를 포함합니다. 본 논문은 이 프레임워크의 개요와 산업 환경에서의 적용 사례를 제시합니다. 제안된 프레임워크는 안전 필수 시스템에 ML 모델을 통합하기 전 필수적인 강건성 평가를 위한 체계적인 접근법을 제공합니다. 이 연구는 ML 모델의 신뢰성과 안전성을 확보하는 데 기여하며, 특히 산업 현장에서 ML 기반 시스템의 안정적인 배포를 위한 실질적인 가이드라인을 제공합니다.