[정보 보안] AI Security (12)

[5] AI Security
[5-1] AI 강화를 위한 보안
[5-2] 보안 강화를 위한 AI

[5-1] AI 강화를 위한 보안

AI 동작 절차
- 1. Dataset
- 2. Training
- 3. Model creation
- 4. Predictions
- 5. Service

Deep learning 기술의 한계
- 매우 많은 학습 데이터가 필요하다.
- 결과에 대한 인과 관계 표현 능력이 부족하다.
- 예외 상황에 대한 처리가 불가능하다.

Adversarial Examples
- 적대적 사례
- 인간의 눈에 보이지 않는 noise를 섞은 이미지
- 예측 단계에서 AI 모델을 쉽게 속일 수 있다.

Fast Gradient Sign Method
- 적대적 공격 방법
- 학습 방향의 반대 방향으로 노이즈를 생성해 오작동을 유발한다.
- Gradient Decent : 함수의 기울기를 구해 기울기가 낮은 쪽으로 계속 이동하며 어느 한 곳에서 수렴하는 기법 
- Gradient Decent의 반대 방향으로 노이즈 첨가한 데이터를 생성해 학습을 방해한다

[5-2] 보안 강화를 위한 AI

이상 탐지
- Anomaly Detection
- 이상 탐지는 데이터에서 예상되는 동작과 일치하지 않는 패턴을 찾는 것

이상 탐지 유형
- Point Anomaly : 어떤 공간에서 다른 data들과 큰 타이를 보이는 data를 탐지
- Context Anomaly : 어떤 context가 주어졌을 때, 평상시와 다른 context와 다른 양상을 띄는 data를 탐지
- Collective Anomaly : 연관된 data 집합이 주어졌을 때 특이한 pattern을 보이는 data를 탐지

보안을 위한 AI
- 명시적 규칙은 설계하고 일반화하기 어렵다.
- 컴퓨터가 데이터에서 암묵적인 규칙을 배우도록 해야한다.
- 대부분의 security와 관련된 시스템들은 각자의 방식으로 data를 수집한다. (raw packet data, log, statistic data, etc.)
- 이런 data는 대부분 파편적인 벙보만 갖고있어 machine learning 기법들에서 바로 처리하기 힘든 형태인 경우가 많다.
- 수집-통합-변형-보완-분석등의 단계를 통해 data를 해석할 필요가 있다. (비정형 데이터로부터 특징 추출 및 판단까지 한 번에 수행)

Classification algorithm
- 미리 정의된 여러번주(Labels)중 하나에 개체를 할당하는 데이터 마이닝 기술
- 모든 학습 데이터에 대한 label이 요구된다.
- 기존의 label이 있는 data(training dataset)을 이용해 classification model을 학습후
- 학습된 classification model을 활용해 새롭게 관특된 데이터의 label을 예측한다.
- 보안 관점에서의 classification algorithm은 정상/비정상 이벤트에 대한 삭습 데이터를 이용해 모델을 구축하고 이를 통해 새로운 이벤트에 대한 label을 도출한다.

@Neural Network
- 생물의 신경이 동작하는 방식을 컴퓨터 상에서 재현한 머신러닝 알고리즘
- 이론상 2개 이상의 Hidden Layer가 존재하는 경우, 컴퓨터가 수행 가능한 모든 기능을 수행할 수 있다.

AI Security System의 한계
- AI system은 대량의 데이터 분석 과정에서 뛰어난 성능을 보이나 다양한 원인으로 인해 오탐 및 미탐을 완전히 제거하지 못하고 있다.
- 그러나 기존 AI system은 판단 결과에 대한 근거를 제시하지 못해 오탐 및 미탐의 원인 분석 및 모델의 수정이 어렵다.

AI Security 신뢰성 향상을 위한 XAI
- Explainable AI
- 사용자가 인공지능 시스템의 동작과 최종 결과를 이해하고 최종 결과물이 생성되는 과정을 설명 가능하도록 해주는 기술

XAI Security
- XAI Security for classification/prediction learning task
- AI Security System의 예측 결과를 사용자가 이해할 수 있도록 한다. (Data Analystics)
- XAI Security for reinforcement learning task
- XAI 결과가 사용자의 판단을 거치지 않고 모델 학습 및 예측 과정에 직접적으로 영향을 주게한다. (Autonomy)