1. 금지된 AI (Unacceptable Risk) - 절대 쓰면 안 됨

EU 내에서 사용 자체가 불법인 영역입니다.

내용: 인간의 잠재의식을 조종하거나, 사회적 점수(Social Scoring)를 매기거나, 실시간 원격 생체 인식(CCTV로 얼굴 인식 등)을 하는 AI.

2. 고위험 AI (High Risk) - 엄격한 심사 필요

화장품/식품 기업이 가장 주의해야 할, 의료/안전과 관련된 영역입니다.

내용: 의료기기, 생체 인식, 인프라, 채용 등에 쓰이는 AI. 출시에 앞서 적합성 평가, 품질 관리 시스템, 인간 감독 등 까다로운 의무가 부과됨.

- 화장품 추천을 위해 고객 얼굴을 스캔하고 질환을 진단하는 AI 앱은 유럽에선 의료기기 소프트웨어로 분류되어 고위험 AI 규제를 받을 수 있음.

- AI로 직원 면접을 보거나 이력서를 거르는 행위도 고위험군이라 감사 대상임

3. 제한적 위험 AI (Limited Risk) - "투명성 의무 (가장 중요)"

마케팅/상세페이지/챗봇 영역

- 챗봇, 감정 인식 시스템, 딥페이크(Deepfake), 생성형 AI(Generative AI) 사용시 "나는 AI입니다" 라고 밝혀야 함 (투명성 의무)

=>CS 챗봇이 사람인 척 응대하면 불법이며 반드시 대화 시작 전에 '저는 AI 챗봇입니다'라고 고지하도록 세팅

=>상세페이지 속 모델이 실존 인물이 아니라 AI가 만든 가상 인간이라면, 소비자가 알 수 있게 표시해야 함.

4. 최소 위험 AI (Minimal Risk) - 자유롭게 사용

내용: 스팸 필터, AI 게임 등. 별도 규제 없이 기존 법률 준수

와이에스엠경영컨설팅 윤수만소장 (AI리스크관리/AI활용코칭)