# Home
**Source:** https://ko.airisks.net/
**Language:** Korean

---

쉬운 영어 참조 자료

# AI 위험, 설명

AI 위험은 인공지능 시스템의 개발, 배포 또는 사용으로 인해 발생하는 피해, 손실 또는 의도하지 않은 결과의 가능성입니다. 여기에는 사람, 조직 및 그들이 의존하는 시스템에 대한 위험이 포함됩니다.

참조 라이브러리 탐색

시작점

## AI 위험의 세 가지 광범위한 범주

세 가지 범주가 시작점을 제공하며, 하나의 사건이 여러 계층에 동시에 영향을 미칠 수 있습니다.

### 전략적 위험

전략적 위험은 조직이 AI를 사용해야 하는지, 준비가 되었는지, 예상되는 이점이 노출을 정당화하는지에 관한 것입니다. 여기에는 목표와의 불일치, 부적절한 사용, 취약한 책임성 및 수용할 수 없는 의존성이 포함됩니다.

### 운영 위험

운영 위험은 AI 설계, 획득, 배포 및 사용 과정에서 발생합니다. 여기에는 신뢰할 수 없는 결과물, 편향되거나 불완전한 데이터, 개인정보 및 보안 실패, 오용, 취약한 검토 및 중단 등이 포함됩니다. 통제 수단은 모델, 사람, 공급업체 및 프로세스를 종합적으로 고려해야 합니다.

### 시스템적 위험과 AI 블랙 스완

시스템적 위험은 공유 모델, 인프라, 데이터 또는 인센티브를 통해 조직이나 사회 전반으로 확산됩니다. 일부 영향력이 큰 꼬리 위험(tail risks)은 운영 분류 체계 밖에 존재합니다. 회복탄력성 계획은 모든 미지의 상황을 예측하려 하기보다 어떻게 감지하고 대응할 것인가를 묻습니다.

## AI 위험이 기존 기술 위험과 다른 이유

기존 소프트웨어는 사전에 작성된 규칙을 따를 것으로 예상됩니다. AI 시스템은 학습된 패턴에서 결과물을 생성하므로 상황과 업데이트에 따라 결과가 달라질 수 있습니다. 특히 모델이 데이터, 사람 및 다른 시스템과 결합될 때 행동을 설명하거나 재현하거나 철저하게 테스트하기 어려울 수 있습니다.

이는 피해를 유발하는 결정으로 이어지는 경로를 추적하기 어렵게 만들 수 있습니다. 출력물은 인간의 결정을 형성하거나, 행동을 유발하거나, 에이전트 간에 전달될 수 있습니다. 위험 분석은 모델, 더 넓은 시스템, 목적, 운영 조건 및 책임 있는 사람들을 검토해야 합니다. 목표는 가정, 소유권 및 대응 계획을 명확히 하는 것입니다.

참조 라이브러리

## AI 위험 용어 탐색

각 항목은 짧은 정의로 시작하며, 그 개념이 실제로 어떻게 적용되는지 설명합니다.

## 관련 용어

- AI 위험 관리
- AI 거버넌스
- AI 위험 분류 체계

자주 묻는 질문

## AI 위험: 빠른 답변

AI 위험은 사이버 보안 위험과 동일한가요?
:   아니요. 사이버 보안은 AI 위험의 일부이며 두 영역은 겹치지만, AI 위험에는 행동적, 윤리적, 체계적 차원도 포함됩니다.

조직 내 AI 위험에 대한 책임은 누구에게 있나요?
:   궁극적으로 이사회는 조직의 위험 감독에 대한 책임이 있습니다. 또한 배포된 각 AI 시스템에는 이를 모니터링하고 상황 변화 시 조치를 취할 권한이 있는 지정된 담당자가 있어야 합니다.

AI 위험 관리와 AI 거버넌스의 차이점은 무엇인가요?
:   거버넌스는 책임, 의사결정 권한 및 위험 선호도를 설정합니다. 위험 관리는 해당 거버넌스 내에서 위험을 식별, 평가 및 처리하는 운영 규율입니다.

더 깊이 알아보기: EW-AiRM™ 프레임워크 탐색