쉬운 영어 참조 자료
AI 위험, 설명
AI 위험은 인공지능 시스템의 개발, 배포 또는 사용으로 인해 발생하는 피해, 손실 또는 의도하지 않은 결과의 가능성입니다. 여기에는 사람, 조직 및 그들이 의존하는 시스템에 대한 위험이 포함됩니다.
참조 라이브러리 탐색시작점
AI 위험의 세 가지 광범위한 범주
세 가지 범주가 시작점을 제공하며, 하나의 사건이 여러 계층에 동시에 영향을 미칠 수 있습니다.
전략적 위험
전략적 위험은 조직이 AI를 사용해야 하는지, 준비가 되었는지, 예상되는 이점이 노출을 정당화하는지에 관한 것입니다. 여기에는 목표와의 불일치, 부적절한 사용, 취약한 책임성 및 수용할 수 없는 의존성이 포함됩니다.
운영 위험
운영 위험은 AI 설계, 획득, 배포 및 사용 과정에서 발생합니다. 여기에는 신뢰할 수 없는 결과물, 편향되거나 불완전한 데이터, 개인정보 및 보안 실패, 오용, 취약한 검토 및 중단 등이 포함됩니다. 통제 수단은 모델, 사람, 공급업체 및 프로세스를 종합적으로 고려해야 합니다.
시스템적 위험과 AI 블랙 스완
시스템적 위험은 공유 모델, 인프라, 데이터 또는 인센티브를 통해 조직이나 사회 전반으로 확산됩니다. 일부 영향력이 큰 꼬리 위험(tail risks)은 운영 분류 체계 밖에 존재합니다. 회복탄력성 계획은 모든 미지의 상황을 예측하려 하기보다 어떻게 감지하고 대응할 것인가를 묻습니다.
AI 위험이 기존 기술 위험과 다른 이유
기존 소프트웨어는 사전에 작성된 규칙을 따를 것으로 예상됩니다. AI 시스템은 학습된 패턴에서 결과물을 생성하므로 상황과 업데이트에 따라 결과가 달라질 수 있습니다. 특히 모델이 데이터, 사람 및 다른 시스템과 결합될 때 행동을 설명하거나 재현하거나 철저하게 테스트하기 어려울 수 있습니다.
이는 피해를 유발하는 결정으로 이어지는 경로를 추적하기 어렵게 만들 수 있습니다. 출력물은 인간의 결정을 형성하거나, 행동을 유발하거나, 에이전트 간에 전달될 수 있습니다. 위험 분석은 모델, 더 넓은 시스템, 목적, 운영 조건 및 책임 있는 사람들을 검토해야 합니다. 목표는 가정, 소유권 및 대응 계획을 명확히 하는 것입니다.
참조 라이브러리
AI 위험 용어 탐색
각 항목은 짧은 정의로 시작하며, 그 개념이 실제로 어떻게 적용되는지 설명합니다.
자주 묻는 질문
AI 위험: 빠른 답변
- AI 위험은 사이버 보안 위험과 동일한가요?
- 아니요. 사이버 보안은 AI 위험의 일부이며 두 영역은 겹치지만, AI 위험에는 행동적, 윤리적, 체계적 차원도 포함됩니다.
- 조직 내 AI 위험에 대한 책임은 누구에게 있나요?
- 궁극적으로 이사회는 조직의 위험 감독에 대한 책임이 있습니다. 또한 배포된 각 AI 시스템에는 이를 모니터링하고 상황 변화 시 조치를 취할 권한이 있는 지정된 담당자가 있어야 합니다.
- AI 위험 관리와 AI 거버넌스의 차이점은 무엇인가요?
- 거버넌스는 책임, 의사결정 권한 및 위험 선호도를 설정합니다. 위험 관리는 해당 거버넌스 내에서 위험을 식별, 평가 및 처리하는 운영 규율입니다.