AI 위험 선호도 성명서는 조직이 목표를 추구하는 과정에서 수용하고자 하는 AI 관련 위험의 유형과 수준을 설명합니다. 유용한 성명서는 광범위한 원칙을 AI 시스템에 대한 실제 선택을 안내할 수 있는 의사결정 임계값, 제한 사항 및 에스컬레이션 규칙으로 전환합니다.

위험 선호도는 조직의 이사회에서 설정하며 조직의 목적, 법적 의무, 자원 및 결정의 영향을 받는 사람들을 반영해야 합니다. 이는 AI가 안전하다거나 안전하지 않다는 선언이 아닙니다. 사용 방식에 따라 노출되는 위험이 다릅니다. 내부 요약을 작성하는 도구는 업무, 의료, 신용 또는 필수 서비스에 대한 접근에 영향을 미치는 시스템과 동일한 결과를 초래하지 않습니다.

성명서를 운영 가능하게 만들기

구체적인 임계값이 없는 성명서는 거버넌스 도구가 아니라 보도 자료에 불과합니다. '책임 있는', '저위험' 또는 '인간 중심'과 같은 용어는 의도를 표현할 뿐, 제안된 사용에 대해 언제 승인이 필요한지, 어떤 잔여 위험이 허용될 수 있는지, 누가 배포를 중단할 수 있는지 팀에 알려주지 않습니다. 유용한 위험 수용 범위 성명서는 측정 가능하거나 관찰 가능한 경계를 정의하고 이를 초과할 때 어떤 일이 발생하는지 설명합니다.

임계값은 발생 가능한 피해의 심각성과 가역성, 증거의 품질, 허용되는 인간 검토 수준, 데이터 민감도, 모델 성능 또는 단일 공급자에 대한 의존도를 다룰 수 있습니다. 또한 금지된 사용이나 조직의 정책에 따라 자동화된 시스템에 위임할 수 없는 결정과 같은 협상 불가능한 한계를 식별해야 합니다. 문구는 이사회 구성원, 시스템 소유자 및 기술 팀이 이해할 수 있는 수준으로 유지되어야 합니다.

위험 수용 범위를 의사결정과 연결하십시오

제안된 AI 사용에 대해 소유자는 의도된 이점, 영향을 받는 그룹, 주요 위험, 증거 및 통제 수단을 문서화한 다음 잔여 위험을 합의된 한도와 비교할 수 있습니다. 한도를 초과하거나 증거가 미흡한 경우, 다음 단계는 명확해야 합니다. 추가적인 보증을 확보하거나, 사용 범위를 좁히거나, 통제 수단을 추가하거나, 더 높은 수준의 승인을 구하거나, 배포를 거부하는 것입니다. 이는 위험 선호도를 운영과 별도로 보관되는 문서가 아닌 의사 결정 과정의 일부로 만듭니다.

위험 선호도는 불확실성도 반영해야 합니다. 시스템이 테스트에서는 잘 작동할 수 있지만 출시 후 익숙하지 않은 입력이나 변화하는 조건에 직면할 수 있습니다. 조직은 증거가 제한적인 동안에는 더 엄격한 한도를 설정하고, 단계적 배포를 요구하며, 일시 중지나 재평가를 유발하는 신호를 정의할 수 있습니다. 위험 선호도가 지속적인 모니터링이나 실제 피해가 발생했을 때 행동해야 할 의무를 대체하지는 않습니다.

조직의 용도, 의무 및 위험 환경이 변화함에 따라 해당 성명서를 검토하십시오. 건전한 접근 방식은 하나의 숫자로 모든 형태의 AI 위험을 설명할 수 있다고 가정하지 않으면서 기업 수준의 경계와 시스템 수준의 허용 오차를 연결합니다. 지정된 소유자는 자신이 직접 내릴 수 있는 결정과 고위 경영진 또는 이사회에 보고해야 하는 결정을 구분하여 알고 있어야 합니다.