공공기관 내 신뢰할 수 있는 AI 시스템 도입을 위한 지침서
한국정보화진흥원(이하 NIA)은 공공기관 AI 시스템의 부작용을 최소화하고 신뢰받는 지능정보서비스를 구현을 위한 지침서로 ‘공공기관 신뢰가능 AI 구현 실용가이드’를 발간했다고 30일 밝혔다.
실용 가이드는 세 부분으로 구성돼 있다.
신뢰가능 AI에 대한 OECD 기본원칙을 설명하고, 이러한 원칙이 구현된 시스템을 신뢰 가능 AI 시스템으로 정의하고 있다.
신뢰가능 AI 원칙 준수를 위해 시스템 개발부터 운영까지 생애주기의 단계별, 책임자별로 세분화한 실행 지침을 담고 있다.
공공기관이 신뢰 가능 AI 구현을 위해 필요한 거버넌스 프레임워크(관리체계, 위험관리와 인간의 개입, 데이터 관리, 고객 의사소통)를 제시하고 있다.
지능정보사회의 도래로 AI가 일상 깊숙이 확산되고 있는 가운데 알고리즘과 데이터 편향에 따라 인권과 안전을 해치는 부작용도 계속 발생하고 있다.
국제사회에서는 신뢰할 수 있는 AI를 만들기 위한 여러 원칙을 잇달아 발표하고 있다.
OECD는 지난 5월, 포용 성장, 사람 중심가치, 투명성, 안전성, 책임성의 5가지 원칙을 제시했다.
NIA는 이러한 국제적인 노력에 발맞춰 공공기관이 신뢰가능 AI를 구현할 때, 이러한 원칙을 준수할 수 있도록 설계단계부터 적용돼야 할 세부 지침을 마련한 것이다.
NIA 측은 “앞으로도 기업, 전문가, 이해관계자와 지속적으로 협력해 보다 구체적인 실천방안을 마련하고 가이드 적용 우수사례를 담아 담당자들이 쉽게 따라할 수 있는 길잡이가 되도록 실용 가이드를 계속 보완하겠다”고 밝혔다.
이주형 기자 leejh@idaegu.com