안전성 확보

 안전성 확보

인공지능사업자는 인공지능시스템의 안전한 운영을 위한 조치를 해야 합니다.  

인공지능의 안전성

인공지능사업자는 학습에 사용된 누적 연산량이 인공지능시스템의 안전성을 확보하기 위해 다음의 사항을 이행해야 합니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제32조제1항).

인공지능 수명주기 전반에 걸친 위험의 식별·평가 및 완화

인공지능 관련 안전사고를 모니터링하고 대응하는 위험관리체계 구축

※ “학습에 사용된 누적 연산량 기준 이상인 인공지능시스템”이란 다음의 기준에 모두 해당되는 인공지능시스템을 말합니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령」 제24조제1항).

학습에 사용된 누적 연산량이 10의 26승 부동소수점연산 이상일 것

인공지능기술의 발전 수준을 고려할 때 현재 인공지능시스템에 활용되는 인공지능기술 중 최첨단의 인공지능기술을 적용하여 구성·운영되고 있을 것

인공지능시스템의 위험도가 사람의 생명, 신체의 안전 및 기본권에 광범위하고 중대한 영향을 미칠 우려가 있을 것

인공지능사업자는 위에 따른 사항의 이행 결과를 과학기술정보통신부장관에게 제출해야 합니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제32조제3항).

사실조사 등

과학기술정보통신부장관은 다음의 어느 하나에 해당하는 경우에는 인공지능사업자에 대해 관련 자료를 제출하게 하거나, 소속 공무원이 필요한 경우 조사를 할 수 있고, 위반 사실이 있다고 인정되면 위반행위의 중지나 시정을 명할 수 있습니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제40조제1항 및 제3항).

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제32조제1항·제2항에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제32조제1항·제2항의 위반에 대한 신고를 받거나 민원이 접수된 경우

위의 사항을 위반하여 고지의무, 중지명령, 시정명령을 이행하지 않은 자에게는 3천만원 이하의 과태료가 부과됩니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제43조제1항제1호 및 제3호).