고영향 인공지능사업자의 책무 등

사실조사 등

과학기술정보통신부장관은 다음의 어느 하나에 해당하는 경우에는 인공지능사업자에 대해 관련 자료를 제출하게 하거나, 소속 공무원이 필요한 경우 조사를 할 수 있고, 위반 사실이 있다고 인정되면 위반행위의 중지나 시정을 명할 수 있습니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제40조제1항 및 제3항).

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제34조제1항에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제34조제1항의 위반에 대한 신고를 받거나 민원이 접수된 경우

위의 사항을 위반하여 중지명령이나 시정명령을 이행하지 않은 자에게는 3천만원 이하의 과태료가 부과됩니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제43조제1항제3호).

고영향 인공지능을 이용한 제품·서비스에 대해서는 영향평가를 받아야 합니다.  

고영향 인공지능의 영향평가

인공지능사업자가 고영향 인공지능을 이용한 제품 또는 서비스를 제공하는 경우 사전에 사람의 기본권에 미치는 영향을 평가(이하 “영향평가”라 함)하기 위하여 노력하여야 합니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제35조제1항 전단).

위의 경우 영향평가에는 고영향 인공지능을 이용한 제품 또는 서비스의 성격을 고려하여 다음의 사항이 포함되어야 합니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제35조제1항 후단 및 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령」 제28조제1항).

해당 고영향 인공지능을 이용한 제품 등에 의해 사람의 생명, 신체의 안전 및 기본권에 영향을 받을 가능성이 있는 개인이나 집단에 대한 식별(인공지능취약계층의 특성 반영)

해당 고영향 인공지능과 관련해서 영향을 받을 수 있는 기본권 유형의 식별

해당 고영향 인공지능으로 인해 발생할 수 있는 사람의 기본권에 대한 사회적·경제적 영향의 내용 및 범위

해당 고영향 인공지능의 사용 행태

영향평가에서 활용한 정량적 또는 정성적 평가지표 및 결과산출 방식

해당 고영향 인공지능으로 인한 위험의 예방·완화·손실 복구 등에 관한 사항

영향평가의 결과 개선이 필요한 경우에는 그 이행계획에 관한 사항

※ 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 지원데스크

전화상담: ☎ 080-850-2546

인터넷 상담: 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 지원데스크 홈페이지(https://www.sw.or.kr)

국내에 주소나 영업소가 없는 일정 규모 이상의 인공지능사업자는 국내대리인을 지정해야 합니다.  

국내대리인 지정 대상 및 지정 사항

국내에 주소 또는 영업소가 없는 인공지능사업자로서 이용자 수, 매출액 등이 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령」 제29조제1항에서 정하는 기준에 해당하는 자는 다음의 사항을 대리하는 자(이하 “국내대리인”이라 함)를 서면으로 지정하고, 이를 과학기술정보통신부장관에게 신고해야 합니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제36조제1항).

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제32조제2항에 따른 이행 결과의 제출

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제33조제1항에 따른 안전성·신뢰성 확보 조치의 이행에 필요한 지원

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제34조제1항 각 호에 따른 안전성·신뢰성 확보 조치의 이행에 필요한 지원(같은 법 제1항제5호에 따른 문서의 최신성·정확성에 대한 점검을 포함 한다)

국내대리인의 자격 및 책임

국내대리인은 국내에 주소 또는 영업소가 있는 자로 합니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제36조제2항).

국내 대리인이 위 사항과 관련하여 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」을 위반한 경우에는 해당 국내대리인을 지정한 인공지능사업자가 그 행위를 한 것으로 봅니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제36조제3항).

위반 시 제재

이를 위반하여 국내대리인을 지정하지 않으면 3천만원 이하의 과태료가 부과됩니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제43조제1항제2호).