투명성 확보

 투명성 확보

인공지능사업자는 고영향·생성형 인공지능 서비스 제공 시 사전고지 및 결과물 표시 의무를 이행해야 합니다.  

인공지능 기반 제품·서비스 사전고지 의무

인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스(이하 “제품 등”이라 함)를 제공하는 경우 다음에 해당하는 방법으로 제품 등이 해당 인공지능에 기반해서 운용된다는 사실을 이용자에게 사전에 고지해야 합니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조제1항 및 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령」 제23조제1항).

제품 등에 직접 기재하거나 계약서, 사용 설명서, 이용약관 등에 기재

이용자의 화면 또는 단말기 등에 표시

제품 등을 제공하는 장소(해당 장소와 합리적으로 관련된 범위의 장소를 포함)에 인식하기 쉬운 방법으로 게시

그 밖에 제품 등의 특성을 고려해서 과학기술정보통신부장관이 인정하는 방법

위의 사항을 위반하여 고지의무를 이행하지 않은 자에게는 3천만원 이하의 과태료가 부과됩니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제43조제1항제1호).

생성형 인공지능 결과물 표시 의무

인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 등을 제공하는 경우 그 결과물이 생성형 인공지능에 의해 생성되었다는 사실을 다음에 해당하는 방법으로 표시해야 합니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조제2항 및 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령」 제23조제2항).

사람이 인식할 수 있는 방법

기계가 판독할 수 있는 방법(결과물이 생성형 인공지능에 의해 생성되었다는 사실을 1회 이상 안내 문구·음성 등으로 제공)

가상 음향·이미지·영상 결과물 고지 의무

인공지능사업자는 인공지능시스템을 이용해서 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 인공지능시스템에 의해 생성되었다는 사실을 이용자가 명확하게 인식할 수 있도록 다음의 사항을 고려하여 고지 또는 표시해야 합니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조제3항 및 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령」 제23조제3항).

이용자가 시각, 청각 등을 통하거나 소프트웨어 등을 이용해서 쉽게 내용을 확인할 수 있는 방법으로 고지 또는 표시할 것

주된 이용자의 나이, 신체적·사회적 조건 등을 고려해서 고지 또는 표시할 것

사실조사 등

과학기술정보통신부장관은 다음의 어느 하나에 해당하는 경우에는 인공지능사업자에 대해 관련 자료를 제출하게 하거나, 소속 공무원이 필요한 경우 조사를 할 수 있고, 위반 사실이 있다고 인정되면 위반행위의 중지나 시정을 명할 수 있습니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제40조제1항 및 제3항).

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조제2항·제3항에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조제2항·제3항의 위반에 대한 신고를 받거나 민원이 접수된 경우

위의 사항을 위반하여 고지의무, 중지명령, 시정명령을 이행하지 않은 자에게는 3천만원 이하의 과태료가 부과됩니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제43조제1항제1호 및 제3호).