과학기술정보통신부는 오는 10월부터 생성형 AI 기술을 탑재한 모바일 애플리케이션의 보안성을 검증하는 'AI 앱 신뢰성 인증제'를 본격 시행한다고 17일 밝혔다. 이번 조치는 최근 개인정보 유출 및 데이터 오남용 논란이 지속되는 생성형 AI 앱 시장의 안전망을 강화하기 위해 마련됐으며, 앱 내 데이터 처리 방식과 AI 알고리즘의 투명성을 핵심 평가 지표로 삼는다.
정부는 이번 정책을 통해 개발사가 AI 모델의 학습 데이터 출처를 의무적으로 공개하게 하고, 악의적인 프롬프트 주입 공격을 방어할 수 있는 보안 아키텍처 도입을 권고할 방침이다. 과기정통부 소프트웨어정책과 관계자는 "단순한 기능 구현을 넘어 이용자의 프라이버시 보호가 앱의 생존을 결정짓는 시대가 됐다"며, "이번 인증제는 국내 AI 앱 생태계가 글로벌 표준으로 도약하기 위한 필수적인 품질 보증 체계가 될 것"이라고 설명했다.
전문가들은 이번 정책이 모바일 시장의 기술적 신뢰도를 높일 것으로 기대하고 있다. 한국정보보호학회 소속 한 교수는 "AI가 생성한 결과물에 대한 책임 소재를 명확히 하고, 기술적 취약점을 사전 차단하는 환경이 조성될 것"이라 평가했다. 과기정통부는 연말까지 주요 앱 스토어와 협력해 인증 마크를 도입하고, 내년부터는 공공 부문 앱 개발 시 해당 인증 취득을 의무화하는 방안을 검토 중이다.