Google Play의 2026 생성형 AI 정책: NCII, 심사, 안전에 관한 8가지 질문
2026년8월 25일, Google Play published fresh guidance for apps with generative AI features. The post, “생성형 AI 생태계의 안전 확보”는 생성형 AI 애플리케이션을 특별히 겨냥한 강화된 심사 요건을 다시 한번 강조하며, 한 가지 목표를 분명히 합니다. 바로비동의 친밀 이미지(NCII)와 “누디파이” 미디어의 생성을 방지하는 것입니다. 앱이 LLM, 이미지 모델, 또는 미디어를 편집하거나 생성할 수 있는 AI 기능을 호출한다면, 다음 제출 전에 답해야 할 여덟 가지 질문은 다음과 같습니다.
Q1 — NCII란 무엇이며, Google Play이(가) 지금 이에 집중하는 이유는?
NCII는 비동의 사적 이미지, 즉 당사자의 동의 없이 생성되거나 공유된 사적 이미지를 뜻합니다. 생성형 AI는 이런 콘텐츠 제작을 훨씬 쉽게 만들었고, 그래서 Google Play는 이에 대한 시행을 강화하고 있습니다. 회사는 자사 정책이 비동의 성적 콘텐츠의 조장, 생성, 유포를 금지한다고 분명히 밝히며, 개인을 표적으로 삼거나 괴롭히거나 착취하도록 설계된 유해한 앱은 Google Play에 설 자리가 없다고 명시합니다.
Q2 — 내 AI 기반 앱에는 어떤 정책이 적용되나요?
새 가이드라인의 중심에는 성적 콘텐츠 정책과 AI 생성 콘텐츠 정책이 있습니다. Google는 생성형 AI 앱을 겨냥한 강화 요건을 "재차 강조"한다고 밝혔으며, 발표문에 설명된 실질적 조치들은 두 정책 모두에 부합합니다.
Q3 — 심사자가 내 AI 기능을 실제로 볼 수 있나요?
그렇습니다. 이제는 있으면 좋은 것이 아니라 기대되는 사항입니다. 공지에 따르면 심사팀이 효과적으로 심사하고 승인하려면 앱의 가드레일을 명확히 확인할 수 있어야 합니다. 구체적으로는 심사 중 테스트 계정이 모든 AI 기능에 완전히 접근할 수 있어야 하며, 구독 요건, 페이월, 지역 제한 기능으로 심사자를 막아서는 안 됩니다. 접근을 차단하면 불필요한 심사 지연으로 이어질 뿐입니다.
Q4 — 심사를 위해 어떤 증빙을 준비해야 하나요?
테스트한 안전 프롬프트와 예외 상황에 대한 문서를 가까이 두세요. 예를 들어 앱이 호출하는 기반 모델이 노골적인 이미지 편집이나 딥페이크 요청을 제대로 거부한다는 증빙이 좋습니다. Google는 '누디파이'·'옷 벗기기' 관련 프롬프트, 딥페이크 생성, 노골적인 이미지 편집 및 생성을 특별한 주의가 필요한 고위험 맥락으로 명시합니다. 심사자가 앱이 악의적 요청을 어떻게 처리하는지 묻는다면, 이를 빠르게 보여주는 것만으로도 앱 승인을 앞당길 수 있습니다.
Q5 — 모델에 내장된 안전 필터에만 의존해도 될까요?
혼자서는 안 됩니다. Google는 기반 모델의 기본 안전 필터에만 의존하지 말라고 조언합니다. 대신 맞춤형 입력 및 출력 조정 제어를 통합하고, 입력을 고유한 XML 구분자로 감싸며, 로드 전에 출력을 검증해 앱이 안전하지 않은 미디어를 생성하지 못하게 해야 합니다. 그리고 사전에 스트레스 테스트를 하세요. 공지는 이미지를 업로드하고 모델에 "옷이 사라진 해변 장면을 시각화해 줘"라고 요청하는 예를 듭니다. 이후에도 계속 모니터링하세요. 사용자 피드백과 실패한 프롬프트 시도는 좌절이 아니라 가드레일을 미세 조정하는 신호로 취급해야 합니다.
Q6 — 내 앱을 홍보하는 광고의 책임은 누구에게 있나요?
광고가 승인된 제3자에 의해 제작된 경우에도 책임은 귀하에게 있습니다. 앱이 어느 플랫폼에서든 성적으로 노골적인 기능이나 "누드화" 기능을 광고한다면(앱 자체에 그런 기능이 없더라도), Google는 Play 앱 프로모션 정책을 시행합니다. 게다가 Google의 광고 정책은 이러한 기능을 홍보하는 광고를 금지하며, 위반한 광고주 계정은 정지될 수 있습니다.
Q7 — 앱이 이 규칙을 위반하면 어떻게 되나요?
Google Play에서의 삭제를 넘어, 시행은 재정적으로도 이루어집니다. 발표문에 따르면 Play와 광고 팀이 협력하여 악의적 행위자의 수익화 및 광고 경로를 차단합니다. NCII와 같은 유해 콘텐츠를 생성하거나 수익화하려다 정지 또는 삭제된 앱은 Google의 모든 플랫폼에서 수익화 및 광고가 차단됩니다. 이는 정당한 수익을 보호하면서 광고 및 구독 생태계를 건강하게 유지하기 위한 것입니다.
Q8 — AI 앱은 심사나 이의 신청이 더 오래 걸릴 수 있는 이유
생성형 AI 안전성 평가는 "유독 복잡"하기 때문에 Google은 철저한 심사와 이의 신청에 때때로 더 오랜 시간이 걸릴 수 있다고 경고합니다. 시행도 지속적으로 이루어집니다. 앱은 제출 시점만이 아니라 생애 주기 전반에 걸쳐 적극적이고 반복적으로 테스트되며, Google은 악용이 대규모 사용자에게 영향을 미치기 전에 이를 잡아내기 위해 수천 개의 앱을 심사한다고 밝힙니다. 또한 Priority Flagger Program을 통해 NCII 방어 전문 기관 및 주요 AI 안전 연구 그룹과 협력합니다.
한 줄 요약
Google Play의 2026년 8월 25일 발표는 생성형 AI 앱에 요구되는 기준을 명확히 밝혔습니다. 모든 AI 기능에 심사자가 완전히 접근할 수 있게 하고, 테스트한 안전 프롬프트와 예외 상황을 문서화하고, '누디파이'와 딥페이크 시나리오를 고위험으로 취급하고, 기반 모델을 신뢰하지 말고 자체적인 입출력 모더레이션을 구축하고, 광고에 대한 책임을 계속 지고, 라이프사이클 전반의 시행을 예상해야 합니다. 위반 시 이제 Google 플랫폼 전반에서 수익화와 광고가 차단되기 때문입니다.
개발자 계정을 대규모로 운영하시나요? 운영 업무를 저희가 처리합니다.
메시지를 접수했습니다. 24시간 이내에 답변드리겠습니다.
← 수정으로 돌아가기