AI 요약
애플, 심사 지침 개정 — AI 누드화 · 기능 바꿔치기 앱 차단 강화
Strengthening App Review Guidelines against nonconsensual intimate imagery and bait-and-switch apps
- 원문
- Apple Developer
- 게시
- 10-17 05:00
- 읽는 시간
- 원문 2분
한눈에 보기
- 애플이 10월 16일 App Review Guidelines 개정. 비동의 성적 이미지와 심사 뒤 기능을 바꾸는 '바꿔치기' 앱 겨냥
1.2: 사용자 콘텐츠 앱은 AI로 만든 것을 포함한 비동의 성적 이미지를 사전에 막고 삭제해야 함2.5.19신설: 숨긴 · 휴면 · 문서화하지 않은 기능 금지. 위반 시 앱 삭제 · 개발자 계정 해지5: 인신매매 · 아동 착취 앱은 대체 배포도 차단. 개정은 공지 당일 게시, 별도 유예 기간 언급 없음
애플이 밝힌 기존 규칙
- 포르노 콘텐츠는 오래전부터 금지. 실존 인물의 성적 이미지를 동의 없이 만드는 '누드화(nudification)' 앱 등 생성 앱도 포함
- 사용자 생성 콘텐츠(UGC) 앱은 불쾌한 콘텐츠 필터링 · 신고 수단 · 악성 계정 차단 기능이 의무
- 숨겨진 · 문서화되지 않은 기능도 금지. 심사 땐 용도를 속이고 승인 뒤 누드화 같은 유해 기능을 드러내는 바꿔치기(bait-and-switch) 포함
- 애플은 일관되게 집행되는 명확한 기준이 App Store 신뢰의 기반이며, 새 위험이 나오면 프라이버시 · 품질 · 안전 기준 위에서 지침을 강화 · 확장한다고 설명
1.2 사용자 생성 콘텐츠
- 새 문구 (9to5Mac 인용)
- 대상: 사용자가 콘텐츠를 만들고(create) · 생성하고(generate) · 올리고 · 공유하거나 그 밖에 기여하게 하는 앱
- 과제 목록에 지식재산권 침해 · 익명 괴롭힘과 함께 비동의 성적 이미지(nonconsensual intimate imagery) 명시
- 적절한 보호 장치를 두지 않거나 통보 뒤 확인된 위반을 고치지 않으면
Developer Code of Conduct위반으로 볼 수 있음
- 애플 공지: 보호 장치가 부족하거나 통보 뒤 위반을 고치지 않으면 Code of Conduct 위반 소지와 함께 App Store 퇴출 위험
- MacRumors는 개정 1.2가 AI 콘텐츠 생성 앱을 명시해 Grok 같은 앱을 겨냥했을 수 있다고 봄
2.5.19 숨은 기능 금지
- 새 문구 (9to5Mac 인용)
- 앱에 숨긴(hidden) · 휴면(dormant) · 문서화하지 않은(undocumented) 기능을 넣지 말 것
- 앱 기능은 최종 사용자와 App Review 모두에게 분명해야 함
- 코드 난독화 등으로 문서화하지 않은 기능을 앱 바이너리에 숨기려는 시도는 앱 삭제 · 개발자 계정 해지 사유
- 애플 설명: 심사 때 하는 일을 속이고 승인 뒤 바뀌는 앱을 막던 기존 금지의 명확화. 적발 시 App Store 삭제 · Apple Developer Program 퇴출
- 예: 심사에 제출한 버전에 없던 기능을 승인 뒤 추가
- 숨은 기능 금지는 이미
2.3.1에 있었으나, 코드 난독화를 직접 언급하고 앱 삭제 · 계정 해지를 강조해 더 분명히 함 (9to5Mac) - MacRumors는 애플이 이 규칙을 누드화 앱과 연결한 것을 일부 앱이 심사 때 용도를 숨기고 승인 뒤 누드화 기능을 넣었다는 뜻으로 봄
- 난독화 자체보다 문서화하지 않은 기능을 숨기려는 난독화가 제재 대상으로 읽힘 (편집 분석)
5 법률
- App Store는 인신매매 · 아동 착취(아동 성착취물 CSAM 포함)를 돕는 앱을 늘 금지했고, 발견하면 삭제해 옴
- 새 문구: 이런 앱은 'App Store에서 삭제되고 대체 배포(alternative distribution)에서도 차단됨'
집행 현황
- 지난해 안전 문제가 있는 앱 15만 개 이상을 사용자에게 닿기 전 차단, 사기 · 악용으로 개발자 계정 19만 3천 개 이상 해지
- 이런 위반은 악의적 행위자, 때로는 조직적 사기 집단이 승인 뒤에야 켜지는 유해 콘텐츠를 숨긴 데서 비롯된다고 설명
- 수법이 바뀌는 만큼 이런 행위를 더 빨리 막고 잡도록 도구 · 리소스를 계속 개선 중
- '지침을 어기면 앱을 삭제하고 그 개발자를 퇴출하는 데 주저하지 않는다'고 경고
개정 배경 사례
- 지난 1년간 지침을 피해 미성년자 등 사용자를 유해 콘텐츠에 노출한 앱 보도 · 논란이 이어짐 (9to5Mac)
- 1월 — Tech Transparency Project(TTP)가 App Store에서 AI 누드화 앱 수십 개 확인
- 4월 — TTP 후속 조사: App Store 검색 제안 · 광고가 이런 앱으로 사용자를 안내
- 7월 — 샌프란시스코 당국이 비동의 성적 이미지를 만들 수 있는 앱 8개 삭제를 애플에 명령
- 7월 — 9to5Mac 조사: 게임 · 유틸리티로 위장해 심사를 피한 도박 앱 수십 개 발견, 다수가 어린이도 이용 가능
- 브라질 밖에서는 광고대로 동작하다 브라질 IP로 열면 숨은 베팅 플랫폼이 나타남
- Grok 논란 — Elon Musk의 AI 챗봇으로 여성 · 미성년자의 비동의 성적 이미지가 만들어져 의원 · 시민단체가 X · Grok 삭제 요구
- 애플은 문제를 해결하지 않으면 Grok을 삭제할 수 있다고 xAI에 비공개로 경고한 사실을 나중에 확인
- 올해 앞서 애플 경고 뒤 xAI가 보호 장치를 넣었고 애플이 업데이트 버전 승인 (MacRumors)
관련 보도3개 매체 · 4건 · 영어
- Apple Developeren→ko
Strengthening App Review Guidelines against nonconsensual intimate imagery and bait-and-switch apps
지금 보는 글 - Apple Developeren→ko
Updated App Review Guidelines are now available
- MacRumorsen→ko
New App Store Rules Target AI Deepfakes and Nudify Apps
- 9to5Macen→ko
Apple’s new App Store rules crack down on AI nudification and ‘bait-and-switch’ apps
태그
App StoreAI#App Review Guidelines#App Store#Guideline 1.2#Guideline 2.5.19#Generative AI#Alternative distribution
함께 읽을 글
- 95매우 중요
- 80중요
- 50참고
- 45가벼운 읽을거리