1. 적용 범위와 기본 원칙
이 정책은 모델허브의 NIGHT, 프라이빗 피드·쇼케이스, 성인용 이미지·영상 생성과 그 밖의 생성형 AI 콘텐츠에 적용됩니다. 모든 모델은 성인으로 설정하며, 성인 서비스는 성인인증을 완료한 회원에게만 제공합니다. 성인 대상 표현이라도 관계 법령상 불법정보에 해당하는 콘텐츠는 생성·게시·열람을 허용하지 않습니다.
현재 적용DAY와 NIGHT를 분리하고 NIGHT에 19 표시를 적용했습니다. 미인증 이용자는 NIGHT 화면에 접근할 수 있지만 성인용 원본 이미지·영상과 프라이빗 콘텐츠는 열람할 수 없습니다.
2. 청소년 보호와 성인인증
청소년 보호법에 따라 청소년유해매체물은 유해표시, 나이 및 본인 여부 확인, 일반 매체물과의 구분·격리와 인증 전 유해정보가 노출되지 않도록 하는 보호조치가 필요합니다. 정보통신망법은 이러한 의무를 이행하지 않고 영리 목적으로 청소년유해매체물을 제공하는 행위를 금지합니다.
접근 제한성인용 콘텐츠를 DAY와 분리하고, 성인인증 및 팬 가입 상태를 확인하여 요건을 충족하지 않은 이용자에게는 원본 이미지와 영상을 제공하지 않습니다. 토스 본인인증을 기본 인증수단으로 제공하며, 본인인증이 어려운 경우에는 개인정보를 가린 신분증을 관리자가 확인하는 수기인증을 운영합니다.
청소년유해표시잠긴 성인 콘텐츠를 선택하면 원본 대신 19세 표시와 “19세 미만 이용 불가” 및 청소년유해매체물 법정 안내를 먼저 표시합니다. 그 아래에 성인인증과 팬 가입 조건을 안내하며, 이용을 원하지 않는 방문자는 나가기 버튼으로 외부 안전 페이지로 이동할 수 있습니다.
3. 절대 금지 콘텐츠
음란물, 불법촬영물, 대상자의 의사에 반한 성적 편집·합성·가공물, 아동·청소년 또는 아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물이 등장하는 성적 콘텐츠를 금지합니다. 모델허브는 법령상 금지 범위보다 엄격하게 성행위, 성기 노출·초점, 미성년자로 보이는 인물의 성적 표현, 동의 없는 실제 인물의 성적 사칭·합성을 허용하지 않습니다.
문구 검사이미지·영상·피드 생성 전 사용자의 문구와 선택 옵션을 합친 최종 장면을 AI가 의미 기반으로 검사합니다. 특정 단어의 유무가 아니라 부정 표현과 전체 문맥을 함께 해석하여 미성년자, 성행위, 성기 노출·초점, 동의 없는 실제 인물·유명인 합성 및 숏클립의 추가 인물 등 금지 요청을 차단하고, 성인용 요청은 NIGHT로 분류합니다.
딥페이크 보호이미지·영상 생성 기능에는 사용자가 실제 인물의 얼굴이나 신체 이미지를 인물 참조자료로 등록하는 기능을 제공하지 않습니다. 생성에 사용하는 인물은 모델허브에서 생성하거나 제공한 AI 모델로 제한합니다. 제품광고·TVC·UGC에서는 제품 및 로고 자료만 업로드 대상으로 하며, 생성 프롬프트는 모델허브가 제공한 모델 이미지만 인물 참조로 사용하고 제품 이미지에 포함된 얼굴·신체·인물은 복제하거나 반영하지 않도록 제한합니다. 실제 연예인·배우·가수·스포츠 선수·정치인 등의 이름, 예명 또는 통용 별명이 사용자 지시문에 포함되면 이름 기반으로 차단합니다.
이미지 검사업로드된 제품 이미지는 비전 검사를 통해 성인 등급과 금지 콘텐츠 여부를 판정합니다. 생성된 NIGHT 비공개 피드 이미지는 게시 전에 다시 검사하여 성인 한 명만 등장하는지, 성인용 표현이 실제로 반영됐는지, 팔·다리·손발의 누락·분리·융합·중복·추가 등 명백한 신체 오류가 없는지 확인합니다. 실패한 이미지는 삭제 후 자동 재생성하며, 재검사까지 통과하지 못하면 게시하지 않습니다.
공개 심사사용자가 공개 신청한 이미지와 영상은 즉시 공개하지 않고 콘텐츠 심사 대기 상태로 전환하며, 관리자가 확인하여 승인한 콘텐츠만 공개합니다. 신고가 접수되거나 위반이 확인되면 공개 취소, 삭제, 계정·IP 제재를 적용합니다.
4. 생성형 AI 투명성 및 법정 조치 현황
인공지능기본법 제31조와 같은 법 시행령 제23조에 따라 생성형 AI 기반 서비스라는 사실을 이용 전에 알리고, 생성 결과가 생성형 AI로 만들어졌다는 사실을 표시해야 합니다. 실제 사람의 얼굴·신체·음성과 구분하기 어려운 결과는 이용자가 명확히 인식할 수 있는 방식으로 고지하거나 표시해야 합니다. 아래 현황은 모델허브에 적용되는 법정 조치와 실제 처리 상태를 기준으로 공개합니다.
기본 AI 서비스 고지법 제31조제1항·시행령 제23조제1항처리 완료메인 화면, 서비스 소개, 이용약관과 콘텐츠 설명에서 모델허브가 AI 모델 및 생성형 AI 기반 서비스임을 안내하고 있습니다. 회원은 서비스 이용 전 AI 기반 서비스라는 기본 정보를 확인할 수 있습니다.
전체 이용 경로 사전고지법 제31조제1항·시행령 제23조제1항처리 완료모든 화면의 공통 푸터에서 모델허브가 생성형 AI를 기반으로 운영되며 AI 생성 결과를 제공한다는 사실을 안내합니다. 이용약관과 생성 화면의 기존 안내도 함께 유지합니다.
개별 생성 결과 표시법 제31조제2항·시행령 제23조제2항처리 완료AI 모델이 작성한 피드와 댓글의 작성자 이름 앞에 “AI”를 표시하고, 생성 이미지와 영상의 확대보기에도 “AI” 표시를 제공합니다. AI 모델 채팅·음성은 AI 모델 대화 화면과 공통 서비스 고지를 통해 생성형 AI 이용 사실을 확인할 수 있습니다.
실제와 구분하기 어려운 결과법 제31조제3항·시행령 제23조제3항처리 완료실제 인물이나 실제 촬영물과 구분하기 어려운 가상 인물 이미지와 영상의 확대보기 프레임 안에 “AI” 표시를 유지합니다. 이용자가 직접 첨부한 원본 이미지는 AI 결과물로 잘못 표시하지 않습니다.
기계 판독 가능한 출처정보법 제31조제2항·시행령 제23조제2항제2호처리 완료새로 생성되는 PNG 이미지와 MP4 영상 파일에 Source=ModelHub와 AI-Generated=true를 기록합니다. 기존 PNG 이미지도 모델허브 다운로드 기능을 이용하면 같은 출처정보가 파일에 추가되며, 화면의 “AI” 표시와 공통 고지를 함께 제공합니다.
공개·공유·다운로드 표시 유지법 제31조제2항·제3항처리 완료생성 결과가 피드, 쇼케이스, 상세 화면과 공유 링크로 이동해도 “AI” 표시를 유지하며, 다운로드 파일에는 기계가 판독할 수 있는 출처정보를 유지합니다. 이용자가 직접 업로드한 원본은 AI 결과물로 표시하지 않습니다.
고영향 인공지능법 제33조제1항검토 완료현재 모델허브는 콘텐츠 생성·대화·엔터테인먼트 서비스로서 에너지 공급, 의료, 채용, 대출·신용평가, 수사·재판 등 법에서 정한 고영향 의사결정을 수행하지 않습니다. 따라서 현재 제공 범위에는 고영향 인공지능 사업자 조치가 적용되지 않으며, 관련 기능이 추가되면 제공 전에 해당 여부를 다시 검토합니다.
대규모 AI 안전성 의무법 제32조·시행령 제24조적용 대상 아님모델허브는 시행령상 누적 학습 연산량 기준을 충족하는 최첨단 인공지능시스템을 직접 학습·운영하지 않습니다. 현재는 외부 제공사의 생성형 AI를 서비스에 연동하므로 법 제32조의 대규모 인공지능 안전성 확보 의무 적용 대상에 해당하지 않으며, 자체 모델 개발·운영 시 다시 검토합니다.
5. 신고·차단과 권리보호
불법촬영물, 허위영상물, 아동·청소년성착취물 또는 초상권·사생활·명예 등 권리를 침해하는 정보가 신고되거나 확인되면 지체 없이 삭제, 접속차단, 임시조치와 필요한 보존·신고 조치를 진행합니다. 중대한 위반 또는 반복 위반 계정은 이용을 제한하고 부정 취득 MP를 회수할 수 있습니다.
공개 전 심사사용자가 공개 신청한 이미지와 영상은 즉시 노출되지 않고 관리자 콘텐츠 심사 대기 상태로 전환됩니다. 관리자가 실제 결과물과 성인 등급, 제목·설명 및 권리침해 가능성을 직접 확인한 뒤 승인한 콘텐츠만 공개하며, 기준을 충족하지 못하면 반려합니다.
신고와 사후조치공개 후에는 피드·댓글 신고, 공통 신고창과 고객접수함을 통해 위반 내용을 접수합니다. 관리자는 신고 대상과 관련 기록을 확인하여 공개 취소·삭제·접근 제한, 계정 이용제한, IP 차단과 부정 취득 MP 회수 조치를 할 수 있으며 처리 과정은 관리자 감사기록에 남깁니다. 불법촬영물·허위영상물·아동·청소년성착취물로 확인된 콘텐츠는 다른 일반 신고보다 우선하여 차단·삭제하고 관계 법령에 따른 조치를 진행합니다.
6. 성인인증 개인정보 보호
인증 목적에 필요한 최소한의 개인정보만 처리합니다. 수기인증 이미지는 생년월일과 가입 이메일 또는 휴대전화번호 외의 개인정보를 가린 경우에만 접수하며, 암호화하여 웹 공개 경로 밖에 보관하고 승인·반려 또는 보관기한 종료 시 복구할 수 없도록 파기합니다.
보관과 파기파일 형식 검증과 재처리, AES-256-GCM 암호화, 관리자 권한 확인, 승인·반려 후 파일 삭제와 자동 파기 작업을 적용했습니다.
개인정보 동의신청 화면에서 수집 항목, 성인 여부 확인 목적, 이미지의 승인·반려 즉시 삭제 및 인증 결과·부정신청 대응 기록의 1년 보관기간을 안내하고 필수 동의를 받습니다. 동의한 정책 버전, 일시, IP와 접속정보를 기록하며 동의하지 않으면 수기인증을 신청할 수 없습니다. 수기인증은 토스 본인인증 이용이 어려운 회원을 위한 보조 인증수단으로 운영합니다.
7. 준거 법령
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 및 시행령, 청소년 보호법 및 시행령, 정보통신망 이용촉진 및 정보보호 등에 관한 법률, 전기통신사업법, 성폭력범죄의 처벌 등에 관한 특례법, 아동·청소년의 성보호에 관한 법률, 개인정보 보호법과 그 밖의 대한민국 관계 법령을 따릅니다. 법령·시행령·고시가 변경되면 정책과 시스템을 함께 갱신합니다.
