이념적 검열 강화, 중국 생성형 AI 통제 수위 높인다
2025.12.31 11:04 게임메카 이우민 기자
중국 당국이 인간의 감정과 소통 방식을 모방하는 생성형 AI 기술에 대해 강력한 통제에 나섰다.
중국 사이버공간관리국은 지난 27일, 인공지능 기반 대화형 서비스 관리를 위한 규제 초안을 발표했다. 이번 안은 텍스트, 음성, 영상 등을 통해 인간과 유사한 상호작용을 시뮬레이션하는 모든 서비스 기업을 대상으로 한다. 오는 1월 25일까지 해당 규제안에 대한 의견 수렴이 진행될 예정이다.
초안의 핵심은 이용자의 과도한 의존과 중독 방지다. AI 서비스 제공자는 사용자가 사람이 아닌 인공지능과 대화하고 있다는 사실을 로그인 시점과 대화 도중 명확히 알려야 한다. 특히 사용자가 2시간 이상 연속으로 서비스를 이용할 경우, 팝업창을 띄우거나 경고를 통해 이용 중단을 유도해야 하며 로그아웃 절차도 간편하게 설계해야 한다.
콘텐츠 내용에 대한 이념적 검열 기준도 대폭 강화됐다. 국가 안보를 위협하거나 사회주의 핵심 가치를 훼손하는 내용은 엄격히 금지된다. 또한 중국의 역사와 전통 문화를 반영하고 체제 안정을 해치지 않는 데이터셋으로 인공지능을 학습시켜야 한다. 폭력, 도박, 음란물 및 타인의 명예를 훼손하는 정보 생성 역시 불법으로 규정됐다.
사용자의 신체적, 정신적 안전을 위한 조치도 포함됐다. 자해나 자살을 미화하는 콘텐츠는 차단되며, 사용자가 극단적인 징후를 보일 경우 즉시 보호자나 관련 기관에 통보하는 시스템을 갖춰야 한다. 그 외에 미성년자가 보호자 동의 없이 AI 기술을 사용하는 것도 금지되며, 등록 사용자 100만 명 이상의 대형 업체는 당국에 정기적인 평가 보고서를 제출해야 한다.