중국 AI 규제의 형태와 전망

2025년 설 명절 동안, 중국의 AI 모델 DeepSeek는 ChatGPT를 제치고 중국과 미국 Apple 앱 스토어에서 가장 많이 다운로드된 앱이 되어 전 세계적인 주목을 받았다. 이는 중국의 AI 발전을 보여주며 국가 전략과도 일치한다.

2017년, 국무원은 ‘3단계’ 법제 로드맵을 담은 신세대 AI 개발 계획을 발표했다. 2020년까지는 글로벌 AI 기준에 부합하는 것이 목표였으며, 2025년까지 중국은 AI 이론에서 주요 돌파구를 마련하고 산업 및 사회 발전을 위한 세계 선도 기술 및 응용 프로그램 개발을 추진하고자 했다. 2030년을 바라보며, 중국은 AI 분야에서 글로벌 리더가 되려고 하고 있다.

이 기고문은 중국의 AI 규제를 살펴보며, 입법 프레임워크, 컴플라이언스, 법 집행 및 미래 전망 등에 초점을 맞출 예정이다.

입법 프레임워크

중국의 AI 규제는 데이터 컴플라이언스, 알고리즘 컴플라이언스, 사이버 보안 및 윤리를 포괄하는 다층적인 법률 및 규제 프레임워크에 기반을 두고 있다.

데이터 컴플라이언스. 중국의 데이터 컴플라이언스는 다음을 포함한 기본 법률 및 규정에 따라 이뤄진다:

1. 1. 개인정보보호법 (2021);
   2. 데이터 보안법 (2021); 및
   3. 2025년에 시행될 예정인 네트워크 데이터 보안 관리(NDSM) 규정.

사이버 보안. 사이버 보안에 관한 규제 프레임워크는 다음과 같은 법률 및 규정에 기반을 두고 있다:

1. 1. 사이버 보안법(CSL) (2017); 및
   2. 2025년에 시행되는 NDSM.

윤리적 검토. 윤리적 검토를 위한 시스템은 다음의 기본 법률 및 규제 문서에 기반한다:

1. 1. 과학기술 진흥법 (2022년 개정); 및
   2. 과학기술 윤리 검토에 관한 조치 (2023년 시행).

알고리즘 컴플라이언스. 알고리즘 컴플라이언스에는 부처 규정과 지방 규정이 모두 존재한다. 부처 규정에는 다음 제도들이 해당된다:

1. 1. 여론 형성 또는 사회적 동원의 가능성을 갖는 인터넷 기반 정보 서비스의 보안 평가에 관한 규정(2018);
   2. 생성형 인공지능 서비스 관리에 관한 임시 조치(GAI 조치, 2023년 시행);
   3. 인터넷 기반 정보 서비스의 심층적 합성에 관한 행정 규정(2023); 및
   4. 인터넷 정보 서비스 알고리즘 추천에 관한 행정 규정(2023).

한편, 지방 규정에 따라 다음 프레임워크가 수립되어 있다:

1. 1. 상하이 인공지능 산업 진흥 규정 (2022);
   2. 선전특별경제구역 인공지능 산업 진흥 규정 (2022);
   3. 푸젠성 인공지능 산업 개발 프로젝트 관리 조치 (2024); 및
   4. 저장성 인공지능 산업 발전 가속화를 위한 지도 의견 (2023).

부처 및 지방 규정 외에도, 중국의 주요 알고리즘 컴플라이언스 규정에는 인공지능이 생성한 합성 콘텐츠 식별에 관한 규정(의견 초안)이 포함된다.

위에서 언급된 법률 및 규정을 더 잘 시행하기 위하여, 중국은 국가 및 산업 표준과 규격들을 순차적으로 도입했다. 모든 산업에 적용되는 표준은 다음과 같다:

1. 1. 신세대 인공지능을 위한 윤리 강령 (2021);
   2. 생성형 인공지능 서비스에 대한 기본 보안 요구사항 (2024); 및
   3. 사이버 보안 기술 – 인공지능이 생성한 콘텐츠에 대한 라벨링 방법(의견 초안).

의료 산업의 경우, 다음과 같은 규정들이 포함된다:

1. 1. 인터넷 기반 진단 및 치료에 관한 규제 규칙(시험 적용) (2022);
   2. AI 기반 의료 소프트웨어 제품의 분류 및 정의에 대한 지침 원칙 (2021); 및
   3. 인공지능 의료기기 등록 심사에 대한 지침 원칙 (2022).

마지막으로, 지능형 연결 차량 산업의 경우, 지능형 연결 차량 도로 시험 및 실증 적용을 위한 모범 사례(시험 적용, 2021)가 산업 표준으로 사용된다.

컴플라이언스 요구사항

GAI 조치는 생성형 AI 서비스 제공자를 중심으로 하며, 알고리즘, 콘텐츠, IP, 훈련 코퍼스 및 데이터 주석 컴플라이언스와 같은 법적 의무를 부과한다.

알고리즘 제출 및 보안 평가. 중국 내에서 “여론 또는 사회적 동원 능력”을 갖춘 AI 서비스는 해당 알고리즘 메커니즘을 중국 국가인터넷정보판공실에 제출해야 한다. 여기에는 텍스트, 이미지, 음성 및 동영상 생성형 AI 서비스가 포함된다. 이러한 속성이 없는 서비스는 제출 의무가 면제된다. 규정을 준수하지 않는 AI 제공자는 서비스 정지에서부터 형사 책임에 이르기까지 강력한 처벌을 받을 수 있다. 모든 AI 서비스는 제출 전에 보안 평가를 통과해야 하며, 평가에 실패한 서비스는 출시될 수 없고 이미 운영 중인 서비스는 수정 또는 삭제되어야 한다. 이러한 규정은 AI 서비스가 중국 내에서 안전하게 운영되도록 보장한다.

콘텐츠 표시. AI 서비스 제공자는 비침입적 식별자를 사용하여 생성되거나 편집된 콘텐츠에 대해 표시하고, 관련 법률에 따라 로그 정보를 보관해야 한다. 일반 대중을 혼란시킬 수 있는 심층 합성 서비스의 경우, 콘텐츠를 적절한 위치에서 명확하게 표시해야 하며, 누구도 이러한 라벨을 삭제, 변경 또는 숨기기 위해 기술적 수단을 사용해서는 안 된다. 이러한 규정은 AI가 생성한 콘텐츠의 투명성을 높이고 잘못된 정보를 방지하는 데 기여한다.

과학 및 기술 윤리 검토. 여론과 사회 인식에 영향을 미칠 수 있는 알고리즘 모델, 응용 프로그램 및 시스템 등 민감한 분야에서 연구를 수행하는 AI 제공자는 과학 및 기술 윤리(검토) 위원회를 구성해야 하며, 법에 따라 윤리적 위험 평가 및 검토 작업을 수행해야 한다.

데이터 컴플라이언스. 데이터 컴플라이언스 의무 사항에는 다음이 포함된다:

1. 1. 학습 데이터. 의무 사항에는 코퍼스 출처 보안 의무, 코퍼스 내용 보안 의무, 코퍼스 주석 보안 의무와 규정을 준수하는 용어집 및 질문 은행의 구축 등이 포함된다;
   2. 입력 데이터. 제공자는 불필요한 개인정보를 수집하거나, 사용자 식별이 가능한 입력 정보 및 사용 기록을 불법적으로 보유 또는 타인에게 제공해서는 안 된다. 심층 합성 제공자는 별도의 동의를 얻어야 한다; 그리고
   3. 출력 콘텐츠. 생성형 AI는 법률을 준수하고 도덕 및 윤리를 존중하며 사회주의적 가치를 수호해야 한다. 국가와 사회를 위협하거나 유해한 이념 및 허위 정보를 조장하는 콘텐츠 생성은 피해야 한다.

법 집행 관행

AI 개발은 많은 편의를 가져왔으나, 동시에 기존 법적 경계를 넘어서는 여러 도전을 야기하여 중국이 입법 개선을 가속화하도록 만들었다.

사법 관행. AI 관련 사법 사례는 주로 인격권 및 IP 침해와 관련된다.

1. 1. 인격권 침해. 2021년, 베이징 인터넷 법원은 한 공인이 앱의 ‘AI 동반자’와 관련하여 제기한 AI 관련 인격권 침해 사건을 다뤘다. 법원은 피고가 설계한 해당 앱의 디자인과 알고리즘이 사용자 생성 콘텐츠를 홍보한 점을 들어 피고에게 책임이 있다고 판결했다. 이 사건은 2022년에 전형적인 사례로 인정됐다. 2024년에는 법원이 AI 생성 음성 침해에 대해 첫 판결을 내리고 보상을 명령했으며, 같은 해 두 건의 ‘인공지능 얼굴 바꾸기’ 사건에서는 무단으로 모델의 이미지를 템플릿에 사용한 것이 원고의 개인정보권을 침해한 것으로 판단, 보상과 사과를 요구했다.
   2. 지식재산권 침해. 2023년, 베이징 인터넷 법원은 중국 최초의 AI 생성 회화 저작권 사건에 대해 판결을 내려 해당 작품들을 보호했다. 광저우 인터넷 법원 역시 AI 관련 회화 저작권 침해 사건을 다루며 보상을 명령했다. 2024년에는 중국 최초의 인공지능 생성 음성 및 영상 작품 침해 사건이 예비심리 절차에 들어갔으며, 원고는 피고의 침해 행위를 지적하고 보상을 요구했다. 이 사건은 현재 진행 중이다.

행정 감독 관행. 인공지능 관련 행정 처벌은 주로 기업 자격과 소비자 권리 보호에 중점을 두고 이뤄져 왔다. 현재까지는 개인정보 보호, 데이터 보안 또는 네트워크 보안 위반에 대한 처벌 사례는 없다.

전망

기술 개발 및 산업 활용. DeepSeek, Doubao, Kimi 등 일련의 국내 AI 도구들이 등장했다. DeepSeek는 컴퓨팅 전력 효율성을 높이기 위해 아키텍처를 최적화하며 알고리즘을 혁신하고 기존의 전력 중심 모델에 도전하고 있다. 이로 인해 중국의 인공지능 및 관련 기술은 더욱 빠른 발전을 보일 것으로 기대되며, 전망 또한 광범위하다.

AI 법률 제정. 2024년에는 주요 AI 기본 법률이 통과되지는 않았으나, 세부 규정 도입과 국제 규칙 형성에 대한 적극적 참여는 꾸준한 입법 노력을 보여주고 있다. 가까운 시일 내에 중국은 인공지능법(기본 법률)을 도입할 가능성이 있다. 이 법안은 이미 2023년 입법 계획에 포함됐으며, 2024년 국무원의 입법 의제에 예비 심사 프로젝트로 등재된 바 있다.

AI 법률: 효율성 대 안전성

중국은 ‘입법 우선, 윤리적 지침 및 분류된 거버넌스’를 통해 매우 체계적인 AI 규제 프레임워크를 구축했다. 향후 입법과 실무에서 핵심은 기술 혁신과 위험 통제를 균형 있게 조화시키는 것이 될 것이다. DeepSeek와 같은 국내 AI 도구의 부상은 인공지능법 제정 과정을 가속화할 것이며, 중국은 효율성과 안전성을 균형 있게 고려한 ‘중국 모델’을 글로벌 AI 거버넌스에 제시할 수 있다.

BEIJING DACHENG LAW OFFICES
Floor 9/24/25, No.100 Century Avenue
Shanghai, China
전화: +86 21 5878 5888
http://dacheng.com