일본의 인공지능 규제 로드맵

2025년 2월 4일, 일본 정부는 인공지능(AI) 규제를 논의하기 위해 AI 시스템 연구회와 AI 전략 위원회의 합동 회의에서 중간 보고서를 발표했다.

2025년 2월 28일, 중간 보고서를 바탕으로 정부는 최초의 AI 관련 범분야 법안을 일본 국회에 제출했다. 이 법안의 명칭은 ‘인공지능 관련 기술의 연구, 개발 및 활용 추진에 관한 법률안’이다.

일본에서는 각 산업의 AI 개발자, 제공자 및 사용자를 위한 규칙들은 지금까지 부처, 기관 및 산업 협회가 제정한 가이드라인에 의해 설정됐다. 앞으로는 하드 로(법률)와 소프트 로(가이드라인)를 병행하여 AI 규제가 시행될 것이다.

이 법안은 현재 일본 국회에서 토론 중이며 아직 공포되지 않았다. 그러나 이 법안은 중간 보고서를 참조하여 제정될 것으로 예상되므로, 일본의 AI 규제 개요를 이해하기 위해서는 중간 보고서와 법안의 내용을 모두 파악하는 것이 필수적이다.

따라서 본 기고문에서는 중간 보고서의 개요와 법안의 내용을 제공할 예정이다.

AI의 정의

AI 규제의 내용을 이해하기 위한 전제 조건으로, 본 섹션에서는 일본 법에 따른 AI 및 생성형 AI의 정의를 설명할 예정이다. 이러한 정의는 중간 보고서와 법안에 명시되어 있지 않다.

그러나 이 법안은 ‘인공지능 관련 기술’을 인공적인 수단을 통해 인간의 인지, 추론 및 판단 능력을 대체하는 기능을 실현하는 데 필요한 기술과, 그 기술을 활용하여 입력 정보를 처리하고 그 결과를 출력하는 기능을 가진 정보 처리 시스템과 관련된 기술로 정의했다. 또한 현재 일본에서 AI에 대한 종합 규칙을 설정하는 주요 가이드라인은 AI Guidelines for Business (버전 1.0)로, 이는 총무성과 경제산업성이 공동으로 개발했다.

가이드라인에서는 현재 AI에 대해 확립된 정의가 없으며, 넓은 의미로 인공지능을 엄격하게 정의하기 어렵지만, 이는 AI 시스템 자체, 소프트웨어 또는 기계 학습을 수행하는 프로그램 등을 포함하는 추상적 개념이라고 명시하고 있다.

‘AI 시스템’은 사용 과정 전반에 걸쳐 다양한 자율성으로 작동하고 학습할 수 있는 소프트웨어를 포함하는 시스템으로 정의된다.

‘생성형 AI’라는 용어는 텍스트, 이미지, 프로그램 등을 생성할 수 있는 AI 모델에 기반한 AI를 총칭하는 용어로 정의된다.

본 기고문에서는 이러한 정의를 바탕으로 중간 보고서와 법안의 내용을 설명할 예정이다.

AI 규제의 내용

1. 1. 정부 리더십 및 정책 수립 강화. 중간 보고서는 정부가 중개자로서의 역할을 강화하여 AI의 연구 및 개발부터 경제사회적 활용에 이르는 통합 정책을 추진해야 하며, 관련 부처와 기관 전반이 참여하는 정책 추진 체계를 마련할 필요가 있다고 언급하고 있다.

중간 보고서는 또한 정부가 포괄적 조치를 추진할 때 AI 정책에 대한 전략 또는 기본 계획을 수립해야 한다고 언급하고 있다.

법안은 중간 보고서에 따라 정부의 역할을 구체적으로 명시하고 있다.

1. 2. AI 수명 주기 전반의 적정성 확보. 중간 보고서는 AI의 연구, 개발 및 활용에 있어 적정성을 증진할 필요가 있음을 확인하고 있다. 적정성을 보장하기 위해, 일본 정부는 히로시마 AI 프로세스와 같은 국제 규범의 목적에 기반한 가이드라인을 마련하고, 사업자들이 자율적으로 다양한 규범에 대응하도록 독려하는 것이 적합할 수 있다. 법안은 정부가 국제 기준의 목적에 따라 가이드라인을 마련할 것임을 명확히 하고 있다.

또한, 중간 보고서는 적정성을 확보하기 위해서는 정부가 사업자의 상황을 조사하여 파악하고, 그 결과를 토대로 기존 법률 및 규정에 따른 대응을 포함하여 필요한 지원을 제공해야 한다고 언급하고 있다.

정부가 사업자의 상황을 충분히 이해하고 필요한 지원을 제공하기 위해서는 이들 사업자의 협조가 필수적이므로, 국내외 사업자들이 정보를 제공하고 협력할 수 있는 법적, 제도적 조치를 취하는 것이 적절할 것이다.

법안은 사업자들이 인공지능 관련 기술의 연구, 개발 및 활용을 촉진하기 위해 정부 정책에 협조해야 한다고 명시하고 있다.

1. 3. 정부 조사 및 공개. 중간 보고서에 따르면, 일본에서 AI 사용과 관련하여 국민 권익의 심각한 침해가 발생하거나 그러한 침해가 일어날 가능성이 높은 경우, 정부는 그 원인 및 기타 사실에 대해 조사를 실시해야 한다고 명시되어 있다.

정부는 또한 필요한 경우 서비스 제공자를 포함한 관련 당사자들에게 가이드라인과 조언을 제공해야 하며, 수집된 정보는 국민에게 공개되어야 한다.

해당 정보의 수집 및 공개를 가능하게 하기 위해, AI 법안은 정부가 기술을 활용하여 조사할 뿐만 아니라 관련 당사자들에게 지시 및 조언하고, 정보를 공개할 수 있게 하는 권한을 인정하는 조항을 포함하고 있다.

1. 4. 페널티 적용. 중간 보고서는 혁신 촉진과 위험 대응 간 호환을 보장하기 위해, 원칙적으로 법률, 규정 및 소프트 로(예: 가이드라인)를 적절히 결합하고 사업자의 자율성을 존중하며, 자발적인 노력으로 해결이 어려운 사안에 한해 법률로 규제하도록 해야 한다고 명시하고 있다. 또한, 향후 인공지능 관련 입법에서는 페널티 규정이 없거나 제한적으로 적용될 수 있으며, 해당 법안에는 페널티에 관한 조항이 포함되어 있지 않다.
   5. 일본 외부 사업자에의 적용. 중간 보고서에 따르면, 일본 내 사용을 위해 제작된 대부분의 AI가 외국 사업자에 의해 제공되고 있기 때문에, AI 규제 적용 범위에서 외국 사업자를 일률적으로 배제하는 것은 적절하지 않다고 명시되어 있다. 국내 사업자에게 일정한 의무를 부과하는 규정을 마련할 때는 외국 사업자도 포함되어야 한다.

따라서, 정부의 외국 사업자 조사 권한이 인정될 것으로 예상되며, 시민의 권리와 이익을 침해하는 심각한 경우에는 해당 사업자의 이름 및 기타 정보가 공개될 것으로 기대된다.

그러나 이 법안은 이에 대해서는 아직 불분명하다.

결론

중간 보고서와 법안에 따르면, 가까운 시일 내에 제정될 법률은 최소한 다음과 같은 조항을 특징으로 할 것이다:

1. 1. 정부의 리더십과 정책 수립을 강화할 것;
   2. 일본 정부가 사업자에 대한 가이드라인을 개발하고 조사를 실시할 수 있도록 할 것;
   3. 일본 국민의 권리와 이익을 심각하게 침해하는 사례의 경우 원인에 대해 해당 사업자를 조사하고, 그에 관한 정보를 공개할 수 있도록 할 것이다.

일본 내 AI 관련 모든 관계자는 제안된 법안과 실행 절차가 뚜렷해지는 대로 그 동향을 면밀히 주시할 필요가 있다. 또한, AI 관련 규정이 제정되더라도 각 산업별 개별 법률과 가이드라인은 계속 적용된다는 사실을 유념해야 할 것이다.

KEIWA SOGO LAW OFFICES
ATT EAST 11F 2-11-7, Akasaka,
Minato-ku, Tokyo 107-0052, Japan
전화: +81 3 3560 5051
이메일: info@tyhomu.com
www.keiwalaw.com