인도의 AI 규제에 대한 집중적인 접근 방식 촉구

인도는 IT 서비스, 통신, 전자상거래, 의료 및 금융 서비스를 포함하여 다양한 분야를 아우르는 강력한 서비스 중심 경제를 보유하고 있다. 이러한 요인들 덕분에 인도는 AI, 특히 생성형 AI의 발전을 촉진할 수 있는 중요한 데이터 저장소로 자리매김하고 있다.

인도 정부는 AI의 혁신적, 경제적 잠재력을 인식하고 IndiaAI Mission, IndiaAI Dataset Platform, AIKosha와 같이 필수 또는 일상 서비스를 제공하는 다양한 조치를 통해 이러한 성장을 수익화하기 위한 적극적인 조치를 취해 왔다.

또한, 다수의 정책 브리프와 부문별 협의 문서에서는 AI가 안전하고 공정하며 책임감 있게 개발·배포되도록 효과적인 규제 감독의 도입이 필요함을 강조하고 있다.

인도의 접근 방식은 주로 AI 혁신을 촉진하고 AI 윤리의 원칙 기반 접근 방식을 의무화하는 데 초점을 두고 있다. 정부는 AI 혁신을 지원하기 위한 체계를 마련하고, 윤리 기준을 권고하며, 디지털 인프라 및 기술 개발 프로그램에 대한 투자를 촉진함으로써 AI 주도 경제 성장을 우선시하고 있다.

따라서 AI 규제는 계속 진화하는 문제로 남아 있으며, 정부는 기술 발전과 규제 감독 사이의 균형을 맞추기 위해 노력하는 한편, 글로벌 AI 거버넌스 논의에 관련 주요 이해당사자로서 적극적인 조치를 취하고 있다.

EU와 같이 AI에 대한 전용 법령이 마련된 관할권과는 달리, 이 규제 접근 방식은 다소 수동적이며 현 시점에서는 구체적인 실체가 부족하다.

예를 들어, 인도는 AI 거버넌스에 맞춰진 포괄적인 법률 체계를 아직 마련하지 못했다(신규 법 제정 또는 기존 법 개정 여부와 관계없이).

부문별 규제 요구사항은 구속력 있는 요구사항과 권고사항이 모두 존재하지만, 이러한 요구사항은 인도 중앙은행(RBI), 인도 증권거래위원회(SEBI), 인도 통신규제청(TRAI) 및 인도 경쟁위원회(CCI) 등 여러 규제 기관에 분산되어 있으며, 각 규제 기관은 AI 거버넌스를 자사의 관점에서 해석하고 있다.

이러한 탈중앙화된 접근 방식은 일부 사업상의 불확실성을 초래하고 있다.

AI 사용으로 인해 발생하는 문제를 해결하고 변화하는 환경을 효과적으로 헤쳐나가기 위해 인도는 보다 통합되고 선제적인 규제 및 거버넌스 접근 방식으로 전환해야 할 필요가 있다.

현재까지의 규제 접근 방식

여러 차례에 걸쳐 자율적인 접근과 보다 직접적인 개입을 주장하며, AI 개발자들에게 예측 불가능성을 야기했다. 최근의 발전 사항은 다음과 같다:

• • 2024년, 전자정보기술부(MeitY)는 AI 모델 배포 전에 사전 승인을 요구하는 권고를 발표하고, 플랫폼과 중개자에게는 딥페이크 및 알고리즘 차별 방지를 위한 조치 이행, AI 생성 콘텐츠 라벨 부착, 그리고 AI의 예측 불가능성에 대한 사용자 안내를 의무화했다.

그러나, 일부 업계의 반발에 따라 이 권고는 철회되어 구속력이 없는 개정판으로 대체됐다. 고위험 AI 시스템을 규제하는 통합 법률로 제안된 디지털 인도법(DIA)에서 보다 직접적인 접근 방식이 예상됐는데, 이는 알고리즘 책임성, 제로데이 위협 및 취약성 평가, AI 기반 광고 타깃팅 및 콘텐츠 조정 등을 포함한다. 정부는 여전히 이 법안 초안 작업을 진행 중이며, 발표 시기에 대해서도 재고하고 있다.

• • 2025년 1월, MeitY는 AI 거버넌스 가이드라인 개발 보고서를 발표했다. 이 보고서는 DIA와 관련하여 논의된 몇 가지 이슈—예를 들어 AI 기반 침해와 AI 출력물의 저작권을 다루는 개정된 지식재산권 법률, AI 사용으로 인한 편향 및 차별에 대한 규제, 그리고 위험 완화를 기준으로 한 AI 활동 규제—를 옹호하고 있다. 또한, 이 보고서는 저위험 AI 사용을 위한 샌드박스 접근 방식을 장려하고, 정부의 정보 수집 목표를 지원하기 위해 업계가 콘텐츠 출처 증명, 레드팀 평가, 모델 카드 등의 자발적 약속을 할 것을 권고하고 있다.
  • SEBI, RBI 및 BIS와 같은 다양한 분야별 규제 당국은 규제 대상에 기관에 적용되는 AI 관련 문제를 해결하기 위해 노력해왔다. 긍정적인 점은 MeitY 보고서가 정부 전체적인 접근 방식을 옹호하여 모든 산업에 통합된 AI 정책 프레임워크를 적용할 수 있도록 하고 있다는 점이다.

주요 법적 문제들

해결되지 않은 몇 가지 중대한 법적 문제는 다음과 같다:

AI 편향 및 알고리즘의 책임성. AI 시스템은 특히 채용, 대출, 법 집행 및 의료 분야에서 편향을 보인다는 비판을 받아왔으며, 이러한 편향은 주로 학습 단계에서 왜곡되거나 불완전한 데이터를 사용함으로써 발생한다.

안타깝게도, 인도의 현행 법체계는 AI 시스템과 그에 따른 학습 데이터에 대한 공정성, 투명성 및 책임성을 의무화하는 조항이 없다. MeitY 보고서는 AI 편향과 관련된 우려를 인정하지만, 이러한 위험을 완화하기 위한 구체적인 규제 요건을 제시하지는 않고 있다.

그 결과, AI 개발자들은 제한적이거나 그 어떠한 법적 보호 조치도 없이 운영하고 있으며, 사용자들은 알고리즘 차별의 위험에 노출되고 위험이나 손실 발생 시 판결을 내릴 수 있는 보호 장치가 부족한 상태이다.

데이터 프라이버시 및 AI 훈련. 2023년 제정된 디지털 개인 데이터 보호법(DPDP법)은 AI를 직접 규제하지는 않지만, 특히 개인 데이터를 활용하는 경우 AI 시스템의 개발 및 배포 방식에 간접적인 영향을 미칠 예정이다.

예를 들어, DPDP법은 공공 데이터에는 적용되지 않는다; 많은 AI 응용 프로그램들이 해당 데이터를 사용할 것으로 예상되므로 이에 관한 정확한 통찰력이 도움이 될 수 있다. 또한, 이 법은 데이터 보유자들이 자신의 데이터를 변경할 것을 요청할 수 있도록 허용하는데, 이미 AI 훈련에 사용된 데이터에 대해 이는 어려운 작업이 될 수 있다. 게다가, DPDP법은 데이터 보유자로부터 명확한 목적과 데이터 기반 콘텐츠를 확보하도록 요구하기 때문에 AI 훈련을 위한 데이터의 탐색적 사용도 어려울 수 있다.

저작권 쟁점. 저작권이 있는 자료를 활용해 AI 시스템을 개발·훈련할 경우 파생 저작물이 생성되어 침해 소송으로 이어질 수 있다. MeitY 보고서 역시 이러한 저작권 자료 사용을 침해로 분류하고 있다.

그러나, 침해 주장을 성공적으로 제기하기 위해 저작권이 있는 자료와 어느 정도의 유사성이 있어야 하는지는 명확하게 규정되고 있지 않다. 현행법이 저작권자들의 침해 청구 집행 수단을 제한적으로 제공하는 점을 고려할 때, 저작권자들의 입지를 강화하기 위해 법 개정이 필요할 수 있으며, AI 개발자는 저작권이 있는 콘텐츠에 접근하기 전에 철저한 사전 조사 조치를 시행해야 할 필요가 있다.

AI가 창작물을 생성하는 능력이 향상됨에 따라 AI가 생성한 콘텐츠의 저작권 보호 가능성에 관한 문제가 점점 중요해지고 있다. 그러나 인도에서는 AI가 창출한 콘텐츠가 저작권 보호 대상이 되는지, 또는 저작권 주장을 위해 인간의 관여가 필수적인지에 대해 명확한 법적 입장이 마련되어 있지 않다. 이러한 불확실성은 자신의 권리를 확신하지 못하는 기업과 창작자에게 여러 가지 어려움을 안겨주고 있다.

중개자 책임. 2021년 인도의 정보기술(중개자 지침 및 디지털 미디어 윤리 강령) 규칙에 따라 AI 모델을 중개자로 분류하는 것은, 특히 2000년 정보기술법 제79조를 고려할 때 면밀한 법적 검토가 필요하다. 이 조항에 따른 안전항구 보호는 중개자가 콘텐츠를 수정하거나 선택하지 않아야 한다는 조건에 달려있는데, 이는 대부분의 AI 기반 시스템이 충족하기 어려운 조건이다.

법에 따른 중개자 책임 체계는 AI 시스템의 현실을 반영하도록 개정되어야 하며, AI가 생성한 콘텐츠가 기존의 발행인 또는 중개자 정의에 따라 잘못 분류되지 않는 것을 보장해야 할 필요가 있다.

책임. AI 규제의 또 다른 핵심 쟁점은 누가 책임을 져야 하는지 결정하는 것이다 – AI 모델을 개발하는 개발자, 이를 애플리케이션에 통합하는 배포자, 둘 다 각기 다른 역할로, 또는 API를 통해 AI 사용을 확대하며 프롬프트를 적용하는 사용자까지 모두 포함하는 문제이다.

현행법에서는 이러한 문제들을 다루지 않고 있으며, MeitY는 기존 법률이 AI 사용의 오용 또는 위반 사례를 계속 규제할 수 있을 것이라고 주장한다. 그러나 충분한 지침이 제공되지 않는 한 책임 및 설명 배분에 관한 해석 관행은 지속될 전망이다.

결론

인도의 AI 규제에 대한 접근 방식은 정책 면에서 상당한 진전을 보였지만, 구체적인 법률 제정에 관해서는 여전히 불확실성에 직면해 있다. MeitY 보고서가 주요 규제 과제에 관한 논의를 촉발했음에도 불구하고 구체적인 조치가 시행되기까지는 시간이 걸릴 수 있다. DIA가 일부 쟁점을 규제할 것으로 예상되었지만, 최신 뉴스는 AI의 의미와 이점이 인도의 고유한 맥락에서 충분히 이해될 때까지 정부가 통합 법률 도입을 재고하고 있음을 시사하고 있다.

앞으로 나아가면서, AI에 특화된 법률에 대한 균형 잡히고 신중한 접근은 비즈니스 확실성을 조성하고 사용자 권리를 지원하며 책임 있는 혁신을 실현하는 데 매우 중요할 것이다.

AZB & PARTNERS
AZB House, A-8, Sector 4,
Noida – 201301, National Capital Region, India
전화: +91 120 417 9999; +91 120 692 3700
www.azbpartners.com