AIディープフェイクとの闘い：詐欺の顔に知的財産権はない

AIおよびディープフェイク技術の台頭は、世界中の産業界と法制度にとって大きな課題となっています。機械学習によって生成される極めてリアルな音声・映像の改ざんは、人々を欺き詐欺に利用されています。これにより信頼が損なわれ、評判が傷つき、金融、教育、エンターテインメント、政治の分野で深刻な経済的損害が生じています。

インドにはディープフェイクを直接規制する包括的な法律がありませんが、裁判所は人格権の保護、商標権の執行、ジョン・ドウ命令などの民事救済を通じて救済を提供しています。最近の画期的な裁判「Ankur Warikoo and Anr v John Doe and Ors」では、デリー高等裁判所が著名なパーソナルファイナンス教育者であり、インフルエンサーのAnkur Warikoo氏に対し、仮処分を認めました。Warikoo氏に無断で、 AIによって生成されたディープフェイク動画が本人の画像、声、肖像を用いてSNS上で拡散され、視聴者を偽の株式投資アドバイスのWhatsAppグループに誘導していました。この事件は、インドでディープフェイク技術の金融詐欺への悪用に直接対応した初の事例の一つです。

訴訟は、偽コンテンツを作成・配信した「身元不明の個人（ジョン・ドウ）」に対して提起されました。ジョン・ドウ命令は、加害者が特定できない場合でも、裁判所が不明な当事者に対して差止命令を出すことを可能にし、デジタル犯罪や知的財産権侵害に対して特に有効です。原告や当局は状況証拠やデジタルフットプリントに基づいて行動できます。

この事件では、被害者は不明瞭なアプリやデジタル口座を通じて投資を促され、その後口座が凍結されるなどして経済的損失を被りました。動画はWarikoo氏の表情、声、ブランドを本物と見分けがつかないほど再現していました。Warikoo氏がパーソナルファイナンス分野で信頼されているため、フォロワーは特に騙されやすい状況でした。

偽コンテンツはMetaのブランド権保護ポータルを通じて報告され、さらにサイバー犯罪部門や不服申立て委員会にも通報されましたが、多くの詐欺投稿は依然として残っていました。裁判所は、コンテンツの迅速な削除を怠ったMeta（第2被告）を厳しく批判しました。

裁判所は、Warikoo氏の人格権および彼の会社Zaan WebVeda Pvt Ltdの事業利益を保護する命令を出しました。身元不明の被告は、AIやディープフェイク技術を含むいかなる手段によっても、Warikoo氏の肖像を私的または商業的利益のために悪用することを禁じられました。Metaには、侵害しているすべてのURLを36時間以内に削除し、ユーザー情報を開示するよう命じられました。原告は今後のディープフェイクコンテンツも報告でき、Metaは速やかに対応しなければなりません。

この事件は、AI生成のディープフェイクがプライバシーや評判だけでなく、経済的安全にも深刻な脅威であることを示しています。本来はエンターテインメントやシミュレーションのための技術が、なりすましや詐欺に悪用されています。著名人の複製は犯罪の影響を拡大させ、詐欺師がその評判を悪用することで被害が広がります。Warikoo氏のケースのように、フォロワーが本人の推奨だと誤信して投資し、実際に経済的損害を被る事例が発生しています。

これらの問題は、現代のデジタルエコシステムにおける広範な懸念を反映しています。SNSなどの仲介業者は、削除要請への対応をより迅速に行う必要があります。Metaが繰り返し苦情があったにもかかわらず対応しなかったことは、より高い説明責任と効果的な救済措置の必要性を示しています。電気通信省や電子情報技術省を被告としたことは、デジタル安全確保における規制当局の役割が増していることを示しています。

この事件は、強固な立法の必要性も浮き彫りにしています。合成メディアがよりリアルかつ容易に作成できるようになる中、法律も迅速かつ予防的な救済を提供できるよう進化しなければなりません。従来は著名人に限定されていた人格権も、デジタルコンテンツ制作者やインフルエンサー、教育者の時代にはより広範な保護が求められます。

この判決は、AIおよびディープフェイク詐欺に対する法的対応の転換点です。司法が新たな技術的脅威から個人を守る姿勢を示し、今後のデジタルなりすまし事件の先例となります。デジタル上の信頼は、コンテンツ制作者だけでなく、プラットフォーム、規制当局、裁判所によっても守られるべきであることを強く示しています。

Manisha Singh氏 は Lex Orbisのパートナー、Kratika Patel氏はアソシエイトです。