第2回パネルディスカッション「生成AIとフェイクニュース」後編

←中編へ

●情報の真正性と生成AIとの共存に向けた展望
パネルディスカッションの後半では「情報の真正性と生成AIとの共存に向けた展望」について、C2PA(Coalition for Content Provenance and Authenticity)を中心に、パネラーが熱い意見を交わしました。C2PA は、2021 年にアドビ、Arm、インテル、マイクロソフト、Truepic などが中心となって創設し、デジタルコンテンツの生成元や変更履歴を証明できるメタデータを付与し、ディープフェイクや偽情報の拡散を防ぐ取り組みを推進しています。

小島氏
C2PAは、デジタルメディアの真正性をどのように担保するか、という課題から生まれています。データがサプライチェーンの中で流通して、その過程で編集されたりするので、技術的にその情報の真正性を担保するために、データの来歴情報を残すための技術的な基準を策定する団体として、C2PAが誕生しました。マイクロソフトは、ステアリングコミッティとして、技術の推進に貢献しています。生成AIとの関係では、画像データに「これはAI製です」という情報を入れる取り組みをいち早く推進してきました。具体的には、Microsoft DesignerやOpen AIのDALL-E 3で生成した画像に来歴情報を記録しています。C2PAには、180団体が参加していますが、サイバートラストもジェネラルメンバーです。


宿谷氏
C2PAの来歴情報が記録されている画像を簡単に確認できるサイトがあります。
https://contentcredentials.org/verifyというサイトにファイルをアップロードすると、発行元の情報などを閲覧できます。C2PA の仕様に準拠したコンテンツの来歴情報が含まれていると、CN（Common Name）や O（Organization Name）など詳細な内容が確認できます。詳しくは、ブログでも紹介しています。https://www.cybertrust.co.jp/blog/rd/about-c2pa.html


加藤氏
証明したいから証明書をつけるのではなく、これからは全てのデータについているべきなのだと思いました。そして、証明しなくてもいいデータを逆に選択できるようになればいいのではないでしょうか。当社では、データの消去に関する安全性を確保する事業を推進してきました。OSやストレージを開発してきた事業者は、データの保存と高速な読み出しに重点を置いていました。そのため、完全にデータを消そうとしても、データが残っているケースがありました。そこで、いつ誰がどうやって消去したかを担保するために、証明書が必要だと考えたのです。C2PAの取り組みを伺って、我々のデータ消去事業と証明書という観点から考えると、来歴情報だけではなく、データの賞味期限的な有効期限っていうのが記録できて、それが切れたら消去できるようになっているといいな、と思いました。


小島氏
デフォルトで証明書を付けるという加藤様のアイデアは、とても面白いと思いました。AIからのアウトプットには、必ず証明書が付いている、と皆さんが当然だと思うような世界が必要だと思います。また、宿谷様が紹介されたデータの来歴情報をチェックするサイトも、多くのユーザーに当たり前に使われるようになってほしいです。そして、C2PAの取り組みも画像だけではなく、動画や音のコンテンツについても、真正性を担保する取り組みを推進しています。音については、人間が認識できないパターンの音を入れて、後から検出できるようにしていきます。さらに、オープンソースの世界にも広げて行きたいと思っています。オープンソースのメリットは、コラボレーションの促進とイノベーションの加速にあります。いろいろな人たちがオープンソースのコラボレーションを通して、単一の団体では解けない課題も解決できる魅力があります。 今後は、AIでなければ解けない社会課題も増えてくると思います。そのときに、データが必要になります。そのために、AIで利用できるオープンデータが重要になります。安全で多くのユーザーに受け入れられるオープンデータの真正性と保護が求められていると思います。

宿谷氏
オープンデータというお話は、まさにその通りだと思います。例えば、本はかなり推敲(すいこう)されていて、日本語的には多分一番いい文章だと思います。かつ文化も蓄積されているものが、ちゃんと著作権なりの問題を解決して、きちんと管理されてAI に学習されて、それが公共財として何らかのライセンスを持って使えるようになったら、すごくいいと個人的には思ってます。ただ、紙の本はAI の学習データになりづらいのかなと個人的に思ったりします。また、論文もインターネットでは、玉石混交のような感じですが、査読の通ったいい論文が、AI の学習データになるといいと思っています。本来であれば、登録された遂行された情報をもとに AI がトレーニングされているといいと思います。

加藤氏
オープンデータは、すごくいいキーワードだと思ったんです。プログラムがオープンになってきて、いろんなツールが使えるようになって、世界中の人が参加して精度が良くなって、組み合わせて違うプログラムを作り、新しい著作物ができていると思います。 オープンデータについても、音楽などは分かりやすいですよね。音楽とかを有効活用して、もっと使ってもらえるようになるといいと思います。そうしたときに、いつ誰がどう使ったかというログと、その証明に PKI 的な考え方を取り入れて、対価を求められるような形になるといいなと思います。

小島氏
オープンデータが耳慣れないというのは、その通りだと思いまして、弊社としても、この取り組みを始めたばかりです。データをどのように流通して、どういう風に担保するかというのはこれからです。オープンデータについては、向こう 10 年でと考えていまして、社会的に目線があっていくための新しい取り組みだと思っております。
また、データの質についてのお話もその通りだと思います。一般論では、良質のデータをいかに大量に確保するかというのが大事です。ご指摘いただいたように、そもそもデジタルになってないものをどうするかとか、いろいろな取り組みがあると思います。これも 1 社で考えるようなものではなくて、いろいろな方と一緒になって考えていくものだと思います。我々も、いろんな人たちと協力しながら進めていきたいと思っております。データに対して証明書をつけるというのは、担保された情報として効果的だと思うのですが、加藤様はどういう経緯で着目されたのでしょうか。

加藤氏
消去証明書をつける時に、何を参考にしたかというと、ホームページの信憑性です。ホームページを信頼する時に、SSL で信憑性をつけることをやっていたので、消去するデータにも証明書をつける必要があると思いました。おそらく、マイクロソフトは、世界で一番データを生成している会社ですね。マイクロソフトがオフィスを使う時の規約にデータは全てマイクロソフトに帰属するっていう風にしたら一発で集まりますよね。どこのタイミングで自分のデータだと結びつけるのか、企業だと eシールがありますが、eシールを発行するタイミングはどうなっているのでしょうか。

宿谷氏
eシールは、サーバー証明書と同じく申請して取得します。一般ですと PDF とかよくあるパターンですけれど、データに制限はあります。今はまだ民間レベルですが、今後は法的な整備も進むと思っています。また「AI の学習に使わないでくれ」という申請も出てくるでしょうから、今後は消すデータに対する証明書も必要になると思います。

小島氏
Microsoft は AI があるなしに関わらず、お客様のデータを我々が見ることはございません。AI がしっかり社会に受け入れられるためには、自分たちのデータがどういう風に使われているかというのはすごく大事なことになりますので、我々の Azure platform で使われた場合は、お客様のデータはお客様の著作物、という認識は変わらずでございます。
また、AIエージェントですが、目的がはっきりしていて、どういうタスクか分かっているから、エージェントが実行できるのですが、特定のタスクを絞る時にアクセスしに行くデータもはっきりしている必要があります。ですので、自分たちがやっている業務でどういうデータにアクセスしなきゃいけないのかというのが必要になってくる時代になると思っています。

宿谷氏
PC を開いて Web で見た瞬間にそこにはマークがあって、これはC2PA で証明されていて出所がわかります、という風にファクトチェックが当たり前の世界になったら、今度は「チェックされていないのはダメ」という食品のトレーサビリティのような環境になれば、フェイクは減ってくるではないかと期待しています。

小島氏
食品のトレーサビリティのように加工が一本道ならば難しくないでしょう。ただ、ニュースのリポストのように、情報が一本のサプライチェーンじゃなくて、様々な形で回ってくるとか、部分的に使われていることもあるので、そういう中でまず、少なくとも大元が AI 製かどうかというのがデフォルトで分かるのは大事だと思っています。


パネルディスカッションの最後に、コンピュータソフトウェア著作権協会の久保田専務理事が、閉会の挨拶をしました。


久保田氏は「コンピュータソフトウェア著作権協会（ACCS）は、1985年の著作権法改正以来、デジタル著作物の権利保護に取り組んできました。当初はソフトウェアの権利保護が中心で、現在ではデジタル化された全ての情報が著作権保護の対象となっています。ACCSは、デジタル情報の重要性が増す中で、著作権保護のあり方について議論を重ねてきました。特に、近年問題となっているのが、フェイクニュースや情報の改ざんです。これらの問題は、著作権保護の観点からも看過できません。ACCSは、情報改ざんが著作権者の人格権を侵害するだけでなく、社会全体の情報基盤を揺るがす問題だと考えています」と取り組みについて触れます。
そして「先日、ACCSの前理事長が目の不自由な人と健常者が格闘ゲームで対戦するイベントを開催し、目の不自由な人が優勝しました。このイベントは、情報化が人々の生活を豊かにする可能性を示しました。その一方で、情報が改ざんされた場合に何が起こるのかという問題も提起されています。ACCSは、AI技術の発展も踏まえ、情報社会における著作権保護のあり方を検討しています。AIと人間の違いは、人間が生身の体でより良く生きるために技術を選択し活用する点にあります。ACCSは、安全で豊かな情報社会を実現するために、著作権保護だけではなく情報教育や技術開発にも取り組んでいく考えです。そのために、他の著作権団体や技術者と連携し、情報社会の課題解決を目指します。特に、メディアリテラシーの向上やデジタル情報の信頼性確保は重要な課題で、ACCSとして安全安心な情報社会の実現に貢献してまいります」と締めくくりました。

←中編へ

一覧を見る

• 前の記事へ