第2回パネルディスカッション「生成AIとフェイクニュース」中編

←前編へ　　　　　　　　　　　　　　　　　　後編へ→

イベントの後半では、3名のパネラーによるパネルディスカッションが開催されました。登壇したパネラーは、次の3名になります。
・日本マイクロソフト株式会社　政策渉外ディレクター　小島治樹氏
・ワンビ株式会社　代表取締役　加藤貴氏
・サイバートラスト株式会社 CTO/CISO 宿谷昌弘氏


●フェイクニュースにおける現状と課題の整理
パネルディスカッションの前半では、「フェイクニュースにおける現状と課題の整理」と題して、パネラーの自己紹介と現状の課題が提言されました。

小島氏
日本マイクロソフトで政策渉外という役割を担当しています。政策に関するコミュニケーションを担当していますが、今はAI 時代ですので、AI の政策であったり、AI が安心安全に使えるためのコミュニケーションを担当しております。

加藤氏
ワンビという会社は、パソコンに保存されているデータが誰かに悪用されて情報が漏えいしないように、リモートで消去するなどのソリューションを開発して、皆様にお届けしています。
私自身は、セキュリティ業界にいた経験もあり、ACCSでもセキュリティについてお話をさせていただいてますので、今回その立場で参加させていただいております。

宿谷氏
サイバートラストの研究開発の部門で、AIを含めた最先端の技術を研究しています。

自己紹介に続いて、モデレーターを務めるサイバートラストの宮坂氏は、生成AIによるフェイクニュースのコンテンツ生成の現状について、宿谷氏に問いかけます。

宿谷氏
マイクロソフトのCopilotのような大手の生成AIでは、フェイクニュースにつながるようなコンテンツは生成できないようにブロックされています。しかし、そうした予防策が施されていない生成AIサービスでは、10秒くらいでフェイク画像を生成できます。試しに、米国の新旧大統領がF1カーに和服で乗っている偽画像を生成してみました。生成した偽画像は、そのままSNSでの配信も可能です。


小島氏
生成AI の能力が上がってきた時に、選挙でどのように使われているかは、グローバルで関心が高いと思っています。2024 年は、世界40カ国で約40億人が投票した選挙イヤーでした。生成AIによる偽コンテンツは、明らかにダメなものは誰でもすぐに判断できると思いますが、その裏側で正しいことは何か、という話しは別の問題になります。例えば、ある候補者が「増税は日本にプラスになります」と主張しているとします。この主張は、真実性と真正性という観点から捉えないと判断できません。真実性は、客観的な事実に対して合っているかどうかです。真正性は、その主張がそのままの姿であるかどうかです。真実性と真正性を「増税したら日本にプラスになります」という主張で判断すると、プラスかどうかは将来のことを話しているので、真実性には疑問が残ります。しかし、主張そのものは虚偽ではないので、真正性の観点からは正しいのです。選挙の中で生成AIを使った偽情報が作られてしまうリスクは無視できないと思いますが、我々のようなAI事業者としては、真正性をどのように担保していくかが問われていると受け止めています。

加藤氏
経済産業省の「協調的なデータ利活用に向けたデータマネジメントフレームワーク」によれば、データによる付加価値の創造において、信頼性の確保に向けた新たなアプローチの必要性が提唱されています。このフレームワークでは、データが有する性質として、個人情報や営業秘密などのカテゴリに、開示範囲、利用目的、データ管理主体、データ利権者といった属性が定義されています。この属性を持ったデータに対して、生成や加工などのイベントが生じたときに、元々あったオリジナルのデータが変化します。生成AIによる元データの加工は、全く新しいものを作るのではなく、オリジナルのデータが保有する属性を保持していれば、データの見極めが可能になるのではないかと思います。


例えば、01のデジタル数値ならば、明らかに違いがわかりますが、先の偽画像のように、パッと見では本当にそっくりですと、人間は間違えてしまいます。その時に確かになるのは、やはりデータであって、その属性の有無が重要になります。 昔から「このデータは信じられるのか？」という課題がありました。「そのデータは誰がいつ作ったんだ」とか「改ざんされてないのか」とか「信頼していいのか」という課題です。DX時代になり、デジタルでつながるようになり、加工も容易になり、さらに生成AIが出てきて真正性の確保は重要になっています。 弊社の事業領域となるデジタル署名や証明書によるコンテンツの改ざん検知や、話題になっているeシールのようなテクノロジーを活用して、真正性の確保に取り組んでいけると考えています。

←前編へ　　　　　　　　　　　　　　　　　　後編へ→

一覧を見る

• 前の記事へ
• 次の記事へ