SI センター主催 第6回シンポジウム

生成AI のセキュリティリスクと対策
〜 ハルシネーションやディープフェイクから見る課題 〜

日時

 2024年 8月 9日 (金) 13:30 – 17:00

開催概要

 東京大学情報セキュリティ教育研究センターと次世代知能科学研究センターは「生成 AI のセキュリティリスクと対策」をテーマに、合同シンポジウムを開催します。

 生成 AI が登場して以来、様々な分野における生成 AI の活用が進んでいます。これにともない、生成 AI のセキュリティリスクも顕在化し始めています。例えば、偽の音声や映像を生成するディープフェイクによる問題や、偽データによる AI モデル自体の脆弱性や公平性問題、また、攻撃ツール生成への利用や、データプライバシーといった問題が取り沙汰されています。

 生成 AI を悪用した攻撃、もしくは生成 AI 自体への攻撃をどのように防ぐかは、生成 AI を社会展開するにあたっての重要な課題となりつつあります。そこで本シンポジウムでは、有識者の皆様に現在の生成 AI の動向やセキュリティ対策、また生成 AI 自体のセキュリティ強化について状況を伺い、これらの展望について議論をいただきます。

主催

東京大学 情報セキュリティ教育研究センター (SI センター)

共催

東京大学 次世代知能科学研究センター (AI センター)

登壇者 (調整中含む : 50音順)

近江 崇宏 様 (ストックマーク株式会社)
佐々木 良一 様 (東京電機大学)
高橋 翼 様 (SB intuitions 株式会社)
山口 真一 様 (国際大学グローバル・コミュニケーション・センター)

参加対象者

どなたでも参加可能

参加費用

無料

会場

オンライン開催 (ウェビナーによる開催)

参加申し込み

URL : https://forms.gle/6XoS59iTDoS9LfqC7

プログラム詳細

13:30-13:35 開会の挨拶
13:35-14:05 生成AIによる攻撃に関するリスクアセスメントの試行
佐々木 良一 様 (東京電機大学 名誉教授)
14:05-14:35 AIが拡大する偽・誤情報問題と求められる対策
山口 真一 様 (国際大学グローバル・コミュニケーション・センター 准教授)
14:35-14:45 休憩
14:45-15:15 生成 AI の技術的最新動向とハルシネーションの抑制
近江 崇宏 様 (ストックマーク株式会社)
15:15-15:45 生成AIの安心安全な活用を目指して
高橋 翼 様 (SB intuitions 株式会社)
15:45-15:55 休憩
15:55-16:55 パネルディスカッション
司会 関谷 勇司 (東京大学)
パネリスト(50音順) 近江 崇宏 様
佐々木 良一 様
高橋 翼 様
山口 真一 様
16:55-17:00 閉会の挨拶