第2期SIP「国家レジリエンス(防災・減災)の強化」
「避難・緊急活動支援統合システムの研究開発」
「対話型災害情報流通基盤の研究開発」におけるNICTの取組

はじめに

このページでは、第2期SIP「国家レジリエンス(防災・減災)の強化」テーマI「避難・緊急活動支援統合システムの研究開発」(研究責任者:国立研究開発法人防災科学技術研究所(NIED)臼田裕一郎)における研究開発項目「対話型災害情報流通基盤の研究開発」(共同研究機関:株式会社ウェザーニューズ(WNI)、NICT)にて開発している防災チャットボット及びSOCDAに関して、NICTが研究開発している内容についてご紹介します。

研究開発概要

さらなるコンセプトの詳細は日本学術会議第11回情報学シンポジウム講演資料をご覧ください。http://scj-info.nii.ac.jp/data/infosympo11/infosympo11-5.pdf

本研究プロジェクトの関係機関は以下の通りです

共同研究開発機関(3機関):国立研究開発法人防災科学技術研究所(NIED)、株式会社ウェザーニューズ(WNI)、国立研究開発法人情報通信研究機構(NICT)
協力機関(2機関):LINE株式会社、一般社団法人 情報法制研究所(JLIS)

NICTで実施している研究開発内容

NICTでは、この研究プロジェクトにおいてDISAANA・D-SUMMの研究開発で培われた技術を防災チャットボットが動作するプラットフォームであるSOCDA(SOCial-dynamics observation and victims support Dialogue Agent platform for disaster management)に応用するとともに、防災チャットボットを用いて収集された情報をSOCDAや他のシステムで利活用しやすい形式へ整理、要約する技術の研究開発を実施しています。

デマ・フェイクニュースについて

SNSの情報を利用すると言うと、デマやフェイクニュースに振り回されるのではないかと心配される方も多くいると思います。また、AIを導入することでそういった情報を容易に排除する事が出来るだろうと考える方もいらっしゃると思います。しかしながら、デマ等を現在のAI技術を用いて自動的に特定することは困難です。

本プロジェクトでは、こうしたデマ、フェイクニュース対策として、NICTで研究開発を進めてきたツイッター上の災害関連情報を整理するAIシステムであるDISAANA・D-SUMMで、用いられた技術を活用します。具体的には、SNS上に発信された情報について、それがデマやフェイクニュースであると気がついた人が発信した情報を自動的に検出することで、デマやフェイクニュースであることの可能性を検知します。具体的には、ある情報と矛盾する情報を同時に検索し、双方が見つかった場合には、両論併記する(例:「〜市では*日*時より断水します。」⇔「〜市で*日は断水は起きません。」または「〜市で*日に断水があるというのはデマです。」)ことで、ユーザがデマやフェイクニュースの可能性を判断する為の判断材料を提供します。

なお、上記の例では、「〜市で*日に断水があるというのはデマです。」という情報自体がウソである可能性がありますので、元の情報、つまり、「〜市では*日*時より断水します。」がデマであることは両論併記しても一概には判断できません。ですので、最終的には、両論併記した情報や周囲の状況を元に、各々の情報の真偽はユーザに判断をしていただくことになります。

また、テキストの書き方等を手がかりにして、ある情報の信頼度を計算するアルゴリズムを考えること自体は可能ですが、その精度が100%になることは少なくとも現状のAI技術ではあり得ません。そうしたアルゴリズムを安易に使うと、例えば、非常に重要な正確な情報に関してアルゴリズムが誤ってデマの可能性が99%であると判断してしまった場合に、情報の受け手であるユーザがアルゴリズムの判断を鵜呑みにしてデマを正しい情報と誤って認識する可能性が高まります。これは、極めて危険であると考えております。

なお、SOCDAでは、デマの可能性のある情報に関して、現場にいる被災者にその真偽を問い合わせるといった仕組みを導入することも検討しております。

防災チャットボットを用いた実証実験等

  

  2019年1月28日 下田市

  詳細については以下のURLをご覧ください。
  https://risk.ecom-plat.jp/index.php?module=blog&eid=10483&aid=22583

 

  2018年12月21日 神戸市

  詳細については以下のURLをご覧ください。
  https://www.nict.go.jp/info/topics/2019/01/16-1.html

連絡先

  disaana[at]khn.nict.go.jp([at]を@に読み替えてください)