ヤフーは不適切投稿をAIで監視、投稿欄を自動で非表示にする仕組みを導入した。AI監視は米SNSが先行するが、例えばFB(メタ)では、暴力に関連する投稿やヘイトスピーチは97%以上が利用者の目に触れる前にAIで削除、特にテロ関連は99%以上の高い割合で摘発できているという。だが、いじめや嫌がらせに関する早期摘発は54%にとどまる。また、LINEでは構造的にユーザーからの通報をうけての削除対応とならざるを得ない。隠語を使ったいじめや誹謗中傷など「グレーゾーン」への対応が今後の課題だ。さらに、人々は正確さよりも面白さを重視して情報を拡散する傾向や、既に持っている先入観に合う情報を選択的に拡散したりする傾向があり、SNSの構造自体に有害情報が広がるメカニズムが内包されている。誹謗中傷など悪意を拡散するSNSのあり方が厳しく問われている。(芳賀)

▼FB(メタ) コミュニティ規定施行レポート 第10版を公開

▼投稿のAI監視 ヤフー「グレーゾーン」に苦慮(2021年11月21日付日本経済新聞)

三菱地所は、丸の内地区で24年度までに最大4万台の人工知能(AI)対応カメラを設置する。個人情報の保護や情報管理を徹底した上で、事前に同意を得た顧客を対象に「顔パス」による決済をするほか、防犯や災害対応といった情報提供に活かすという。街全体への設置は初めてとなる。交通量や来場者の属性などを分析、さらに「顔パス」決済でテナントへの販促支援の強化を狙う。また、不審者の動きを画像で解析し、アラートを発したり、災害時には避難経路を来街者に伝える。AI対応カメラを巡っては個人情報管理などへの懸念が根強い。JR東日本が駅構内を通行する全ての人の顔を犯罪歴のある人と公表せずに照合し問題となった。AIカメラによる高度な分析と瞬時の判断には価値がある。事業者は根強い懸念に対して社会的コンセンサスを形成する努力が必要だ。(伊藤)

アプリ上のマイマップで住まいなどの災害リスクを確認し、マイタイムラインで災害時の事前の行動計画づくりを支援する「まちケアコモンズ」は、損保ジャパンや高知市内のホテルと連携し、高知県在住の市民を対象とした「ホテル避難」サポートサービスを提供する。毎月一定額を支払うことで、自治体が警戒レベル4の避難指示を発表したときに避難先のホテルの宿泊費用を1泊5000円割り引く。まずは高知市内のホテルを対象に提供し、他地域への展開も検討する予定だ。高知県立大学学長の野嶋氏は「低額の掛け金で避難時の宿泊料金割引は魅力的。高齢者が無理なく、2次被害を避け、早めの避難が可能となる。選択肢が増えるとよいと思う」と話す。水害などが多発する高知県内の需要は高いが、その他の地域でどのように普及させるかが今後の課題となるだろう。(大越)