教師殺害から改めて見えてくるSNSのコンテンツ管理問題(FNNプライムオンライン)
【リンク先抜粋】
SNSは、世界中の人々に情報へのアクセスを容易にする上、人それぞれに自由に表現できるようなスペースを与えている。その反面、誰でも自由にSNSに投稿できるゆえに、これまでも多くの問題が発生している。ネット上でのハラスメントやフェイクニュース、誹謗中傷、ヘイトスピーチなどからの被害者救済と、表現の自由といった不可欠な権利のバランスを考慮する必要がある。
フランスでは、ネット上でのハラスメント、誹謗中傷は刑法上の犯罪であり、投稿者とホスティングサーバーに対し、コンテンツの削除を請求することができる。また、警察の捜査で容疑が認められれば、禁錮や罰金が科される可能性もある。
しかしSNS上での拡散のスピードを考えると、通報や情報削除の請求をしたり、裁判に持ち込む対応があったとしても、違法な情報や有害情報はあっという間に話題になり、被害の拡大を食い止めるのは困難だ。すでに悪質な投稿がネットで拡散し、被害者は傷つけられ、裁判を起こしても人生が一変してしまう。そのような情報を削除する人手も足りない。
現在SNSのコンテンツ管理は主にアルゴリズム、要するに機械を通して行われているため、機械には「表現の自由」と「誹謗中傷」の限界を見分けることができるのかが問題だ。また、人権を重視するSNSの運営会社と各国の政府がどの程度まで管理してもいいのか複雑な論点もある。