大規模な情報操作とプラットフォームにおけるプライバシーの取り扱いについて

05.17.2019  - written by  in セキュリティ

2019年4月18日に第七回Agora du FICがパリで開催されました。Agoraは「アゴラ (言論の場)」という意味で、日本語でもたまに見る機会があるかもしれません。FLCは”Forum International de la Cybersécurité—the International Cybersecurity Forum” の略称で毎年開催されるサイバーセキュリティコンフェレンスです。

今回のテーマは「影響と干渉: サイバーセキュリティの脅威における民主主義」(“from influence to intervention: democracy in the face of cybersecurity threats”)で、Gandiも出席しました。

AgoraFic-avril19
© Agora_FIC

サイバー戦争をどう定義する?

FLCの共同設立者でモデレーターであるGeneral Watin-Augouardによると、情報操作とプラットフォームにおける情報の保護が21世紀最大のチャレンジであると述べています。また、「サイバー戦争は人権の侵害と情報操作が合わさった現代の政治活動の延長線上にあり、偽りの情報は真実の情報と比べてソーシャルメディアで7倍も拡散される」と、元外交官で”Cyber. The Permanent War”の著者Jean-Louis Gergorinは述べています。大規模な情報操作は最近の米国の大統領選の時にピークを迎え、約1億2600万人の米国の国民が影響を受けたと上院情報問題特別調査委員会は報告しています。

現在起こっている現象をより詳細に調べるために、シンクタンクのCAPSとIRSEMは20カ国で100を超えるインタビューを行い、フランス語と英語で結果レポートをまとめました。“Information Manipulation: A Challenge For Our Democracies“からレポートを確認することができます。CAPSのディレクター助手であるAlexandre Escorciaによると、レポートで述べられている情報操作のケースには3つの共通する特徴と規模が存在します。

特徴

  • 真実が歪曲された情報や作り話
  • 大規模で人工的な情報の拡散 (ボットの利用など)
  • 人に害を及ぼす政治的な意図

規模

  • 偽のニュース、他人の中傷
  • 国家による情報操作
  • 国家ではないグループによる情報操作 (例: ISIS、宗教的/人種的団体)

こういった状況が高まる一方で新しい技術の発展が情報操作を容易にしている側面もあります。将来、通信ケーブルや通信デバイスなど情報インフラへの攻撃や大規模な情報操作など様々な困難に直面し、乗り越えていかなければいけません。フランスで2018年11月20日に成立した情報操作についての法案は特にこのレポートに影響されています。

CNRSの研究員であり政治学教師であるThierry Vedel は以下のように述べ今回のトピックを掘り下げています。

誤った情報の拡散といものは人類の歴史上度々発生していたものであるが、今までと違うことは、その規模、スピード、SNSによって可能になった可視性にある

Thierry Vedel

デジタル世界の新しい社会契約

AgoraFIC2-avril19-FlorianBachelier
Florian Bachelier, Premier Questeur de l’Assemblée Nationale et Député d’Ille-et-Vilaine

フランス国民議会の議員でイル=エ=ヴィレーヌ県の代議士であるFlorian Bachelier は情報操作について民主主義の基礎に立ち戻り以下のように述べています。

デジタル革命は終わりを迎えました。新しい社会契約が必要です。公共の場はデジタル化され、人の時間の使い方も大きく代わりました。サイバーセキュリティはこの新しい社会契約の乗り手です。無自覚で受け身な態度のままでいるわけにはいきません。

Florian Bachelier

Jean-Louis Gergorinは、今までの歴史で新しく発明された技術で軍事利用されたことがないものはないと言います。デジタル化の波も例外ではありません。軍事利用が新しいオンライン技術に使われるとき、ソーシャルネットワークは大きな影響力を持ち、人々をコントロールできるようになります。前外交官は歴史の始まりに遡り、米国では前大統領George H. W. Bush,の元、Jared Cohenがソーシャルネットワークを使用して民主主義を促進した最初の一人だと述べます。

また、Jean-Louis Gergorin はタリバンとアルカイダに対応するため2011年にアメリカ政府が行った「オペレーション・アーネスト・ボイス」(operation Earnest Voice)という作戦について言及しています。この作戦は偽のFacebookやTwitterのアカウントを作成して、現地の言葉で政治的な発信をするというもので、実際にこの作戦が行われた数週間後に議論の余地があるものとして詳細がリークされました。

初期の情報操作に見られる例としては中東で発生した反政府デモ「アラブの春」があります。アラブの春ではこの運動を拡散するためにソーシャルメディアが活用されました。ロシアでは、米国がロシアの情勢を不安定にさせるための施策の前段階の情報操作における練習であったと信じる人もいます。ロシアのSNS大手VKontakte (VK)の創業者であるPavel DourovはCEOの座を追放され、現在このSNSはプーチン大統領の管理下にあるとされています。

オンライン上の情報操作にどう対抗するか

ソーシャルメディア上のフィルタやレコメンド機能は情報にさらされた時に認識の偏りをもたらします。ユーザーの好みや意見に関連したコンテンツが提案されたコンテンツとして表示されます。このようなフィルターによって好みのコンテンツを促進し、趣味嗜好によって人々をグループ分けします。

Thierry Vedel は認知心理学の研究対象の一つは、どのように脳が情報を選別するかについてだと述べます。脳は一貫性を求め、人は選択的に情報にさらされています。こういった状況は「確証バイアス」(自分が支持する情報ばかりに目がいき、反証する情報を無視する傾向で、真実より偽の情報を信じる結果になることもある)をもたらします。

私たちは見ているものを信じ、信じているものを見るのです。

Thierry Vedel

今回のAgoraの参加者は最近発生している麻疹の流行を、ソーシャルメディア上の反ワクチン運動が生み出したサイバーエピデミックとして言及しました。こういった現象の大部分は、ユーザーの特定の投稿の影響力を最大化しようとするFacebookやTwitterが使用しているアルゴリズムで説明がつくとJean-Louis Gergorinは述べています。

今日のYoutubeとインスタグラムも同じ方向に進んでいます。虚実関係なく、話題になっている情報の多くはSNSのプラットフォームによってより拡散されるため、極端な情報に注目がいくようになります。多くのコンテンツが普段から通報されています。NPO団体のPoint de Contact は広い大衆や国際団体のネットワークによって、通報されたコンテンツをマーキングしています。

2018年時点で32,000ものURLが通報され、その中の18,000がPoint de Contact によって違法行為を犯しているものだと判明したと代表のJean-Christophe Le Tocquin は言います。こういったコンテンツの大部分は児童ポルノ関連でした。

Gandiの見解

Gandiはホスティングプロバイダ、ドメインレジストラとして2つの役割を持っており、法律やICANNなど関連機関との契約内容に沿って行動する義務があります。サイバー犯罪へは人道的、法務的、技術的な対応を行います。 通報されGandiが受け取る通知について、ユーザーを含む関係者の権利を尊重した回答を提供するようにしています。

また、Gandiでは継続的に担当スタッフに業界のベストプラクティスを学べるようトレーニングの機会を提供するようにしています。(例: “ Child sexual abuse material and online terrorist propaganda”というホワイトペーパーの作成に参加しました)

継続的に学び、改善する姿勢が重要

ヨーロッパでサイバー犯罪に対する対策は着実に進んでいます。例えば、ドイツではヘイトスピーチに関する法律があり、SNS上でヘイトスピーチが見られた場合、SNSを提供する企業に責任を求めるようになりました。法律が存在したとしても、人間は運用がとても下手です、とThierry Vedel は言います。

どのようにして国境を越えたソーシャルネットワークを国家規模で規制できるというのでしょうか。

Thierry Vedel

同様に、法律の内容が明確で実行に移すことが容易であったとしても、サービスを提供する企業もそれに伴いサービスをより安全なものに変えていくことが大事です。多くの企業もまた変化に速く対応しており、Microsoft、FacebookやTwitterなどの企業は2-3年前と比べて今は別の姿になっています。

Microsoftの最高法務責任者であるBrad Smithはこのような企業側の対応を進め、FacebookのMark ZuckerbergはFacebookが自身を規制する必要があると認めました。Twitter創業者のJack DorseyはTwitterのプラットフォーム上のコンテンツの取り扱い方にコンテンツの種類によって差があるとも認めています。

米国ではFacebookやTwitterが、特に偽アカウントの削除について自主規制を始めました。これらの企業は最新のAI技術を使用して対処をしようとしています。一方社会学的なアプローチがより必要だという意見もありますが、現実ではその両方のバランスが必要になります。

Jean-Christophe Le Tocquinは現時点で2つの改善点があると述べています。

  • テクノロジー (現在偽アカウントの特定方法は基本的に手作業である)
  • ユーザーとプラットフォームの保護 (多くのユーザーは何に気をつけたほうがいいかをわからないままSNSなどのサービスを使っており、プラットフォームは適切に監視されていない状態)

Gandiの見解

セキュリティにおいて、Gandiはユーザーの権利とデータ保護を第一の優先事項としています。社会の構造を大きな視点で見ると、我々個人は個人情報の取り扱いについてあまり透明性のない大企業に依存して生活をしていることがわかります。こういった依存状態を断ち切る、透明性がありオープンな方法が少なからず存在します。

インターネットユーザーはネット上のコミュニケーションのあり方を真剣に考える必要があります。Gandiでは CaliopenというプロジェクトにQwant、UPMC、BPIといった企業や団体と参画しています。Caliopenはプライベートメッセージの機密性が保たれるように設計された安全なメッセージングサービスです。オンライン上で送信されたメッセージは封筒に入っていない、ポストカードのような状態で送られていると言ってよいでしょう。Caliopenはそういったメッセージを外部からは誰も見ることができないように封筒に入れメールアカウントやその他メッセージを保護する、ということを目的としています。ベータ版のリリース時にまたお知らせします。 (https://www.caliopen.org)

Leave a Reply