大規模操縱和平台隱私:我們身處何處呢?

05.07.2019  - 作者  在 安全性

第七屆 Agora du FIC 於 2019 年 4 月 18 在巴黎 Maison de la Chimie 舉辦。FIC 為一國際網路安全論壇,此網路安全會議每年舉辦一次,Agora 恰巧於這段時間中舉辦。這個會議的主題是“從影響到干預:當民主對上網絡安全威脅”,Gandi 也一同參與這場會議。

AgoraFic-avril19
© Agora_FIC

您如何定義網路戰爭?

根據 活動主持人兼 FIC 聯合創始人Watin-Augouard 將軍的介紹,資訊操縱以及平台保護為 21 世紀主要的挑戰。Jean-Louis Gergorin,前任外交官和 Cyber 一書作者。在 永久戰爭 中說道:『 網絡戰是一種現代的政治延續,它有兩種面向:侵入和操縱。在社群網絡中,錯誤資訊散播速度為正確資訊的七倍之快。』大規模操縱手法在上一屆美國總統大選期間達到頂峰。美國參議院情報特別委員會估計,高達 1.26 億美國人深受影響。

為了定義操縱一詞的概念,CAPS 和 IRSEM 兩個智庫在 20 個國家中進行 100 多次的訪談,並發佈法語和英語的非官方報告:信息操縱:一個對民主國家的挑戰。據 CAPS 的聯合主任 Alexnadre Escorcia 所述,在研究報告的操縱案例中有三個通用準則和三個不同等級:

準則

  • 竄改新聞或捏造內容
  • 大規模和人工散佈(機器人)
  • 有害的政治意圖

GRADATION

  • 假新聞、毀謗
  • 國家操縱
  • 非國家操縱(例如伊斯蘭國,民族/宗教團體)

科技使資訊操縱變得更加容易。未來的挑戰包括深度偽造、動力化(像是 針對物理信息傳輸的基礎設施,如海底電纜和衛星),標準化和代理化(像是 將拉丁美洲和非洲等地區的人口納入信息主導的代理權爭奪戰)。在法國,信息操縱反對法 因此項報告而於 2018 年 11 月 20 日投票通過。

Thierry Vedel,CNRS 和 Cevipof 的研究員以及政治科學老師進一步深入此主題,並指出:

『錯誤信息並非歷史上的新現象。真正有所改變的是 由社交網絡提供的規模性、速度性和可見性。 』-

Thierry Vedel

數位時代:新的社會契約

AgoraFIC2-avril19-FlorianBachelier
Florian Bachelier,第一任國民議會檢察官兼伊勒-维莱納省議員

Florian Bachelier,第一任國民議會檢察官兼伊勒-维莱納省議員,發表了他的信念:

『數位時代不在只是一場革命。是一新的社會契約。公共空間變得完全數位化並擾亂了我們與時間的關係。網路安全即為此合約的附加條款。沒有任何無知、被動或天真的空間。』

Florian Bachelier

對 Jean-Louis Gergorin 而言,歷史上沒有一種技術在發明後,找不到它在軍事上可應用之處。數位時代的爆炸並沒有倖免於此規則,而以控制和影響為目的的社交網絡其攻擊性的使用也已開始發展。

這位前外交官將這個故事重新開始。在美國, George H. W. Bush 總統領導時期下的 Jared Cohen 是當時最早使用社交網絡促進民主之一的人。Jean-Louis Gergorin 更引述了五角大廈 2011 年的 “勇者之聲行動”,以打擊塔利班和其基地組織(特別是在阿富汗和巴基斯坦)。這個想法是使用當地語言的襪子木偶帳戶(假的 Facebook 和 Twitter 帳號)來傳播信息和影響政治發展。而此項計畫的細節在開始沒幾週後就洩露了,使得計畫變得毫無意義。

最後一個為 Jean-Louis Gergorin 早期歷史中信息操縱的一個例子,“阿拉伯之春” 以及社群媒體在該運動中所扮演的重要角色。俄羅斯人認為,這其實是美國準備破壞俄羅斯社會穩定的做法。VKontakte (俄羅斯的臉書) 的創始人 Pavel Dourov 被褫奪權利,社群網路的控制權由 Vladimir Poutine 的親信接管。

該如何與網路操縱抗衡?

社交網絡的過濾器和建議在信息連結時會產生認知偏差。建議的內容會提示用戶查看與其喜好和意見相關的內容。事實上,這些過濾器和演算法具有 “相似結果搜尋” 的效果,會根據這些特殊喜好將人們分配到相同的社區中。Thierry Vedel 回憶並道出,認知心理學研究大腦如何過濾信息。 他想要連貫性。大多數人都選擇性地接觸信息。這進而產生所謂的確認偏差:假的信息比真的信息更可以使我們滿足,因為它符合我們已經在尋找的東西。

『我們不相信我們眼睛所見,只看見我們所相信的。』

Thierry Vedel

Agora 會議的參與者將最近麻疹爆發事件列為網絡流行病的一個案例,這是因為社交媒體上的大規模反疫苗接種活動。

對 Jean-Louis Gergorin 而言,可以透過 Facebook 和 Twitter 的算法來解釋這一點,該算法旨在尋找最大化的觀眾。 Youtube 和 Instagram 今日即採取相同的方向。 無論是對還是錯的信息,它都是最受歡迎且最清晰的信息,以發揮最大的吸引力。

許多內容都常態性地被標記。非營利組織 Point de Contact 標示出那些已被大眾和國際協會網絡廣泛使用之明顯違法的內容。該協會之主席 Jean-Christophe Le Tocquin 更指出,在2018 年被標記的 32,000 份的網址報告中,就有 18,000 筆被認定違法。 而大多數案例是與兒童情色內容相關。

GANDI 觀點

Gandi 有一頂 « 雙頭帽 » : 網路代管 以及 域名註冊商。我們有義務遵守法律以及我們的合約(像是與 ICANN 簽訂之合約)。網路犯罪的處理建立在 人、法律和技術上:對於我們接收到的每筆訊息,我們都致力於提供一個遵守第三方法律及遵重我們客戶權利的回覆。

Gandi 更持續地訓練其對外之代表,使其在參與該領域中之活動能有最佳表現。例如,我們參與了白皮書 兒童性虐待因素和在線恐怖主義宣傳 的創建,您也可以在 Point de Contact 的網站上找到。

我們還在學習的是:

在歐洲,一些事件正在演變,例如,在德國,反對仇恨的法律賦予社交網絡的老闆們權力。對 Thierry Vedel 而言,即使法律存在,也難以適用。

『 就國家層面來說,跨國社交網絡需要如何自我規範呢?』

Thierry Vedel

然而,即使法律是具聲明性的而且容易執行,但最重要的還是它的構建框架。

Jean-Christophe Le Tocquin 提及到當我們正在學習時而引起的一種集體不適。即便如此, Microsoft、Facebook 和 Twitter 其地位已與幾年前不再相同。

Brad Smith,Microsoft 的法律總監,也幫忙推動了這項改變。在去年三月, Mark Zuckerberg 及在法國期刊 JDD 中提到 Facebook 需要自我規範。Jack Dorsey,Twitter 的創建人, 也承認公司在處理內容的方式上是有缺陷的。

在美國,Facebook 和 Twitter 已經開始自我約束,尤其針對假賬戶的刪除處理。然而,這些平台每一個都受到自身內部緊張局勢所影響:工程師擁有技術,採用人工智能解決問題。另一方面,主辦人更喜歡較為社會化的方法。 實際上,平衡是必要的。

對 Jean-Christophe Le Tocquin 而言, 有以下兩種改進方法:

  • 科技(今日,違法內容的結構處理基本上是人工的)
  • 個人及主辦人之保護(未受訓練和無人監督) (pas formés, pas encadrés).

GANDI 觀點

關於安全保障,Gandi 捍衛個人自由和數據保護。 在一個人們越來越依賴公司的社會中,這些公司對其商業模式和個人數據的利用變得沒有透明度,因此,很少有透明且開放的解決方案來克服它們。

網路用戶們必須了解信息交換之機密性的重要。這也就是為什麼 Gandi 與 Qwant、UPMC 及 BPI 客服團隊一同參與 Caliopen 計畫。Caliopen 是一維護私人訊息隱私的安全傳遞工具。網絡就如同一張沒有信封的明信片。Calipen 如同一個密封的信封,可以保護 IMAP 電子帳戶中的郵件和 Twitter 中的私人訊息。 Beta 版內容將在近期內發佈!

更多關於 Caliopen.org