只要不是做壞事就沒關係嗎?Google的jigsaw計畫

Reading time ~1 minute

作者: 陳璿丞

聽說 google 在蓋長城?

wired 上這篇,這是我第一次知道這個jigsaw 的計畫,而且已經有好多個畢業生了。這個是 google 內部的一個研究。希望可以透過使用他們內部的工具,來達到網路的安全。無論是 conversation AI ,希望透過大數據學習,可以讓這些鍵盤俠、網路魔人,減少網路上的霸凌和辱罵。譬如,我打 “Fxxk you”,等字眼,就可以過濾出來。在經過學習和權重的調整,就可以減少網路留言的攻擊。無論是 twitter, facebook, 和 youtube 上的留言,現在或多或少都已經再開始使用這個功能了。相信不久的將來,我們就會進入一個富而好禮且和諧的社會。

Jigsaw 不止有這個計畫,還有 password alert(chrome 插件讓你避免在釣魚網站輸入 google 帳號)、uproxy(像 VPN 一樣可以在好友間傳送資訊),還有提供新聞業者的”Project Shield”,讓他們可以以避開煩人的 DDoS 攻擊。聽起來真的很不錯。從此地球就可以過著幸福和平和的日子了。好讓人安心。 Do not Evil? ============

等等, 和諧 社會?這裡不就和頂頂大名的中國長城一樣嗎?不,不,不,不一樣的,google 是這麼一間好棒棒的公司,怎麼可能會做這種事?和中國不一樣的。中國會過濾某些字眼;google 是過濾不好的字眼。那 不好某些 是誰來定義?機器學習的 algorithm 是誰來決定?如果 google 的上司今天決定要過濾所有對 google 攻擊/不利的字眼?

誰來決定 do not evil?

我試著在 google 裡打了一些關鍵字:jigsaw, censorship, 果然就出現好幾篇關於這類的討論[1]。我的想法也不是什麼原創了。一些比較敏感的人,也有想到這也許是 censorship 的延伸。Internet 之所以美好是因為可以 free to speech ,如果講得每一句話,都要經過審核?在 wired 上的文章,有一段的大意是這樣的,受到網路攻擊的人,在寫文章時,就會自我審核,怕觸犯大眾。而 google 所做的,不也是讓 所有人 ,在寫東西前就先自審核了?

有什麼不同。

在寫下去,就會有人開始想到 George Orwell 的大作《1984》, 當機器開始審核你的思想有沒有正確,有沒有犯了 thought crime ,這樣的世界,就會是個富而有禮的社會了?

而最近 Facebook 也大提倡要打擊假新聞、要開始使用機器學習來 審查 大家的發言不是假的。有沒有?有看到這個趨勢嗎?這個關於世界想要的走向?如果你可以控制言論,那不就是可以控制世界了?

We point out what is fake; we point out what is true — the answer to bad speech is not censorship, the answer is more speech.

在 12 月 13 日,Edward Snowden 和 Twitter 的 CEO 的 Jack Dorsey 在 twitter 的直播平台有一場公開對話 ,大約一個小時,我覺得對此議題有興趣的人,也可以看看[2]。

他說了這麼一句話,對於假新聞,我們要做的不是審查、審核,而是我們指出哪些是正確的、哪些是錯誤的,然後,用更多的對話來討論。人們會自己去想、自己去覺得,哪些才是正確、哪些才是錯誤的。

如果對 censorship 想法有興趣,有更多相關的影集、遊戲都在談論這些,不久將來可能會發生的事。譬如美劇的Mr. Robot 就是在討論大公司掌控後的世界,有 hacker 看不習慣這樣的世界,希望做出一些改變。或是 Ubisoft 的 watch dog 系列。

[1] https://edgylabs.com/2016/12/15/conversation-ai-internet-censorship/

[2] https://news.vice.com/story/twitter-ceo-dorsey-interviewed-nsa-whistleblower-edward-snowden

elixir的plug入門教學

先瞭解基本的 http=================要知道 elixir 的 plug 是幹麼的,可能要先知道 http 在幹麼的。這裡可以使用 chrome 的[inspector ](https://developer.chrome.com/devtools)可以來...… Continue reading

elixir的ecto入門教學

Published on September 04, 2017

小孩的母語

Published on June 25, 2017