社群平台的管理難題:假帳號、不當內容、網軍聯合操作/施典志

這個社會就是一樣米養百樣人。永遠都會有許多個人和組織,為了特定目的和利益,去犯法或鑽法律漏洞;在虛擬世界,當然也會有很多人用各種方式濫用平台服務,因而衍生出各種平台管理上的難題。但什麼該管、什麼不該管、該管到什麼程度,都是困難的決定。

近來和社群平台管理相關的幾條大新聞,就是各大社群平台,不約而同地發布公告,揪出一堆明顯受到中國統一操作,用來黑香港「反送中」運動的網軍帳號、專頁等,祭出停權、刪除等處分。

首先是 Twitter 開了第一槍,抓到 936 個明顯由中國網軍統一使用的帳號,以及二十萬個有問題的帳號。Twitter 非常有 guts,不但把這些問題帳號停權,還把相關的操作原始資料都放了出來:

然後,鏡傳媒旗下的《讀+》根據 Twitter 放出來的資訊,做了很精彩的資料分析與整理,讓大家看到網軍養帳號的典型操作手法,印證 Twitter 的指控確有其本:

接下來是Facebook,同樣發表了一篇公告,把一些他們偵測到中國網軍的操作行為都列出來,同樣也砍掉若干帳號和粉絲頁:

隔了兩天,Google 也公告從 YouTube 上移除了 210 個帳號,同樣是中國網軍用來統一發布「反反送中」影片用的:

不甘寂寞的還有 LinkedIn。雖然他們沒有明說砍掉的帳號和中國網軍的關係,但強調今年上半年已經砍了 2160 萬個假帳號,其中有 1950 萬個,連註冊都還沒完成就被抓到了:

這些平台接二連三宣示反制中國網軍的操作,當然引起很大的話題。不過會操作帳號養網軍的並不只是中國,一般的行銷公司也會幹這種事;而對於這些「非正常使用行為」,各平台也感到非常頭痛。

這個社會就是一樣米養百樣人。永遠都會有許多個人和組織,為了特定目的和利益,去犯法或鑽法律漏洞;在虛擬世界,當然也會有很多人用各種方式濫用平台服務,因而衍生出各種平台管理上的難題。

我猜本文讀者絕大多數都是平台「用戶」,但像筆者一樣當過平台「業者」的可能不太多,所以可能比較不清楚平台的管理難題。以下筆者就以過去在這類平台服務的經驗來幫平台「喊一下冤」,聊一下到底有哪些類型的管理難題。

假帳號:問題的最大根源

一切的社群平台服務,都從註冊帳號開始;所以帳號的管理問題,也是平台上各種問題的根源。

平台當然都希望用戶愈多愈好,所以在帳號的註冊過程和管理上,通常都會盡量給用戶方便,像是:

  • 註冊時要填的資料最好不要太多(反正日後還可以用各種手段鼓勵用戶補齊資料);

  • 驗證方式愈簡單愈好(有些平台甚至簡單到連 recaptcha 這種人類驗證機制都不需要,只要到 Email 信箱裡回覆一下就好)。

但過於寬鬆的註冊流程,往往就是對假帳號註冊大開方便之門。許多作弊者就用機器人程式大量註冊免洗假帳號,造成日後平台各種各樣的管理困難。

所以你衝到了用戶數,達成了一個 KPI;但是麻煩在後頭。

平台應該墊高假帳號的註冊成本

怎麼樣分辨來註冊的帳號是真是假?其實有很多技術或手段;其中我覺得最有效的原則,是墊高註冊帳號的成本。

例如規定註冊新帳號時,必須以「未曾登錄過的手機門號」進行簡訊回覆驗證;由於取得手機門號的成本相對較高,所以能有效墊高假帳號註冊所需的成本。雖然平台也得付出較高的認證成本,但相較於假帳號後續造成的各種麻煩,應該還是值得的。

早些年前我在某平台服務時,就因為假帳號實在太多,垃圾內容泛濫到不行,不但砍到手抽筋,忠實用戶也抱怨連連;所以我曾經提案,在註冊流程中加上簡訊認證機制。

但因為公司的多個其他服務也用到同一個會員管理系統,因而牽連甚廣、再加上成本等因素,所以沒有實現。

不過現在很多新興服務,都把簡訊認證做為必備的註冊流程了,「二階段驗證」(2FA)也愈來愈普及;甚至不少新款手機上,都還有指紋或臉孔認證機制。

所以,接下來應該也可以在確保用戶隱私的前提下,串接這些系統功能來進行認證,進一步墊高假帳號的註冊成本。

內容管理:哪些該管、哪些不該管?

社群平台的「內容管理」是個非常困難的題目,管或不管都會顧人怨;至於要「如何管」,更是難上加難。

網路就是真實社會的縮影,社群平台上就是會出現一大堆「有問題」的內容;像是例如色情、暴力、自殺或自殘、仇恨言論、霸凌、誹謗、恐怖活動、歧視、毒品、詐騙、虐童或兒童色情、Spam 廣告、盜文盜圖等等。

雖然在大一點的平台上,使用條款中都會有一堆規定,寫說哪些類型的內容是平台所不允許的,但是在實際執行面上有很多困難。

認定很困難

首先是「標準」和「尺度」的問題;如何認定某些內容「需要管理」?這就是門藝術。

上面舉出的那些例子,幾乎每一類都有不少灰色地帶,平台很難斬釘截鐵地說這個有違規、那個沒有。舉例來說,色情內容就很難認定;例如非性行為的裸照,到底要算色情還是藝術?露兩點還是露三點算不算色情?會不會引起性慾(這什麼爛標準)?

光是上面這些,吵了幾十年都吵不完。

有些平台還規定不能分享「非本人」的性行為影像,但是平台哪裡會知道這些內容是不是本人上傳的?

然後,每個人的尺度和標準都不一樣。往往平台管理者覺得還 OK 的內容,在某些衛道人士的眼裡就是有問題;這些人有時還是組織化的,會像瘋子一樣,不斷透過各種管道向平台施加壓力,要求平台處理掉那些內容。

平台如果聽了這些人的「善意提醒」,真的腦袋燒壞到去處理那些內容,那就會遇到下一個麻煩:侵害言論自由。

言論自由不容侵犯

在民主化程度較高、或是網路用戶自主意識比較高的地方,言論自由差不多可以說是個不能侵犯的聖域;大家都不喜歡有任何人去審核自己的貼文,用自己無法接受的理由修改、隱藏或刪除內容。

一但發現平台刪文,各種鄉民的陰謀論就來了;有的說平台一定是拿了什麼廠商的好處,有的說平台背後的資金來源有問題,有的還會威脅要搬到競爭平台去。處理不好,還有可能釀成平台品牌的公關危機。

但有趣的是,言論自由往往也可以是平台用來「規避」內容管理責任的好藉口;遇到有灰色地帶的情形時,有時可以搬出「平台不可侵害言論自由」這套說詞,立刻就佔有道德高度了。

機器永遠比人笨

還有就是「量」的問題。當平台上的用戶一多、內容數量大到一個程度,就很難靠人工作業來處理內容管理問題;需要靠各種技術來偵測,讓機器來揪出不當的使用行為或內容。

而這就和平台的技術能力息息相關。

技術好的,甚至能在濫用行為發生之前就能偵測到,先把這些濫用行為擋掉;例如 LinkedIn 在上面那篇報告中說的「絕大多數的假帳號根本連註冊都無法完成」,就是技術好的例子。

好技術幫助平台管理者很大的忙,但技術爛的不但幫不上忙,反而愈幫愈忙。

我之前聽說過這麼一個案例:某平台的留言板被台灣用戶抗議「傾中賣台」,甚至差點引發公關危機,因為只要輸入「Taiwan」、「Taipei」等詞就被自動消音。

查了半天,結果根本就是一場誤會:外國工程師在設定不雅內容過濾系統時發生錯誤,把適用東南亞某國語言的過濾器套用在台灣版頁面上;所以只要遇到含有「tai」的任何內容(不知道是哪一國的髒話),就把它當成不雅內容而自動過濾掉了。

說來很好笑,但這就是平台管理的日常(攤手)。

想搞你的人真的很多,而且花招百出、更新迅速

道高一尺,魔高一丈;想惡搞平台的人,總會發現管理機制的各種規則或漏洞,很快就能找到全新的濫用手法;平台和這些人相比起來,不但敵暗我明,而且雙拳難敵萬手,根本處於下風。

這也就是 Google、Facebook 等平台一天到晚必須改演算法的原因;過去三不五時改一次,現在用 AI 每分鐘都能改好幾次,而且還能對不同的人套用不同的演算法。

很多不瞭解平台運作的人,一遇到平台改演算法就抱怨連連,說這些平台「死要錢」;但他們不知道平台的苦衷:第一,這些平台都不是慈善事業,賺錢本就天經地義;第二,要是演算法放在那邊都不改的話,再大的平台也會被快速破台,連生意都甭做了。

(想像一下,Google 演算法要是被 SEO 業者參透,會發生什麼慘劇?搜尋結果如果都是掛羊頭賣狗肉的假連結,還有人要用 Google 嗎?)

這些技術好的平台都防不勝防了,技術爛的就只剩一招,就是像中國的平台那樣,組織個幾十萬人來當內容審查大隊。要是連這點都做不到,當然就只能阿彌陀佛,能放著不管就不管。

水軍帳號的聯合操作

各位如果細讀上面幾家平台封鎖中國帳號的聲明,就可以發現一個共通點:沒有一家平台是針對這些帳號「發表的內容」進行處置;幹掉這些帳號的原因,都是這裡要講的濫用形態:也就是「聯合操作」。

水軍為什麼一次要申請一大堆假帳號?當然就是因為這麼多假帳號共同操作起來,是很有威力的。這些水軍帳號的聯合操作,以我所知大概有幾個樣態:

  • 拱粉絲數、增加相互追蹤:就像 Google 演算法中,被更多重要頁面連結到的頁面,SEO 分數會更高一樣;不少社群平台的演算法,都會去看帳號的追蹤人數、交友人數,以及彼此間的連結關係。所以先養一堆帳號、貼一堆任意內容,然後讓這些互相追蹤、加粉,把帳號養大養活,甚至吸引夠多的真人加粉追蹤,可說是水軍聯合操作的基本動作之一。

  • 帶風向:當一堆假帳號養好了後,接下來就可以拿來用了。商業形態的水軍操作,或是發送 spam 內容,或是在社群平台中「創造」對自己的品牌、產品有利(和/或對競爭者不利)的內容。有政治任務的水軍操作就更細緻了,大家請自己去看 Netflix 上的記錄片《個資風暴:劍橋分析事件》(強力推薦,為了這部片去註冊 Netflix 都值得)。

https://youtu.be/qRQEXmg3RaE

講一個有趣的現象:為什麼各平台針對這次的中國「反反送中」假帳號處理事件,重點都放在帳號的聯合操作,而不是放在內容之上呢?答案其實很容易理解:

  • 帳號的聯合操作,本來就是各平台都會寫在使用條款中的禁止事項;平台用這個理由來封鎖你的帳號,可說是天經地義(像 Twitter 還附上聯合操作的證據,讓你百口莫辯);

  • 內容管理的灰色地帶太多,而且又有「言論自由」這個不容侵犯的絕對領域;平台如果用內容為理由來封鎖帳號,破綻會比較多。

另外,還有個值得一提的話題,就是 Twitter 這次除了 ban 中國網軍帳號之外,同時也很有膽識的宣布,日後不再接受「國家控制的媒體」在 Twitter 上買廣告。

但是,這樣就能減輕水軍在社群平台上的濫用行為嗎?我個人還是不那麼樂觀。平台的技術和資源,相較於成千上萬的濫用者,真的相形見絀。

結論:無盡的任務

小時候常見到這樣的畫面:搬家公司、水肥清理業者,用黏到不行的貼紙或噴漆,在公寓樓梯間把廣告貼好貼滿、噴好噴滿;相信不少人對這樣的畫面記憶猶新。

而且這些業者似乎根本罰不怕。清理完沒多久的樓梯間,小貼紙或噴漆廣告又會如過期吐司麵包上的霉點一樣,馬上又長得滿滿的。

社群平台上的各種濫用行為,就是人類社會的現實反應;而且說句不客氣的話,平台上會有這麼多 spam、這麼多網軍,有這麼多奇怪的操作手法,讓平台窮於應付,還不就是因為大多數的用戶腦波都很弱、容易被帶風向?

反正平台要出來賺,就得跟著玩貓捉老鼠的遊戲;而且這個遊戲恐怕永遠沒有結局,除非平台沒人用。