社群平台的管理難題：假帳號、不當內容、網軍聯合操作／施典志
這個社會就是一樣米養百樣人。永遠都會有許多個人和組織，為了特定目的和利益，去犯法或鑽法律漏洞；在虛擬世界，當然也會有很多人用各種方式濫用平台服務，因而衍生出各種平台管理上的難題。但什麼該管、什麼不該管、該管到什麼程度，都是困難的決定。
近來和社群平台管理相關的幾條大新聞，就是各大社群平台，不約而同地發布公告，揪出一堆明顯受到中國統一操作，用來黑香港「反送中」運動的網軍帳號、專頁等，祭出停權、刪除等處分。
首先是 Twitter 開了第一槍，抓到 936 個明顯由中國網軍統一使用的帳號，以及二十萬個有問題的帳號。Twitter 非常有 guts，不但把這些問題帳號停權，還把相關的操作原始資料都放了出來：
然後，鏡傳媒旗下的《讀＋》根據 Twitter 放出來的資訊，做了很精彩的資料分析與整理，讓大家看到網軍養帳號的典型操作手法，印證 Twitter 的指控確有其本：
接下來是Facebook，同樣發表了一篇公告，把一些他們偵測到中國網軍的操作行為都列出來，同樣也砍掉若干帳號和粉絲頁：
隔了兩天，Google 也公告從 YouTube 上移除了 210 個帳號，同樣是中國網軍用來統一發布「反反送中」影片用的：
不甘寂寞的還有 LinkedIn。雖然他們沒有明說砍掉的帳號和中國網軍的關係，但強調今年上半年已經砍了 2160 萬個假帳號，其中有 1950 萬個，連註冊都還沒完成就被抓到了：
這些平台接二連三宣示反制中國網軍的操作，當然引起很大的話題。不過會操作帳號養網軍的並不只是中國，一般的行銷公司也會幹這種事；而對於這些「非正常使用行為」，各平台也感到非常頭痛。
這個社會就是一樣米養百樣人。永遠都會有許多個人和組織，為了特定目的和利益，去犯法或鑽法律漏洞；在虛擬世界，當然也會有很多人用各種方式濫用平台服務，因而衍生出各種平台管理上的難題。
我猜本文讀者絕大多數都是平台「用戶」，但像筆者一樣當過平台「業者」的可能不太多，所以可能比較不清楚平台的管理難題。以下筆者就以過去在這類平台服務的經驗來幫平台「喊一下冤」，聊一下到底有哪些類型的管理難題。
假帳號：問題的最大根源
一切的社群平台服務，都從註冊帳號開始；所以帳號的管理問題，也是平台上各種問題的根源。
平台當然都希望用戶愈多愈好，所以在帳號的註冊過程和管理上，通常都會盡量給用戶方便，像是：
註冊時要填的資料最好不要太多（反正日後還可以用各種手段鼓勵用戶補齊資料）;
驗證方式愈簡單愈好（有些平台甚至簡單到連 recaptcha 這種人類驗證機制都不需要，只要到 Email 信箱裡回覆一下就好）。
但過於寬鬆的註冊流程，往往就是對假帳號註冊大開方便之門。許多作弊者就用機器人程式大量註冊免洗假帳號，造成日後平台各種各樣的管理困難。
所以你衝到了用戶數，達成了一個 KPI；但是麻煩在後頭。
平台應該墊高假帳號的註冊成本
怎麼樣分辨來註冊的帳號是真是假？其實有很多技術或手段；其中我覺得最有效的原則，是墊高註冊帳號的成本。
例如規定註冊新帳號時，必須以「未曾登錄過的手機門號」進行簡訊回覆驗證；由於取得手機門號的成本相對較高，所以能有效墊高假帳號註冊所需的成本。雖然平台也得付出較高的認證成本，但相較於假帳號後續造成的各種麻煩，應該還是值得的。
早些年前我在某平台服務時，就因為假帳號實在太多，垃圾內容泛濫到不行，不但砍到手抽筋，忠實用戶也抱怨連連；所以我曾經提案，在註冊流程中加上簡訊認證機制。
但因為公司的多個其他服務也用到同一個會員管理系統，因而牽連甚廣、再加上成本等因素，所以沒有實現。
不過現在很多新興服務，都把簡訊認證做為必備的註冊流程了，「二階段驗證」（2FA）也愈來愈普及；甚至不少新款手機上，都還有指紋或臉孔認證機制。
所以，接下來應該也可以在確保用戶隱私的前提下，串接這些系統功能來進行認證，進一步墊高假帳號的註冊成本。
內容管理：哪些該管、哪些不該管？
社群平台的「內容管理」是個非常困難的題目，管或不管都會顧人怨；至於要「如何管」，更是難上加難。
網路就是真實社會的縮影，社群平台上就是會出現一大堆「有問題」的內容；像是例如色情、暴力、自殺或自殘、仇恨言論、霸凌、誹謗、恐怖活動、歧視、毒品、詐騙、虐童或兒童色情、Spam 廣告、盜文盜圖等等。
雖然在大一點的平台上，使用條款中都會有一堆規定，寫說哪些類型的內容是平台所不允許的，但是在實際執行面上有很多困難。
認定很困難
首先是「標準」和「尺度」的問題；如何認定某些內容「需要管理」？這就是門藝術。
上面舉出的那些例子，幾乎每一類都有不少灰色地帶，平台很難斬釘截鐵地說這個有違規、那個沒有。舉例來說，色情內容就很難認定；例如非性行為的裸照，到底要算色情還是藝術？露兩點還是露三點算不算色情？會不會引起性慾（這什麼爛標準）？
光是上面這些，吵了幾十年都吵不完。
有些平台還規定不能分享「非本人」的性行為影像，但是平台哪裡會知道這些內容是不是本人上傳的？
然後，每個人的尺度和標準都不一樣。往往平台管理者覺得還 OK 的內容，在某些衛道人士的眼裡就是有問題；這些人有時還是組織化的，會像瘋子一樣，不斷透過各種管道向平台施加壓力，要求平台處理掉那些內容。
平台如果聽了這些人的「善意提醒」，真的腦袋燒壞到去處理那些內容，那就會遇到下一個麻煩：侵害言論自由。
言論自由不容侵犯
在民主化程度較高、或是網路用戶自主意識比較高的地方，言論自由差不多可以說是個不能侵犯的聖域；大家都不喜歡有任何人去審核自己的貼文，用自己無法接受的理由修改、隱藏或刪除內容。
一但發現平台刪文，各種鄉民的陰謀論就來了；有的說平台一定是拿了什麼廠商的好處，有的說平台背後的資金來源有問題，有的還會威脅要搬到競爭平台去。處理不好，還有可能釀成平台品牌的公關危機。
但有趣的是，言論自由往往也可以是平台用來「規避」內容管理責任的好藉口；遇到有灰色地帶的情形時，有時可以搬出「平台不可侵害言論自由」這套說詞，立刻就佔有道德高度了。
機器永遠比人笨
還有就是「量」的問題。當平台上的用戶一多、內容數量大到一個程度，就很難靠人工作業來處理內容管理問題；需要靠各種技術來偵測，讓機器來揪出不當的使用行為或內容。
而這就和平台的技術能力息息相關。
技術好的，甚至能在濫用行為發生之前就能偵測到，先把這些濫用行為擋掉；例如 LinkedIn 在上面那篇報告中說的「絕大多數的假帳號根本連註冊都無法完成」，就是技術好的例子。
好技術幫助平台管理者很大的忙，但技術爛的不但幫不上忙，反而愈幫愈忙。
我之前聽說過這麼一個案例：某平台的留言板被台灣用戶抗議「傾中賣台」，甚至差點引發公關危機，因為只要輸入「Taiwan」、「Taipei」等詞就被自動消音。
查了半天，結果根本就是一場誤會：外國工程師在設定不雅內容過濾系統時發生錯誤，把適用東南亞某國語言的過濾器套用在台灣版頁面上；所以只要遇到含有「tai」的任何內容（不知道是哪一國的髒話），就把它當成不雅內容而自動過濾掉了。
說來很好笑，但這就是平台管理的日常（攤手）。
想搞你的人真的很多，而且花招百出、更新迅速
道高一尺，魔高一丈；想惡搞平台的人，總會發現管理機制的各種規則或漏洞，很快就能找到全新的濫用手法；平台和這些人相比起來，不但敵暗我明，而且雙拳難敵萬手，根本處於下風。
這也就是 Google、Facebook 等平台一天到晚必須改演算法的原因；過去三不五時改一次，現在用 AI 每分鐘都能改好幾次，而且還能對不同的人套用不同的演算法。
很多不瞭解平台運作的人，一遇到平台改演算法就抱怨連連，說這些平台「死要錢」；但他們不知道平台的苦衷：第一，這些平台都不是慈善事業，賺錢本就天經地義；第二，要是演算法放在那邊都不改的話，再大的平台也會被快速破台，連生意都甭做了。
（想像一下，Google 演算法要是被 SEO 業者參透，會發生什麼慘劇？搜尋結果如果都是掛羊頭賣狗肉的假連結，還有人要用 Google 嗎？）
這些技術好的平台都防不勝防了，技術爛的就只剩一招，就是像中國的平台那樣，組織個幾十萬人來當內容審查大隊。要是連這點都做不到，當然就只能阿彌陀佛，能放著不管就不管。
水軍帳號的聯合操作
各位如果細讀上面幾家平台封鎖中國帳號的聲明，就可以發現一個共通點：沒有一家平台是針對這些帳號「發表的內容」進行處置；幹掉這些帳號的原因，都是這裡要講的濫用形態：也就是「聯合操作」。
水軍為什麼一次要申請一大堆假帳號？當然就是因為這麼多假帳號共同操作起來，是很有威力的。這些水軍帳號的聯合操作，以我所知大概有幾個樣態：
拱粉絲數、增加相互追蹤：就像 Google 演算法中，被更多重要頁面連結到的頁面，SEO 分數會更高一樣；不少社群平台的演算法，都會去看帳號的追蹤人數、交友人數，以及彼此間的連結關係。所以先養一堆帳號、貼一堆任意內容，然後讓這些互相追蹤、加粉，把帳號養大養活，甚至吸引夠多的真人加粉追蹤，可說是水軍聯合操作的基本動作之一。
帶風向：當一堆假帳號養好了後，接下來就可以拿來用了。商業形態的水軍操作，或是發送 spam 內容，或是在社群平台中「創造」對自己的品牌、產品有利（和／或對競爭者不利）的內容。有政治任務的水軍操作就更細緻了，大家請自己去看 Netflix 上的記錄片《個資風暴：劍橋分析事件》（強力推薦，為了這部片去註冊 Netflix 都值得）。
https://youtu.be/qRQEXmg3RaE
講一個有趣的現象：為什麼各平台針對這次的中國「反反送中」假帳號處理事件，重點都放在帳號的聯合操作，而不是放在內容之上呢？答案其實很容易理解：
帳號的聯合操作，本來就是各平台都會寫在使用條款中的禁止事項；平台用這個理由來封鎖你的帳號，可說是天經地義（像 Twitter 還附上聯合操作的證據，讓你百口莫辯）；
內容管理的灰色地帶太多，而且又有「言論自由」這個不容侵犯的絕對領域；平台如果用內容為理由來封鎖帳號，破綻會比較多。
另外，還有個值得一提的話題，就是 Twitter 這次除了 ban 中國網軍帳號之外，同時也很有膽識的宣布，日後不再接受「國家控制的媒體」在 Twitter 上買廣告。
但是，這樣就能減輕水軍在社群平台上的濫用行為嗎？我個人還是不那麼樂觀。平台的技術和資源，相較於成千上萬的濫用者，真的相形見絀。
結論：無盡的任務
小時候常見到這樣的畫面：搬家公司、水肥清理業者，用黏到不行的貼紙或噴漆，在公寓樓梯間把廣告貼好貼滿、噴好噴滿；相信不少人對這樣的畫面記憶猶新。
而且這些業者似乎根本罰不怕。清理完沒多久的樓梯間，小貼紙或噴漆廣告又會如過期吐司麵包上的霉點一樣，馬上又長得滿滿的。
社群平台上的各種濫用行為，就是人類社會的現實反應；而且說句不客氣的話，平台上會有這麼多 spam、這麼多網軍，有這麼多奇怪的操作手法，讓平台窮於應付，還不就是因為大多數的用戶腦波都很弱、容易被帶風向？
反正平台要出來賺，就得跟著玩貓捉老鼠的遊戲；而且這個遊戲恐怕永遠沒有結局，除非平台沒人用。