自動篩選惡意言論，找出省錢關鍵！
深度學習應用篇： 影音平台及線上百科全書之應用

在〈自動篩選惡意言論，找出省錢關鍵！ 深度學習結論篇：找出開源節流關鍵〉一文中，我們講解了如何利用深度學習中的 GRU 模型，在問答平台上精準地去除惡意留言，並利用各個模型的財務指標，來判斷哪個模型是較合適的終極選擇。在本篇中，我們將從過往去除惡意留言的技術出發，探討不同的商業模式以及其不同的應用。

技術的延伸應用

除了在網路論壇清理惡意言論，讓使用者觀看到更有建設性的言論之外，這項去除惡意言論的技術其實還有潛力應用在影音平台和線上百科全書。

YouTube影音平台

抓取正確的目標客群是 YouTuber 以及 YouTube 廣告商最為關注的事情，對於 YouTuber，正確的目標客群代表相同的訂閱數之下，更高的影片觀看次數，以及更多的營收；對於 YouTube 廣告商而言，正確的目標客群代表相同的成本之下，更長的觀看時間、更高的轉換率與營收。

留言在其中扮演舉足輕重的角色。在很大程度上，留言反映出留言者是否為預設的目標客群。首先，對於惡意攻擊的｢黑粉」，我們不需要花費多餘的時間或人力成本進行回覆；其次，對於具有建設性的反對留言，在深入了解之後，便可作為精進產品的標的；至於將惡意與反對留言篩選出來之後，其餘的留言者，便會是精準的目標客群，除了將更多回覆留言的成本分配在這群人身上，YouTuber 也可根據這些粉絲的建議，隨時調整影片的方向，藉以吸引更多人成為 YouTube 上的會員。

Wikipedia 線上百科全書

審核維基百科的惡意留言也是一項重要的應用。維基百科是人人都可以造訪、編輯的網站，這使得維護變得十分不便，為了解決虛假資訊的問題，維基媒體基金會的首席資料科學家亞倫．哈爾法克（Aaron Halfaker）早在 2015 年便開發出了一個人工引擎，用以辨別蓄意破壞的修訂行為，然而，對於精心編造的虛假條目，這套系統卻是一籌莫展。

那我們所使用的去除惡意言論的深度學習技術和人工引擎有什麼不一樣呢？它們最大的差異在於，人工引擎系統主要靠對特定關鍵字以及特殊鍵盤模式的識別（如單詞之間沒有空格等等）；惡意言論的去除卻是依據文字本身以及不同文字的組合自動讓深度學習模型去做判斷，除了異常文字與特定關鍵字外，對於一般文章也能加以辨別。

在《A malicious-comment detection technique on the internet using the support vector machine》一文中，作者使用另外一種機器學習模型 SVM（support vector machine）來進行惡意留言的辨認，預測準確度達到 87.8%，顯見機器學習模型的確能帶來高準確度。

作者：趙熙寧（台灣行銷研究特邀作者）、葉庭妤（台灣行銷研究特邀作者）、鍾皓軒（臺灣行銷研究創辦人）