行業(yè)動態(tài)

Facebook使用AI監(jiān)控用戶跟帖中的爭吵 可自動通知群管理員

來源:聚銘網(wǎng)絡(luò)    發(fā)布時間:2021-06-18    瀏覽次數(shù):
 

信息來源:Cnbeta

Facebook正在推出一套新的工具,以幫助組管理員掌握他們的社區(qū),其中包括一個由AI驅(qū)動的功能,F(xiàn)acebook說它可以識別在評論中發(fā)生的有爭議的或不健康的對話。這個工具被稱為"沖突警報",F(xiàn)acebook說它目前只是在測試階段,所以正式推出日期還不清楚。


它類似于現(xiàn)有的"關(guān)鍵詞警報"功能,讓管理員在評論者使用某些詞匯和短語時創(chuàng)建自定義警報,但使用機器學(xué)習(xí)模型可以來嘗試發(fā)現(xiàn)更微妙的麻煩類型。一旦管理員收到警報,他們就可以采取行動,刪除評論,將用戶從小組中踢出,限制個人的評論頻率,或限制對某些帖子的評論頻率。

不過,這項功能究竟如何檢測出"有爭議或不健康的對話"還不清楚,而且在征求意見時,F(xiàn)acebook沒有提供更多細節(jié)。一位發(fā)言人僅表示,該公司將使用機器學(xué)習(xí)模型來查看多種信號,如回復(fù)時間和評論量,以確定用戶之間的互動是否已經(jīng)或可能導(dǎo)致負面互動。

不過,據(jù)推測,"沖突警報"使用的人工智能系統(tǒng)與Facebook已經(jīng)部署,用于標(biāo)記網(wǎng)站上濫用性言論的系統(tǒng)類似。這類模型遠非百分之百可靠,而且經(jīng)常被幽默、諷刺和俚語等簡單事物所蒙蔽。

今天為管理員推出的其他新工具包括一個新的管理員主頁,它將作為一個儀表板,提供帖子、成員和報告的評論的概述,以及訪問新的成員摘要,它匯編了每個小組成員在小組中的活動,例如他們發(fā)帖和評論的次數(shù),或者他們何時在小組中被刪除帖子或被靜音。

此外,還有一個新的管理員輔助功能,用于自動評論審核。這將讓管理員限制誰可以發(fā)表評論,以及通過禁止某些鏈接來遏制垃圾郵件和不需要的促銷活動。沖突警報功能將是管理助理的一部分。


 
 

上一篇:80%支付贖金的企業(yè)會遭到二次勒索攻擊 其中46%來自同一黑客

下一篇:2021年6月18日聚銘安全速遞