預(yù)防網(wǎng)暴，抖音：國(guó)內(nèi)首家上線“評(píng)論發(fā)文警示”等功能

　　公告顯示，抖音全面升級(jí)平臺(tái)預(yù)防網(wǎng)暴能力，為用戶提供了 8 項(xiàng)功能，全方位管理評(píng)論和私信。其中，針對(duì)不當(dāng)私信，新上線“風(fēng)險(xiǎn)提醒”和“負(fù)向內(nèi)容過(guò)濾”等功能;針對(duì)已發(fā)送的不當(dāng)評(píng)論，即將上線國(guó)內(nèi)首個(gè)“發(fā)文警示”功能，進(jìn)行攔截。

　　數(shù)據(jù)顯示，抖音每天產(chǎn)生 8 億條評(píng)論，其中，被投訴、舉報(bào)并最終處理的不當(dāng)評(píng)論中，“謾罵，人身攻擊”占比 32.79%。

　　IT之家了解到，針對(duì)評(píng)論，抖音即將上線國(guó)內(nèi)首個(gè)“發(fā)文警示”功能。該功能下，若系統(tǒng)模型判定已經(jīng)發(fā)送的評(píng)論存在問(wèn)題，則會(huì)推送彈窗提醒，建議發(fā)送者重新編輯，去除不當(dāng)言論。如果發(fā)送者堅(jiān)持發(fā)送，則該條評(píng)論不會(huì)在評(píng)論區(qū)出現(xiàn)。近期，該功能已開(kāi)啟小范圍測(cè)試。

　　此前，抖音已上線“評(píng)論權(quán)限分層管理”“關(guān)鍵詞屏蔽”“評(píng)論精選”三項(xiàng)功能。在“評(píng)論權(quán)限分層管理”下，用戶可通過(guò)“權(quán)限設(shè)置-高級(jí)設(shè)置-誰(shuí)可以評(píng)論”設(shè)置評(píng)論權(quán)限，根據(jù)自身需求從“所有人”“僅粉絲”“僅互關(guān)朋友”“僅自己”四個(gè)選項(xiàng)中，自主選取誰(shuí)可以對(duì)自己發(fā)布的內(nèi)容進(jìn)行評(píng)論。

　　私信方面，抖音新增“用戶風(fēng)險(xiǎn)提醒”和“負(fù)向內(nèi)容過(guò)濾”兩大功能。在“用戶風(fēng)險(xiǎn)提醒”功能下，當(dāng)系統(tǒng)模型識(shí)別發(fā)現(xiàn)，用戶剛接收的陌生人私信存在風(fēng)險(xiǎn)時(shí)，會(huì)對(duì)用戶推送彈窗，提示其“是否認(rèn)識(shí)該用戶”。如果用戶選擇“不認(rèn)識(shí)”，系統(tǒng)會(huì)再次彈窗，提示用戶可進(jìn)行“拉黑、舉報(bào)、移除粉絲”等操作。目前，該功能日均會(huì)對(duì) 25 萬(wàn)次會(huì)話發(fā)出風(fēng)險(xiǎn)提示。

　　在“負(fù)向內(nèi)容過(guò)濾”功能下，當(dāng)模型判定用戶收到的私信消息為“謾罵或騷擾”，該消息會(huì)被直接放入“陌生人盒子 — 垃圾信息”中。此外，抖音還推出了“心情暖寶寶”助手，可以根據(jù)用戶內(nèi)容情緒傾向，通過(guò)消息對(duì)話的交互方式，緩解用戶負(fù)向情緒。