微博、豆瓣、抖音都在做的新功能

2022-04-08 19:20 來源:互聯網

往發生網暴事件,總有人出現呼吁真善美,讓每個人規范自己的行為不要成為「壓倒駱駝的最后一根稻草」。個體的行為在網暴事件中被反復的提及,平臺固然會受到批評,但被指責的更多是通過平臺隱藏自己的人。 

只是越來越多人在拿起法律武器反擊時不僅針對背后的施暴者,也開始要求平臺能發揮更大的作用。Carson 的母親并不是孤例,隱藏在平臺背后的人固然可恨,但沒有及時保護用戶、制止暴行的平臺同樣不能獨善其身。 

一位法學從業者表示,面對網絡暴力,平臺和自然人都需要承擔應有的責任!缎谭ā肪鸵幎,網絡暴力行為涉嫌誹謗罪和侮辱罪,可處以 3 年以下有期徒刑、拘役、管制或者剝奪政治權利。只是落在一個個具體的案例中,網暴行為導致的「情節嚴重」的情況都較難確定。 

圖片來自:rsearch blog

平臺也有《網絡信息內容生態治理規定》做出了限制,不得制作發布侮辱或誹謗他人,侵害他人名譽、隱私和其他合法權益的內容;應當采取措施防范、抵制制作展現血腥、驚悚、殘忍等致人身心不適的內容。 

如果只是談到網絡暴力的提前預防和保護,那從平臺和用戶的角度來說,針對平臺去做產品的優化升級也要比限制用戶來得更容易。畢竟用戶千千萬,而平臺就只有那幾個。所以不管是政策的要求還是平臺自己的迭代,我們都能看到越來越多平臺在主動做出改變。 

各顯身手,制網暴

中國互聯網平臺對網暴越發關注是從今年開始的。

2022 年 1 月開展的清朗行動中列出了重點整治的五個方面,其中首先被提及的就是「網絡暴力、散播謠言等問題」。在這個行動后,越來越多平臺上線了有著不同命名的防網暴功能或模式。 

網暴來自屏幕背后看不見的手. 圖片來自:Mingyongcheng

反應最快的是微博,1 月 24 日,微博在回應劉學州事件時就表示平臺擬上線一鍵開啟「防暴模式」,用戶可以在隱私設置里對評論博文和私信的人加以限制;還可以開啟「評論防火墻」,由系統自動屏蔽人身攻擊和惡意騷擾的內容。 

微博在 3 月 11 日就正式上線了這一模式,相較于其他平臺,微博這一模式最大的不同在于「將綜合考慮評論、私信等各個場景的不同行為特征,提前發現潛在被攻擊用戶,做好前置環節的預警提示,引導高風險用戶主動開啟一鍵防護功能,進一步減少和預防用戶遭受言論攻擊的情況! 

微博一月底曾預告「防暴模式」

平臺:微博 功能名稱:一鍵防護 上線日期:3 月 11 日 防護日期:7 天 主要功能:7 天內不接收未關注人的私信,未關注人將無法評論你的微博,未關注人轉發你微博的記錄將不會展示在轉發列表中 打開方式:「我」-「隱私設置」-「一鍵防護」;引導高風險用戶主動開啟 

一鍵防護開啟界面 

和微博為用戶構建防護墻不同,抖音還會主動出擊,向那些內容發布者示警。用戶在評論區發布的違規/低質評論會被模型匹配校驗,收到評論彈窗「該評論可能對他人造成負面影響」,引導用戶重新編輯。若用戶選擇繼續發布,則評論也會不公開可見,進入審核環節內合規才能放出。 

抖音將自己稱為首個上線「評論發文警示」的平臺

平臺:抖音 功能名稱:發文警示 上線日期:2 月 23 日 防護日期:持續 主要功能:系統模型判定已發送的評論存在問題,則會推送彈窗提醒,建議發送者重新編輯,去除不當言論;若發送者堅持發送,則該條評論不會在評論區出現 打開方式:平臺模型自動校驗 

抖音的「評論發文警示」功能

緊接著的是豆瓣,它對于用戶在平臺過往內容的保護更為詳盡。不僅用戶無法回復內容、收藏內容,你未關注的人也無法查看你的個人主頁,無法查看往期內容,能夠有效隔絕潛在的「挖墳」行為。 

平臺:豆瓣 功能名稱:應急防護模式 上線日期:3 月 25 日 防護日期:3 天、7 天、14 天 主要功能:隔離窺視(僅關注者可查看個人主頁內容);預防騷擾(陌生人未經同意無法私信,非友善評論自動隱藏);控制傳播(僅關注人可回復內容,可禁止該內容的轉發收藏) 打開方式:「設置」-「隱私設置」-「應急防護模式」 

應急防護模式可選擇防護持續時間

這是目前已經上線了防治網暴整合方案的平臺。其中很多功能可能是原本應用就已有的功能,例如不同平臺均可設置禁止關注 X 天內用戶評論、限制轉發等等。 

知乎就有強制關閉評論、強制開啟評論預審等功能,系統 + 人工雙重安全評估的模式在一定程度上可以過濾一些攻擊性內容;B 站也有私信智能攔截、私信垃圾箱、防騷擾模式幫用戶隔絕不良信息;小紅書、快手等平臺也能對互動、關系進行更多的限制和選擇。 

但平臺能夠提供一個完整的解決方案依舊是不同的。 

B 站這樣的非社交平臺也有私信智能攔截的功能

讓用戶打開應急的方案

豆瓣對愛范兒表示,他們在設計「應急防護模式」的功能時,是對用戶遭受網暴、隱私威脅一般路徑的觀察來進行規劃的。 

常見的網絡暴力包括言語攻擊、人身侮辱、人肉搜索、傳播謠言等,那豆瓣就選擇通過保護受害者的個人歷史和隱私(隔絕窺視)、減少直接的言論攻擊(預防騷擾)、降低二次傳播的幾率(控制傳播)這幾方面去重點防護,切斷慣常網暴者對受害者信息收集和信息轟炸的鏈路。 

豆瓣

打開這個模式,意味著他人無法查看你過去在社交網絡留下的只言片語,也沒辦法根據你過去的互聯網歷史編造、再創作出侮辱性的內容。同時,那些最為惡毒的言語攻擊也無法展現在你面前,私信、評論、轉發的道路被堵住了,沒人可以隔著屏幕給你的心扎上一刀。 

人人都在說互聯網的互聯互通,但每一個平臺的防網暴模式反而構建了一間難得的安全屋。用戶在短時間內看到的內容都是經過處理審核的,惡語無法傷人,只能在屏幕后宣泄自己的惡意,而這些惡意也會受到懲罰。 

已經有了越來越多的受害者通過訴訟維護了自己的合法權益,讓網暴者賠償、道歉。但訴訟的高成本和一句脫口而出的惡意似乎并不相抵,并非所有的受害者都愿意花時間精力去做這件事。平臺在這個階段也能發揮作用,不管是禁言處罰用戶,還是給用戶進行警告,平臺干預的成本是更低的。 

被造謠出軌的受害者就選擇通過訴訟維護自身權益

微博在上線「一鍵防護」模式外,就透露了平臺正在開發建設行為監測模型的消息。有了模型的加持,平臺可以通過分析用戶不友善評論、舉報數量頻次等數據,準確識別網暴苗頭,從機制上、源頭上來解決問題。 

在清理違規信息的同時,我們也會依據不同行為性質,采取階梯式處置:針對參與網絡暴力的賬號,采取批量禁言、限制功能等處置,對首發、多發、煽動發布網暴信息的賬號,采取永久禁言等措施,對涉嫌違法犯罪的,移交有關部門依法追究法律責任。 

微博

只是功能跟上了,宣傳也得跟上。一位曾經因為一條內容問題而收到網友私信辱罵的人表示,她認為這個功能管用,但也質疑用戶會不會主動打開它。 

「其實專門私信罵我的就三個,但我都受不了,忍不住去看有沒有支持的言論,看到其他人也在說我有問題就很 emo,那幾天都很不爽!固峒白陨斫洑v,這位曾經接受過負面信息沖擊的用戶也提出了自己的質疑:「所以我覺得還有一個很重要的問題是,他們(用戶)能不能知道這個功能,愿不愿意不看其他人的評論,打開這個功能?」 

在防網暴模式上線沒多久的今天,功能普及率和用戶主動打開的意愿都屬于未知。在這種時候,像微博、抖音這樣可以主動出擊的平臺也能發揮自己的作用,前者引導用戶打開這一功能,后者主動為用戶在評論區構建一堵安全墻,讓惡語無法攻破。微博就對愛范兒表示: 

我們也正在開發完善系統自動提醒機制,對高風險用戶做出主動提醒,引導用戶開啟,進一步減少和預防用戶遭受言論攻擊的情況。 

圖片來自:Omidyar Network

從為用戶提供隱私設置的選擇,到為防治網暴建立一套系統的升級方案,再通過宣傳引導用戶使用這一功能、了解這一功能,平臺的變化經過了很多年。但這依舊可能是開始,而非結束,每一個平臺在運營過程中也在收集用戶的反饋,等待下一次的升級和迭代。 

豆瓣也對愛范兒表示: 

這幾個方向其實是對目前防護模式策略的一個概括,但并不是對于網絡暴力治理措施的窮盡。 

延伸 · 閱讀