70分鐘，與死神賽跑
6月26日21時(shí)許,，快手員工正在對用戶直播進(jìn)行常規(guī)巡查，突然發(fā)現(xiàn)一個(gè)直播間的畫面中,，男子躺在沙土地上,，臉色蒼白，手腕鮮血淋漓,。
“是自殺,！快報(bào)警！”快手社區(qū)安全員工張洋立即啟動(dòng)應(yīng)急響應(yīng),，第一時(shí)間掐掉直播,，并將相關(guān)信息推送給客服團(tuán)隊(duì)。不到10分鐘,，客服團(tuán)隊(duì)就與屬地云南省個(gè)舊市公安局建立了聯(lián)動(dòng)關(guān)系,。
圖為民警在高架橋下找到輕生者李林（個(gè)舊市公安局提供）
只有大體位置，本著生命至上的原則,，在快手平臺協(xié)助下,，個(gè)舊市公安局立即安排民警摸黑展開地毯式搜尋,。經(jīng)過70分鐘的全力搜索，繞過三個(gè)高架橋之后，當(dāng)天22時(shí)30分,，民警終于在大屯轄區(qū)某高架橋下找到已經(jīng)跳下高架橋且割腕的李林,。經(jīng)過醫(yī)生的救治和民警的安撫,，李林生命體征平穩(wěn),、情緒逐漸趨于穩(wěn)定,，已被家屬帶回家做進(jìn)一步觀察,。
今年25歲的李林，只因欠了4000塊錢外債,，周圍親友拒絕借錢幫其償還,，心灰意冷的他選擇從高架橋一躍而下,，發(fā)現(xiàn)沒死后用玻璃劃破手腕,，在手機(jī)鏡頭前等死,。
快手的快速響應(yīng)，民警的及時(shí)救援,，一場悲劇被成功阻止。
圖為民警在安撫李林（個(gè)舊市公安局提供）
在快手，這樣驚心動(dòng)魄的場景并非偶然,，社區(qū)安全和客服團(tuán)隊(duì)每天都要處理多起類似事件,。今年以來,，快手社區(qū)安全和客服團(tuán)隊(duì)已聯(lián)動(dòng)各地警方救援270余名試圖自殺自殘的用戶,。
算法賦能+多方聯(lián)動(dòng),，阻擋自殺自殘
作為一款國民級應(yīng)用，每天有大量的人在快手上記錄生活的點(diǎn)點(diǎn)滴滴，直播自己的喜怒哀樂,。然而,，在網(wǎng)絡(luò)的某個(gè)角落里,，一些人正在面對人生的至暗時(shí)刻。
湖北巴東一名女孩，因?yàn)槭俣钟?，不停上傳有明顯自殺傾向的作品,；吉林一名網(wǎng)友直播時(shí)一邊拿著藥盒,，一邊激動(dòng)地講述自己悲慘經(jīng)歷，表示自己不想活了……快速變化的社會里,，很多人處于多重壓力環(huán)境下,，自殺自殘事件愈發(fā)常見,，容易因一件小事情緒崩潰,，沖動(dòng)決定自殺。
對于日活躍用戶數(shù)超過3億的快手而言，每天有海量的用戶上傳視頻作品、開直播。僅靠人工無法審核全部的內(nèi)容，在技術(shù)和算法的賦能下,，有自殺自殘傾向的作品，系統(tǒng)會第一時(shí)間識別并自動(dòng)攔截,。在直播中出現(xiàn)自殺,、揚(yáng)言自殺等內(nèi)容,，系統(tǒng)警報(bào)會立即拉響,，相關(guān)直播很快被關(guān)閉,。
然而，僅僅是刪除或屏蔽相關(guān)視頻作品、關(guān)掉直播,，并不能完全攔阻自殺自殘行為繼續(xù)進(jìn)行?？焓稚鐓^(qū)安全和客服團(tuán)隊(duì)不停琢磨,，認(rèn)為除了處理相關(guān)作品和直播,，還應(yīng)該采取更加積極主動(dòng)的手段,，去干預(yù)自殺自殘的行為。
經(jīng)過不停嘗試和摸索，快手社區(qū)安全和客服團(tuán)隊(duì)建立了一套相對完備的自殺自殘干預(yù)處置策略,，搭建了快速反饋流程,。直播判罰結(jié)果為“自殺自殘”的,，直播會立即被關(guān)閉,，相關(guān)信息會同時(shí)推送給客服團(tuán)隊(duì),，由客服團(tuán)隊(duì)確認(rèn)后迅速聯(lián)動(dòng)警方介入,；對于有自殺自殘傾向的作品,，風(fēng)控會召回相關(guān)用戶和作品,，通過線上流程及時(shí)推送給客服團(tuán)隊(duì),，由客服團(tuán)隊(duì)確認(rèn)后聯(lián)動(dòng)警方介入干預(yù),；一線評級團(tuán)隊(duì)發(fā)現(xiàn)相關(guān)異常情況也會快速同步給客服團(tuán)隊(duì),。
別怕，我們都在
3月18日凌晨，在一個(gè)直播間里,，一名男子手持電棍坐在車上,，旁邊還有一名疑似被控制的女子,，身上僅穿內(nèi)衣,，有傷害自殘傾向,。相關(guān)信息很快就被快手社區(qū)安全團(tuán)隊(duì)捕捉到,，隨后被推送至客服團(tuán)隊(duì),。當(dāng)晚值班的客服團(tuán)隊(duì)劉坤很快向?qū)俚厣綎|濱州警方報(bào)警求助。
在客服團(tuán)隊(duì)協(xié)助下,，濱州市公安局沾化分局立即開展調(diào)查工作，妥善處理了該事件,，及時(shí)消除了負(fù)面影響,。事后,，當(dāng)?shù)鼐竭€給快手公司發(fā)來一封感謝信,。
圖為感謝信
“危機(jī)干預(yù)是一場戰(zhàn)斗,，當(dāng)事人在痛苦掙扎的同時(shí)，我們都不能袖手旁觀。“劉坤說,，在這一點(diǎn)上,，快手和警方的目標(biāo)是一致的,。在干預(yù)自殺自殘上，快手與各地警方已經(jīng)建立了密切的協(xié)作關(guān)系。
其實(shí)，在與死神對抗的過程中,，不僅僅只有當(dāng)事人，快手,、警方,、第三方機(jī)構(gòu)都在另一端默默努力著。
除了處置賬號和內(nèi)容,、報(bào)警介入等直接干預(yù)手段,，情緒的紓解與表達(dá)也是自殺自殘干預(yù)中的關(guān)鍵,。
圖為快手高敏關(guān)鍵詞搜索結(jié)果頁面
在快手搜索“自殺”“自殘”“我想死”等極端關(guān)鍵詞，會發(fā)現(xiàn)置頂顯示的是一個(gè)名為“別怕,，我們都在”的心理咨詢H5宣傳頁,。點(diǎn)開宣傳頁，是一個(gè)自動(dòng)滾動(dòng)的“群聊”信息頁面。“這個(gè)世界雖然不完美,，但愛和關(guān)心不會缺少”“沒有爬不過的山?jīng)]有過不了的坎,，所有的一切都會隨風(fēng)過去”“沖鴨，今天也要開心鴨”等“群聊”信息映入眼簾,，最后還附上24小時(shí)免費(fèi)心理危機(jī)咨詢熱線的電話號碼,。
在H5頁面下方,，系統(tǒng)會自動(dòng)展現(xiàn)平臺內(nèi)各類正向內(nèi)容,，向特定用戶提供情緒紓解與表達(dá)的渠道。在快手,，這樣潤物細(xì)無聲的舉措還有不少,。
“做細(xì)小而正確的事,，這符合我們的價(jià)值觀,。”快手相關(guān)負(fù)責(zé)人說,，自殺自殘干預(yù)困難重重,，策略還要不斷迭代完善,，還有很多漏洞需要填補(bǔ),，但我們會一直堅(jiān)持做下去,。（文中人名均為化名）