70分鐘，與死神賽跑
6月26日21時(shí)許,，快手員工正在對(duì)用戶直播進(jìn)行常規(guī)巡查,，突然發(fā)現(xiàn)一個(gè)直播間的畫面中，男子躺在沙土地上,，臉色蒼白,，手腕鮮血淋漓。
“是自殺,！快報(bào)警,！”快手社區(qū)安全員工張洋立即啟動(dòng)應(yīng)急響應(yīng)，第一時(shí)間掐掉直播,，并將相關(guān)信息推送給客服團(tuán)隊(duì),。不到10分鐘，客服團(tuán)隊(duì)就與屬地云南省個(gè)舊市公安局建立了聯(lián)動(dòng)關(guān)系,。
圖為民警在高架橋下找到輕生者李林（個(gè)舊市公安局提供）
只有大體位置,，本著生命至上的原則，在快手平臺(tái)協(xié)助下,，個(gè)舊市公安局立即安排民警摸黑展開地毯式搜尋,。經(jīng)過(guò)70分鐘的全力搜索，繞過(guò)三個(gè)高架橋之后,，當(dāng)天22時(shí)30分,，民警終于在大屯轄區(qū)某高架橋下找到已經(jīng)跳下高架橋且割腕的李林。經(jīng)過(guò)醫(yī)生的救治和民警的安撫,，李林生命體征平穩(wěn),、情緒逐漸趨于穩(wěn)定，已被家屬帶回家做進(jìn)一步觀察,。
今年25歲的李林,，只因欠了4000塊錢外債，周圍親友拒絕借錢幫其償還,，心灰意冷的他選擇從高架橋一躍而下,，發(fā)現(xiàn)沒(méi)死后用玻璃劃破手腕,，在手機(jī)鏡頭前等死。
快手的快速響應(yīng),，民警的及時(shí)救援,，一場(chǎng)悲劇被成功阻止。
圖為民警在安撫李林（個(gè)舊市公安局提供）
在快手,，這樣驚心動(dòng)魄的場(chǎng)景并非偶然,，社區(qū)安全和客服團(tuán)隊(duì)每天都要處理多起類似事件。今年以來(lái),，快手社區(qū)安全和客服團(tuán)隊(duì)已聯(lián)動(dòng)各地警方救援270余名試圖自殺自殘的用戶,。
算法賦能+多方聯(lián)動(dòng)，阻擋自殺自殘
作為一款國(guó)民級(jí)應(yīng)用,，每天有大量的人在快手上記錄生活的點(diǎn)點(diǎn)滴滴,，直播自己的喜怒哀樂(lè)。然而,，在網(wǎng)絡(luò)的某個(gè)角落里,，一些人正在面對(duì)人生的至暗時(shí)刻。
湖北巴東一名女孩,，因?yàn)槭俣钟?，不停上傳有明顯自殺傾向的作品；吉林一名網(wǎng)友直播時(shí)一邊拿著藥盒,，一邊激動(dòng)地講述自己悲慘經(jīng)歷,，表示自己不想活了……快速變化的社會(huì)里，很多人處于多重壓力環(huán)境下,，自殺自殘事件愈發(fā)常見,，容易因一件小事情緒崩潰，沖動(dòng)決定自殺,。
對(duì)于日活躍用戶數(shù)超過(guò)3億的快手而言,，每天有海量的用戶上傳視頻作品、開直播,。僅靠人工無(wú)法審核全部的內(nèi)容,，在技術(shù)和算法的賦能下，有自殺自殘傾向的作品,，系統(tǒng)會(huì)第一時(shí)間識(shí)別并自動(dòng)攔截,。在直播中出現(xiàn)自殺、揚(yáng)言自殺等內(nèi)容,，系統(tǒng)警報(bào)會(huì)立即拉響,，相關(guān)直播很快被關(guān)閉。
然而，僅僅是刪除或屏蔽相關(guān)視頻作品,、關(guān)掉直播,，并不能完全攔阻自殺自殘行為繼續(xù)進(jìn)行?？焓稚鐓^(qū)安全和客服團(tuán)隊(duì)不停琢磨,，認(rèn)為除了處理相關(guān)作品和直播，還應(yīng)該采取更加積極主動(dòng)的手段,，去干預(yù)自殺自殘的行為,。
經(jīng)過(guò)不停嘗試和摸索，快手社區(qū)安全和客服團(tuán)隊(duì)建立了一套相對(duì)完備的自殺自殘干預(yù)處置策略,，搭建了快速反饋流程,。直播判罰結(jié)果為“自殺自殘”的，直播會(huì)立即被關(guān)閉,，相關(guān)信息會(huì)同時(shí)推送給客服團(tuán)隊(duì)，由客服團(tuán)隊(duì)確認(rèn)后迅速聯(lián)動(dòng)警方介入,；對(duì)于有自殺自殘傾向的作品,，風(fēng)控會(huì)召回相關(guān)用戶和作品，通過(guò)線上流程及時(shí)推送給客服團(tuán)隊(duì),，由客服團(tuán)隊(duì)確認(rèn)后聯(lián)動(dòng)警方介入干預(yù),；一線評(píng)級(jí)團(tuán)隊(duì)發(fā)現(xiàn)相關(guān)異常情況也會(huì)快速同步給客服團(tuán)隊(duì)。
別怕,，我們都在
3月18日凌晨,，在一個(gè)直播間里，一名男子手持電棍坐在車上,，旁邊還有一名疑似被控制的女子,，身上僅穿內(nèi)衣，有傷害自殘傾向,。相關(guān)信息很快就被快手社區(qū)安全團(tuán)隊(duì)捕捉到,，隨后被推送至客服團(tuán)隊(duì)。當(dāng)晚值班的客服團(tuán)隊(duì)劉坤很快向?qū)俚厣綎|濱州警方報(bào)警求助,。
在客服團(tuán)隊(duì)協(xié)助下,，濱州市公安局沾化分局立即開展調(diào)查工作，妥善處理了該事件,，及時(shí)消除了負(fù)面影響,。事后，當(dāng)?shù)鼐竭€給快手公司發(fā)來(lái)一封感謝信,。
圖為感謝信
“危機(jī)干預(yù)是一場(chǎng)戰(zhàn)斗,，當(dāng)事人在痛苦掙扎的同時(shí)，我們都不能袖手旁觀。“劉坤說(shuō),，在這一點(diǎn)上,，快手和警方的目標(biāo)是一致的。在干預(yù)自殺自殘上,，快手與各地警方已經(jīng)建立了密切的協(xié)作關(guān)系,。
其實(shí)，在與死神對(duì)抗的過(guò)程中,，不僅僅只有當(dāng)事人,，快手、警方,、第三方機(jī)構(gòu)都在另一端默默努力著,。
除了處置賬號(hào)和內(nèi)容、報(bào)警介入等直接干預(yù)手段,，情緒的紓解與表達(dá)也是自殺自殘干預(yù)中的關(guān)鍵,。
圖為快手高敏關(guān)鍵詞搜索結(jié)果頁(yè)面
在快手搜索“自殺”“自殘”“我想死”等極端關(guān)鍵詞，會(huì)發(fā)現(xiàn)置頂顯示的是一個(gè)名為“別怕,，我們都在”的心理咨詢H5宣傳頁(yè),。點(diǎn)開宣傳頁(yè)，是一個(gè)自動(dòng)滾動(dòng)的“群聊”信息頁(yè)面,。“這個(gè)世界雖然不完美,，但愛和關(guān)心不會(huì)缺少”“沒(méi)有爬不過(guò)的山?jīng)]有過(guò)不了的坎，所有的一切都會(huì)隨風(fēng)過(guò)去”“沖鴨,，今天也要開心鴨”等“群聊”信息映入眼簾,，最后還附上24小時(shí)免費(fèi)心理危機(jī)咨詢熱線的電話號(hào)碼。
在H5頁(yè)面下方,，系統(tǒng)會(huì)自動(dòng)展現(xiàn)平臺(tái)內(nèi)各類正向內(nèi)容,，向特定用戶提供情緒紓解與表達(dá)的渠道。在快手,，這樣潤(rùn)物細(xì)無(wú)聲的舉措還有不少,。
“做細(xì)小而正確的事，這符合我們的價(jià)值觀,。”快手相關(guān)負(fù)責(zé)人說(shuō),，自殺自殘干預(yù)困難重重，策略還要不斷迭代完善,，還有很多漏洞需要填補(bǔ),，但我們會(huì)一直堅(jiān)持做下去。（文中人名均為化名）