70分鐘，與死神賽跑

6月26日21時許,，快手員工正在對用戶直播進行常規(guī)巡查,，突然發(fā)現(xiàn)一個直播間的畫面中，男子躺在沙土地上,，臉色蒼白,，手腕鮮血淋漓。

“是自殺,！快報警,！”快手社區(qū)安全員工張洋立即啟動應(yīng)急響應(yīng)，第一時間掐掉直播,，并將相關(guān)信息推送給客服團隊,。不到10分鐘，客服團隊就與屬地云南省個舊市公安局建立了聯(lián)動關(guān)系,。

圖為民警在高架橋下找到輕生者李林（個舊市公安局提供）

只有大體位置,，本著生命至上的原則，在快手平臺協(xié)助下,，個舊市公安局立即安排民警摸黑展開地毯式搜尋,。經(jīng)過70分鐘的全力搜索，繞過三個高架橋之后,，當(dāng)天22時30分,，民警終于在大屯轄區(qū)某高架橋下找到已經(jīng)跳下高架橋且割腕的李林,。經(jīng)過醫(yī)生的救治和民警的安撫，李林生命體征平穩(wěn),、情緒逐漸趨于穩(wěn)定,，已被家屬帶回家做進一步觀察。

今年25歲的李林,，只因欠了4000塊錢外債，周圍親友拒絕借錢幫其償還,，心灰意冷的他選擇從高架橋一躍而下,，發(fā)現(xiàn)沒死后用玻璃劃破手腕，在手機鏡頭前等死,。

快手的快速響應(yīng),，民警的及時救援，一場悲劇被成功阻止,。

圖為民警在安撫李林（個舊市公安局提供）

在快手,，這樣驚心動魄的場景并非偶然，社區(qū)安全和客服團隊每天都要處理多起類似事件,。今年以來,，快手社區(qū)安全和客服團隊已聯(lián)動各地警方救援270余名試圖自殺自殘的用戶。

算法賦能+多方聯(lián)動,，阻擋自殺自殘

作為一款國民級應(yīng)用,，每天有大量的人在快手上記錄生活的點點滴滴，直播自己的喜怒哀樂,。然而,，在網(wǎng)絡(luò)的某個角落里，一些人正在面對人生的至暗時刻,。

湖北巴東一名女孩,，因為失戀而抑郁，不停上傳有明顯自殺傾向的作品,；吉林一名網(wǎng)友直播時一邊拿著藥盒,，一邊激動地講述自己悲慘經(jīng)歷，表示自己不想活了……快速變化的社會里,，很多人處于多重壓力環(huán)境下,，自殺自殘事件愈發(fā)常見，容易因一件小事情緒崩潰,，沖動決定自殺,。

對于日活躍用戶數(shù)超過3億的快手而言，每天有海量的用戶上傳視頻作品,、開直播,。僅靠人工無法審核全部的內(nèi)容,，在技術(shù)和算法的賦能下，有自殺自殘傾向的作品,，系統(tǒng)會第一時間識別并自動攔截,。在直播中出現(xiàn)自殺、揚言自殺等內(nèi)容,，系統(tǒng)警報會立即拉響,，相關(guān)直播很快被關(guān)閉。

然而,，僅僅是刪除或屏蔽相關(guān)視頻作品,、關(guān)掉直播，并不能完全攔阻自殺自殘行為繼續(xù)進行,?？焓稚鐓^(qū)安全和客服團隊不停琢磨，認(rèn)為除了處理相關(guān)作品和直播,，還應(yīng)該采取更加積極主動的手段,，去干預(yù)自殺自殘的行為。

經(jīng)過不停嘗試和摸索,，快手社區(qū)安全和客服團隊建立了一套相對完備的自殺自殘干預(yù)處置策略,，搭建了快速反饋流程。直播判罰結(jié)果為“自殺自殘”的,，直播會立即被關(guān)閉,，相關(guān)信息會同時推送給客服團隊，由客服團隊確認(rèn)后迅速聯(lián)動警方介入,；對于有自殺自殘傾向的作品,，風(fēng)控會召回相關(guān)用戶和作品，通過線上流程及時推送給客服團隊,，由客服團隊確認(rèn)后聯(lián)動警方介入干預(yù),；一線評級團隊發(fā)現(xiàn)相關(guān)異常情況也會快速同步給客服團隊。

別怕,，我們都在

3月18日凌晨,，在一個直播間里，一名男子手持電棍坐在車上,，旁邊還有一名疑似被控制的女子,，身上僅穿內(nèi)衣，有傷害自殘傾向,。相關(guān)信息很快就被快手社區(qū)安全團隊捕捉到,，隨后被推送至客服團隊。當(dāng)晚值班的客服團隊劉坤很快向?qū)俚厣綎|濱州警方報警求助。

在客服團隊協(xié)助下,，濱州市公安局沾化分局立即開展調(diào)查工作,，妥善處理了該事件，及時消除了負(fù)面影響,。事后,，當(dāng)?shù)鼐竭€給快手公司發(fā)來一封感謝信。

圖為感謝信

“危機干預(yù)是一場戰(zhàn)斗,，當(dāng)事人在痛苦掙扎的同時,，我們都不能袖手旁觀。“劉坤說,，在這一點上,，快手和警方的目標(biāo)是一致的。在干預(yù)自殺自殘上,，快手與各地警方已經(jīng)建立了密切的協(xié)作關(guān)系。

其實,，在與死神對抗的過程中,，不僅僅只有當(dāng)事人，快手,、警方,、第三方機構(gòu)都在另一端默默努力著。

除了處置賬號和內(nèi)容,、報警介入等直接干預(yù)手段,，情緒的紓解與表達也是自殺自殘干預(yù)中的關(guān)鍵。

圖為快手高敏關(guān)鍵詞搜索結(jié)果頁面

在快手搜索“自殺”“自殘”“我想死”等極端關(guān)鍵詞,，會發(fā)現(xiàn)置頂顯示的是一個名為“別怕,，我們都在”的心理咨詢H5宣傳頁。點開宣傳頁,，是一個自動滾動的“群聊”信息頁面,。“這個世界雖然不完美，但愛和關(guān)心不會缺少”“沒有爬不過的山?jīng)]有過不了的坎,，所有的一切都會隨風(fēng)過去”“沖鴨,，今天也要開心鴨”等“群聊”信息映入眼簾，最后還附上24小時免費心理危機咨詢熱線的電話號碼,。

在H5頁面下方,，系統(tǒng)會自動展現(xiàn)平臺內(nèi)各類正向內(nèi)容，向特定用戶提供情緒紓解與表達的渠道,。在快手,，這樣潤物細(xì)無聲的舉措還有不少。

“做細(xì)小而正確的事,，這符合我們的價值觀,。”快手相關(guān)負(fù)責(zé)人說,，自殺自殘干預(yù)困難重重，策略還要不斷迭代完善,，還有很多漏洞需要填補,，但我們會一直堅持做下去。（文中人名均為化名）