電商平台的「生死訂單」：「問你件事，怎樣死才不疼？」

圖／視覺中國

互聯網「救生員」

本刊記者/仇廣宇

發於2020.9.07總第963期《中國新聞周刊》

「問你件事，怎樣死才不疼？」

8月1日晚上，阿里安全專家武綱和同事接到消息：山東一位16歲的女孩向淘寶商家諮詢購買商品，聊天中女孩說自己在線下藥店買了大量藥物，並問道怎樣死才不會疼。

武綱和同事們收到風險信息後，趕緊放下手頭工作，啟動緊急預案。

作為國內最大的電商平台，淘寶已成為感知社會情緒的一個觸角，加上各種App和網絡社區，不可避免地會留下人們的心情痕跡，開心的、悲傷的、無聊的、發泄的，當然也包括抑鬱甚至自殺傾向的話語等等。

這使得一切都有跡象可查。而武綱和同事們隸屬的阿里安全的「守護生命」項目，正是希望藉助於互聯網平台，利用人工智能技術聯動商家、公安、第三方機構建立自殺干預機制。這個項目在去年7月上線，至今已經對2500餘人進行了自殺干預。

大數據、人工智能自殺干預早已經開始，但自殺干預的主體轉換為互聯網「大廠」，還是近年兩來的事情，眾多大型互聯網公司都紛紛成立了相似的部門。而處於水面之下的青少年自殺和相關的心理問題，也因此慢慢浮現出來。

自殺干預師

8月1日，山東女孩在淘寶店家下單後，商家從後續聊天中發現女孩不太正常，有自殺企圖。當即聯繫了「守護生命」小組。

武綱的判斷是這可能是一名學生，由於高考失利導致的自殺傾向。直至晚上10點，小組成員多次撥打女孩電話，一直沒人接聽。

當晚，小組成員聯繫了當地派出所報警。女孩確實因為想不開有輕生的念頭，在警方上門前，家裡人對此並不知情。

這是「守護生命」項目上線一年多以來自殺干預案例中的一個。項目由阿里安全七八位全職員工和兼職員工組成，每天早9點到晚10點，他們都在隨時待命處理此類風險，晚上10點後也會有人在線值班。全年365天都有人堅持在崗位上，春節和疫情期間項目組也安排人員正常值班，以備需要立即採取緊急預案干預。

武綱原本是藥學專業出身，工作中才發現很多正常售賣的商品都可能被消費者用於自殺。出於學藥時的習慣和情結，武綱對關乎人生命的事情很敏感。也正是由於自己曾經的專業背景和當下工作所遇到的現實情形，2019年3月，武綱開始在阿里內部試行「守護生命」項目。7月，項目正式上線。

這是一個心理危機干預機制。

當用戶在淘寶手機端搜索與自殺相關的內容時，會自動跳出「守護生命」宣導頁面，在顯著位置提示12355青少年服務熱線及國家免費心理諮詢熱線。頁面還設置了心理健康知識板塊，引導有焦慮、失眠、情感障礙等特徵的人士，通過自我學習，掌握科學應對的方法。更重要的是，這個機制還通過一套業務模型，對潛在自殺者進行人為干預。

一方面利用人工智能技術感知風險，另一方面對商家開展專業培訓。當商家發現風險，會及時安撫、勸阻，築起第一道保護屏障，並通知阿里安全「自殺干預師」。緊急情況下，平台聯動警方及時介入。

最開始，是通過商戶與消費者聊天內容進行判斷，觸發預警機制，但這個方法準確度並不高。此後，阿里的工程師開始通過構建多模態神經網絡算法模型識別用戶是否真的存在自殺風險。為此，阿里的一位工程師特意收集了一萬多句關於自殺的文字，用以優化算法。

項目上線後，先是對上千名淘寶商家進行了培訓，要求商家在遇到奇怪的訂單和買家溝通時主動多問一句購買用途，發現風險時就要求商家攔截訂單。剛開始的時候，大多數商家是不太主動參與這個項目的。有人計算過，為了攔截這樣一單訂單所花費的成本，相當於要付出該件商品兩天的營業額。

為了調動商戶在第一道防線的積極性，「守護生命」向客服團隊申請了2萬元的預算補償。後來，一些頭部商家在攔截了幾單網購商品，發現自己的行為確實能夠「救命」時，參與「守護生命」項目的商家越來越多了。陸續有商家告訴武綱，他們覺得這件事有意義，還有的商家在攔截訂單之後表示，不要補償。

水面下的風險

「守護生命」干預安撫的案例以年輕人居多，其中「90後」和「00後」占比就達到六成以上。用戶為年輕人居多的B站提供的數據顯示，2020上半年自殺干預案例中，接入報警的有26例，但是流露出深度抑鬱和自殺傾向的案例，僅僅5月就有714例。

除去阿里，活躍着年輕用戶的騰訊、B站等公司在發現此類信息時，也會啟動相關的幫助和服務。在美國，2019年9月10日「世界預防自殺日」前後，Facebook也開始分享有關用戶討論自殺的公開數據，以解決人們對其網站上出現的自殺和自我傷害內容的擔憂，並開始聘請健康專家加入安全團隊。

B站頁面上有一個叫做「動態」的功能，類似於微博。如果有人在裡面發布了嚴重負面情緒等信息，審核人員會介入判斷該用戶的心理情緒，如果涉及高度危險類內容（重度抑鬱、自殺傾向）等，審核人員會及時轉交給專業心理輔導客服介入，客服會聯繫用戶進行安全確認，並進行情緒安撫。如涉及更嚴重的心理問題，客服還會轉接至專業心理諮詢機構「青小聊」做進一步的心理輔導安撫，若是用戶處境不安全，客服會報警協助警方同步處理，確保用戶的生命安全。

在B站、百度搜索等地方輸入「安眠藥」「自殺」等關鍵詞，會跳出提示頁面、安撫話語、解決失眠等問題的科普視頻，心理諮詢機構的聯繫方式，便於有心理問題但還不是特別嚴重的網民隨時求助。淘寶提供的數據顯示，手機App端自從今年6月推出「守護生命」宣導頁面後，頁面上心理健康知識的視頻每日的播放量有2500次左右，前端工作人員感知到的自殺風險量下降近3成。

而騰訊的「微光行動」項目，主要覆蓋QQ用戶，起因是為了整治類似國外傳入的「藍鯨遊戲」這樣的誘導自殺行為。該行動2018年7月上線，截至2019年1月，該行動一共封停QQ群組賬號2000多個，和警方一起救助了35名有自殺、自殘傾向的用戶。

武綱是阿里安全自殺干預師團隊中的一員。圖/受訪者提供

2014年，世界衛生組織（WHO）發布的首份預防自殺報告中曾提到，自殺是全球15~29歲年齡組中第二大死亡原因。該組織鼓勵全球各國家實施面向全人群的自殺干預策略，方式包括提高衛生保健服務的可及性、促進心理健康、減少酒精的有害使用、限制自殺工具的方便易得性、促進媒體責任等。

在互聯網上，人工干預自殺早已不是新鮮事。2018年，武漢科技大學大數據研究院副主任、特聘教授黃智生創立了「樹洞救援團」，運用人工智能技術收集互聯網信息干預自殺行為，截至2019年底，該組織已經阻止了1600多次自殺行為。而更早的2017年7月，中國科學院心理研究所研究員朱廷劭和團隊就開始為有自殺意念的新浪微博用戶提供心理危機干預。

朱廷劭團隊曾比較了新浪微博上自殺死亡用戶和無自殺傾向用戶在社交行為、語言使用上的差別，進而歸納出有自殺傾向用戶的可識別模式。他在一次演講中拿出3句不同的用戶言論舉例說明，這些言論根據程度可以分成1級、2級和3級，其中1級是有自殺意念，2級是有意念的同時有自殺計劃，3級是不僅有計劃，還有實施。

在心理學研究中，處於「激情自殺」「衝動自殺」類的人內心有很強的求生欲望，尚有傾訴欲和表達欲，屬於可干預的範疇，也就是上述所說的「2級」狀態。互聯網公司的自殺干預處理的有很多是這部分人群。「下定決心要『走』的人，不太可能會尋找我們這個平台。物流是需要時間的，非常有決心的話，他可能希望立刻得到東西『走』掉，也可能會採取更激烈的方式。但如果是有意念、計劃，但還沒有去實施的那類，（這種情況下）就有一些時間可以讓我們去爭取。」武綱對《中國新聞周刊》表示。

對於互聯網公司的員工而言，處理此類生命安全的風險事件，僅僅是網絡「救生員」們每天繁忙工作之中的一項，無法算到KPI考核之中。當面對一些盡力卻無法挽回的案例，又會讓工作人員感到無力。武綱並不覺得團隊有多偉大，他們只是遇到那些有煩心事的人，並且恰好陪伴了他們。

「重要的是，結果是好的。」武綱說。