近日，美國紐約肖托夸縣的治安官Joseph Gerace看到過許多自殺行為，在他成為公職人員之前，他最好朋友的父親就以自殺結(jié)束了自己的生命。去年7月一位Facebook安全團隊的成員打電話給911中心的調(diào)度員稱，當?shù)匾晃痪用裥枰o急救助。Gerace稱：“這能夠幫助我們提升公共安全。我們不會干預(yù)人們的私生活，但是如果出現(xiàn)危險我們就會介入。”

去年8月份肖托夸縣當?shù)孛襟w報道的第一起自殺案例就是由Facebook追蹤到的，當時公司收到舉報稱一位女性在她的Facebook上發(fā)出了自殺的信息。多年以來，F(xiàn)acebook都允許內(nèi)部審核人員對自殺內(nèi)容進行審查，并且決定是否需要通過自殺預(yù)防熱線為用戶提供幫助，或者在緊急情況下讓公司的法律反應(yīng)團隊介入。
隨著技術(shù)的不斷發(fā)展，對于Facebook來說必然存在一種工程學(xué)方案來應(yīng)對自殺行為。大約1年以前，F(xiàn)acebook增加了新技術(shù)，能夠自動標記涉及自殺意圖的帖子供公司審查員進行分析。去年11月份，F(xiàn)acebook已經(jīng)證實這個新系統(tǒng)已經(jīng)獲得了成效。
據(jù)Facebook稱，這個新系統(tǒng)標記的涉及自殺想法的帖子數(shù)量已經(jīng)提升了20倍，收到Facebook自殺預(yù)防系統(tǒng)幫助的人數(shù)也增加了兩倍。公司也一直在對系統(tǒng)的語言和Instagram的自殺預(yù)防系統(tǒng)進行升級，但目前仍然處于研發(fā)的早期階段。周三時Facebook也公布了關(guān)于這項技術(shù)更多的細節(jié)。
雖然表現(xiàn)自殺想法的帖子很少，但自殺是一種很普遍的威脅。據(jù)美國疾病控制和預(yù)防中心的數(shù)據(jù)，自殺在美國死亡原因中排名前十，在年齡15到34歲之間的死亡原因中排名第二，僅次于意外傷害。
Facebook自2013年建立一座人工智能(AI)研究實驗室并且雇傭著名的研究人員Yann LeCun作為負責人之后，就開始打造AI人才和技術(shù)。實驗室已經(jīng)創(chuàng)造出許多令人印象深刻的技術(shù)，比如說借助用戶照片識別物體、將文本內(nèi)容轉(zhuǎn)變成其它語言等等。
包括亞馬遜、蘋果、谷歌和微軟在內(nèi)的所有科技巨頭都在AI領(lǐng)域投資升級自己的服務(wù)和平臺。但是自殺預(yù)防并非AI研究人員關(guān)注的熱門話題。曾在雅虎和微軟AI部門任職的一位Facebook研究科學(xué)家Umut Ozertem稱：“我從未聽說過自殺預(yù)防系統(tǒng)，但它讓我非常感興趣。自殺行為曾讓我失去了三位好朋友。”
Facebook對于自殺預(yù)防的探索已經(jīng)超過了10年，自殺預(yù)防也是谷歌和微軟正在進行的事情。比如說，如果有人用谷歌搜索“我想自殺”，就會出現(xiàn)國家自殺預(yù)防熱線的電話號碼。微軟則會在搜索結(jié)果中顯示救助中心的信息，并且讓用戶在Xbox線上服務(wù)上報自殘信息。