摘要:很忙的扎克伯格決定在全球范圍內(nèi)推廣AI防自殺系統(tǒng)以平息用戶對(duì)Facebook的不滿情緒,這是怎么回事?
很忙的扎克伯格決定在全球范圍內(nèi)推廣AI防自殺系統(tǒng)以平息用戶對(duì)Facebook的不滿情緒,這是怎么回事?
原來(lái),之前Facebook上曾多次出現(xiàn)直播自殺的事件,但由于平臺(tái)方?jīng)]有及時(shí)排查到此類信息,一時(shí)給社會(huì)造成了很大的負(fù)面影響。而Facebook也理所當(dāng)然地遭到了平臺(tái)用戶的責(zé)難。所以扎克這才趕緊推出了AI防自殺系統(tǒng)。不過(guò),這已經(jīng)不是第一次Facebook因?yàn)樾畔⒐芾聿焕籨iss了。今年《紐約時(shí)報(bào)》和《衛(wèi)報(bào)》的報(bào)道指出英國(guó)一家數(shù)據(jù)分析的政治咨詢公司利用Facebook的信息管理漏洞,竊取了5000千多萬(wàn)Facebook用戶的個(gè)人資料,幫助現(xiàn)任美國(guó)總統(tǒng)特朗普在2016年的大選當(dāng)中獲得有利輿論。
Facebook近年來(lái)爭(zhēng)議不斷,這套AI防自殺系統(tǒng)是其挽回用戶信心的一個(gè)小動(dòng)作,但是小動(dòng)作里面也可能藏有大玄機(jī),F(xiàn)acebook的新技術(shù)到底能不能安撫長(zhǎng)期以來(lái)被其傷害的用戶之心呢?
1、從圖文到視頻:AI識(shí)別自殺的技術(shù)之流
AI可以識(shí)別自殺這一論斷看似很迷,但是在各種AI識(shí)別人類性格、性取向、精神疾病等技術(shù)層出不窮的前提下,我們可以嘗試對(duì)AI防自殺系統(tǒng)進(jìn)行簡(jiǎn)單剖析,嘗鼎一臠。
文字識(shí)別:AI防自殺系統(tǒng)會(huì)對(duì)用戶的發(fā)帖內(nèi)容進(jìn)行識(shí)別,針對(duì)含消極情緒的語(yǔ)句,
例如,“我不想活了”,“我恨世界上所有人”,“我為什么還不死”這類代表負(fù)面情緒的語(yǔ)言AI會(huì)特別注意,并將發(fā)布此類言論的用戶進(jìn)行標(biāo)記。然后,AI會(huì)將相應(yīng)的數(shù)據(jù)移交給公司專員進(jìn)行篩選和處理,最后由人工來(lái)做出決策。Facebook這套AI防自殺系統(tǒng)沒(méi)有讓AI單兵作戰(zhàn),而是選擇人機(jī)協(xié)作的方式來(lái)篩選信息,為提高系統(tǒng)識(shí)別自殺的準(zhǔn)確度做了一定的保障。目前,AI偵測(cè)與回報(bào)機(jī)制的速度比人工的手動(dòng)回報(bào)快三成,已經(jīng)大大提高了Facebook信息篩選效率,并成功阻止了多起自殺事件。
圖片識(shí)別:其實(shí),要機(jī)器從一張圖片來(lái)分析出一個(gè)人是否有自殺傾向是一件相當(dāng)困
難的事情,因?yàn)閳D片的表達(dá)有時(shí)候比較抽象,其中還會(huì)涉及到色彩學(xué)方面的問(wèn)題,就算是人類也不一定能做到。不過(guò)AI仍然可以對(duì)此做出一些嘗試,我們可以拿另外一個(gè)AI圖片識(shí)別的領(lǐng)域來(lái)舉例,那就是AI鑒黃。由于深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型在各種圖像識(shí)別比賽中取得的突破性進(jìn)展,目前AI鑒黃一般會(huì)采用CNN(卷積神經(jīng)網(wǎng)絡(luò))、GoogleNet、ResNet(殘差網(wǎng)絡(luò))三種深度網(wǎng)絡(luò)模型結(jié)構(gòu)。開(kāi)發(fā)人員會(huì)需要從技術(shù)層面研發(fā)出一個(gè)“分類器”,從而讓AI能夠計(jì)算出該圖是否屬于黃圖的概率。這套AI鑒黃的原理在理論上來(lái)說(shuō)對(duì)于所有的圖片識(shí)別基本通用,只不過(guò)相比鑒黃來(lái)說(shuō),AI要從圖片中識(shí)別出自殺傾向的困難點(diǎn)在于難以抓取此類圖片的共同點(diǎn),所以在第一步建立“分類器”上,AI可能會(huì)遇到比較大的障礙。因此后續(xù)AI識(shí)別的準(zhǔn)確率,相對(duì)文字識(shí)別來(lái)說(shuō),也會(huì)不太好保證。
音視頻識(shí)別:當(dāng)然,用戶在社交平臺(tái)上發(fā)布的內(nèi)容不僅僅是文字和圖片,還有很多
的表達(dá)是以音頻或者視頻的形式。所以,AI防自殺系統(tǒng)在視頻直播當(dāng)中也植入了AI程序。雖然Facebook方面并沒(méi)有透漏有關(guān)該AI視頻識(shí)別技術(shù)的相關(guān)細(xì)節(jié),但是我們?nèi)匀豢梢詮臋C(jī)器視覺(jué)領(lǐng)域的進(jìn)展來(lái)窺一窺究竟。之前,一公司的計(jì)算精神病學(xué)和神經(jīng)成像研究小組團(tuán)隊(duì)利用機(jī)器學(xué)習(xí)預(yù)測(cè)大腦精神疾病抑郁癥,通過(guò)對(duì)59名普通人的語(yǔ)言方式進(jìn)行追蹤和分析從而預(yù)測(cè)他們潛在的患病風(fēng)險(xiǎn),其精確度達(dá)到83%,由此我們可以看出機(jī)器具備一定能力從語(yǔ)音層面來(lái)分析人類情緒。另外,南加州大學(xué)曾推出一款A(yù)I心理治療師,能夠分析受訪士兵的面部表情變化,并將AI分析表情的結(jié)果作為診斷士兵是否存在PTSD(創(chuàng)傷后應(yīng)激障礙)的依據(jù)之一。所以,AI防自殺系統(tǒng)要判斷視頻中的人是否有自殺的傾向,可能首先會(huì)從一、人物的面部表情;二、是否存在危險(xiǎn)器械;三、是否有流血等畫(huà)面的特點(diǎn)來(lái)進(jìn)行分析??偟膩?lái)說(shuō),AI防自殺系統(tǒng)的有關(guān)圖像識(shí)別技術(shù)基本上會(huì)與以上所提到的兩個(gè)機(jī)器學(xué)習(xí)技術(shù)類似。
2、AI防自殺識(shí)別系統(tǒng)之殤,真的很痛
雖然現(xiàn)在AI識(shí)別人類情緒的工程一直在持續(xù)推進(jìn),但是情緒識(shí)別對(duì)于機(jī)器來(lái)說(shuō)仍然不是一件簡(jiǎn)單的事情。
首先,我們需要弄清楚AI分得清“演戲”和“真實(shí)”嗎?比如,在快手上存在著大量小劇場(chǎng)表演式的視頻類型,很多男生哭天搶地,女生狠心決絕甩耳光的視頻得到數(shù)百萬(wàn)的點(diǎn)贊。人們把這些視頻當(dāng)作娛樂(lè)消遣,而機(jī)器會(huì)怎么看待這樣視頻?嘴角下?lián)P、淚眼婆娑、聲嘶力竭,這一場(chǎng)場(chǎng)一幕幕會(huì)被機(jī)器的“眼睛”迅速捕捉,并將其標(biāo)簽為極端消極負(fù)面的情緒傳播。吃瓜群眾津津樂(lè)道地一場(chǎng)戲精飆戲在機(jī)器眼里成了有自殺傾向的人群情緒宣泄。這可能真的會(huì)讓人有些哭笑不得。模仿是人類的天性之一,長(zhǎng)期熟悉模仿式表演的用戶能夠很快分辨出模仿和真實(shí)情緒的流露之間的細(xì)微差別,但是就是這一點(diǎn)點(diǎn)細(xì)微的差別卻是機(jī)器情緒識(shí)別最難突破的瓶頸之處。
其次,當(dāng)機(jī)器將識(shí)別出的一些負(fù)面關(guān)鍵詞作為標(biāo)記自殺人群的標(biāo)準(zhǔn)時(shí),那么我們必須應(yīng)該讓機(jī)器知道那些說(shuō)要“死”的人是不是真的想去死。Facebook這一AI防自殺系統(tǒng)應(yīng)用于國(guó)外會(huì)有什么烏龍,我們可能還沒(méi)那么清楚。但是設(shè)想一下,如果把這一系統(tǒng)挪用到中國(guó)來(lái),人工篩選的信息量反可能被大大增加。舉個(gè)例子,在中國(guó)的語(yǔ)言系統(tǒng)里有一個(gè)很特殊的點(diǎn),就是很喜歡把“死”作為程度詞來(lái)使用。在日常生活中,我們隨時(shí)隨地都會(huì)聽(tīng)到有人說(shuō)“熱死了”,“冷死了”,“煩死了”,“討厭死了”,像這類句子在人類看來(lái)只是十分常見(jiàn)的日常用語(yǔ),但是機(jī)器對(duì)此卻難以判定。因?yàn)闄C(jī)器家族對(duì)這個(gè)世界暫時(shí)還不存在一個(gè)全面的感知系統(tǒng)。當(dāng)中國(guó)被譽(yù)為“四大火爐”的幾個(gè)城市一到夏天,每一個(gè)人都能感受到高溫的襲來(lái),也會(huì)知道在這個(gè)時(shí)候說(shuō)“熱死了”是多么正常的表達(dá),而機(jī)器能怎么辦呢,它可并不知道現(xiàn)在的現(xiàn)實(shí)世界到底有多熱呀。
另外,在機(jī)器的背后還需要思考的問(wèn)題是懸在各大社交平臺(tái)頭頂?shù)囊话堰_(dá)摩利斯克之劍—隱私之殤。6月4號(hào),《紐約時(shí)報(bào)》的報(bào)道稱在過(guò)去十年中,F(xiàn)acebook至少與60家設(shè)備制造商(包括蘋(píng)果、亞馬遜、黑莓、微軟和三星)達(dá)成協(xié)議,向它們提供用戶隱私信息,這些協(xié)議中的多數(shù)至今還在生效。Facebook建立了最龐大的信息帝國(guó),但是每一次信息技術(shù)的革命只是在表面上讓信息看上去更加去中心化,然而實(shí)際上卻只是建立了更加龐大的信息壟斷市場(chǎng)。對(duì)比現(xiàn)實(shí)世界的條條框框,網(wǎng)絡(luò)承擔(dān)了社會(huì)“減壓閥”的功能。負(fù)面情緒再怎么樣都是人類的基本情緒,也是人類該有的脆弱。原本以為在無(wú)弗屆遠(yuǎn)的網(wǎng)絡(luò)世界,你能擁有一隅展示脆弱的機(jī)會(huì)。但是,誰(shuí)知道你的脆弱已經(jīng)被平臺(tái)收集,你躲在黑暗中卻被各大商家悄悄盯上。在商業(yè)的世界中,商人需要不斷發(fā)掘人性的弱點(diǎn),便于制定推廣商品的策略。而Facebook正在承擔(dān)這樣一個(gè)“老鴇”的角色給商家提供人性的弱點(diǎn),令人扼腕。
3、娜拉出走之后,AI防自殺系統(tǒng)還能做什么
AI防自殺系統(tǒng)在正式投入使用后,一個(gè)月檢測(cè)并攔截到的自殺事件有上百個(gè),確實(shí)有效挽救了不少生命。但是從一個(gè)爭(zhēng)議不斷的社交平臺(tái)的角度來(lái)說(shuō),AI防自殺系統(tǒng)的目的到底是什么還需要探討。這樣的一套AI程序究竟是為了及時(shí)拯救生命,還是肅清平臺(tái)環(huán)境,還是僅僅只是平臺(tái)針對(duì)外界質(zhì)疑的擋箭牌而已。如果,這是為了及時(shí)拯救生命,那么這樣的AI防自殺系統(tǒng)會(huì)面對(duì)一個(gè)非常有爭(zhēng)議的問(wèn)題,就是娜拉出走之后的問(wèn)題。今年5月,在廈蓉高速服務(wù)區(qū)發(fā)生一起因欠下巨額高利貸而全家自殺的事件,而事件的主人公正是去年在微博發(fā)布遺書(shū)之后在海南警方及時(shí)救援下最后自殺未遂的同一家人。從這件事中,我們可以意識(shí)到微博作為信息平臺(tái)可以發(fā)現(xiàn)并識(shí)別這樣的自殺信息,但是拯救了一次之后呢?該自殺的還是照樣自殺,只不過(guò)這次卻不關(guān)我的事了。說(shuō)得冷漠一點(diǎn),或許這些信息平臺(tái)真正想說(shuō)的只是:自殺是你的自由,但是請(qǐng)別在我的地盤(pán)上自殺??炊诉@一層的邏輯后,這個(gè)AI防自殺系統(tǒng)似乎光環(huán)不再,最終,F(xiàn)acebook防來(lái)防去,防的還是利益損失。
但除去一些個(gè)例,AI防自殺系統(tǒng)還是有很大的落地空間。因?yàn)锳I防自殺系統(tǒng)不僅是在社交平臺(tái),還在醫(yī)療機(jī)構(gòu)、審訊機(jī)構(gòu)等可以發(fā)揮作用,及時(shí)阻止一些不必要的傷亡。目前,自殺已經(jīng)成為世界第十大死亡原因,2016年美國(guó)衛(wèi)生統(tǒng)計(jì)中心發(fā)布的數(shù)據(jù)顯示,美國(guó)的自殺率在15年間上升了24%。但在全球自殺的人群當(dāng)中,仍然有相當(dāng)一部分人是屬于非理性自殺,他們需要有一個(gè)AI防自殺系統(tǒng)能夠幫助他們?cè)佾@得一次重生的機(jī)會(huì)。所以,期待AI防自殺系統(tǒng)在解決了一些硬性問(wèn)題之后,全面落地到日常生活當(dāng)中,拾取更多可能在不經(jīng)意間逝去的生命。
今年以來(lái),F(xiàn)acebook在負(fù)面事件纏身的同時(shí),業(yè)務(wù)增長(zhǎng)也陷入了瓶頸。用戶增長(zhǎng)、廣告收入增長(zhǎng)等關(guān)鍵指...
11月20日消息,《紐約時(shí)報(bào)》刊文稱,在Facebook工作向來(lái)都是一件美事,但在最近的一次大學(xué)黑客...
11月19日消息,據(jù)國(guó)外媒體報(bào)道,當(dāng)?shù)貢r(shí)間周五下午馬克·扎克伯格(Mark Zuckerberg)在...
11月15日消息,據(jù)The Verge報(bào)道,F(xiàn)acebook首席執(zhí)行官馬克·扎克伯格(Mark Zu...
數(shù)據(jù)已成為企業(yè)最寶貴的資產(chǎn)之一,如何高效地管理和應(yīng)用這些數(shù)據(jù),提升企業(yè)的科學(xué)經(jīng)營(yíng)和管理水平,已成為企...
近日,北京世紀(jì)云安新能源有限公司(下稱“世紀(jì)云安”)完成數(shù)億元A+輪融資,投資方分別為梁溪科創(chuàng)產(chǎn)業(yè)母...
在快節(jié)奏的現(xiàn)代生活中,健康問(wèn)題常常不期而至。無(wú)論是突發(fā)疾病還是日常小病小痛,藥品的及時(shí)獲取對(duì)于保障居...
超4600家國(guó)內(nèi)外食材及相關(guān)上下游企業(yè),以及來(lái)自全國(guó)各地的餐飲人共聚一堂,眾共創(chuàng)共享食材餐飲供應(yīng)鏈生...
事實(shí)上,近年來(lái)隨著新能源汽車(chē)的快速滲透,車(chē)載顯示市場(chǎng)也隨之快速擴(kuò)容,已經(jīng)成為一條不容忽視且極具增長(zhǎng)潛...
作為一款深受未成年人喜愛(ài)的游戲,《蛋仔派對(duì)》在給未成年人提供輕松休閑的放松途徑的同時(shí),也非常注重建立...
“思想新、一新百新;觀念變、一變百變?!?024年,小糊涂仙將繼續(xù)以變革為動(dòng)力,以共生為基石,以思變...
近日,鼎暉百孚完成對(duì)于廣東鈳銳鍶數(shù)控技術(shù)股份有限公司(以下簡(jiǎn)稱“鈳銳鍶”)的戰(zhàn)略投資。
專注于靶向蛋白質(zhì)液-液相分離的小分子藥物研發(fā)的奕拓醫(yī)藥(ETERN Therapeutics)宣布開(kāi)...
投資家網(wǎng)(jubohaotong.com)是國(guó)內(nèi)領(lǐng)先的資本與產(chǎn)業(yè)創(chuàng)新綜合服務(wù)平臺(tái)。為活躍于中國(guó)市場(chǎng)的VC/PE、上市公司、創(chuàng)業(yè)企業(yè)、地方政府等提供專業(yè)的第三方信息服務(wù),包括行業(yè)媒體、智庫(kù)服務(wù)、會(huì)議服務(wù)及生態(tài)服務(wù)。長(zhǎng)按右側(cè)二維碼添加"投資哥"可與小編深入交流,并可加入微信群參與官方活動(dòng),趕快行動(dòng)吧。
2016年注冊(cè)于北京的中氫新能技術(shù)有限公司,下設(shè)位于大興的裝備制造公司、位于海淀區(qū)的技術(shù)研究院、材料...
一度無(wú)比高光的理想汽車(chē),猝不及防遭遇重挫。
2024年1月10日,由投資家網(wǎng)主辦,財(cái)經(jīng)銳眼、有時(shí)間協(xié)辦,北京微金科技有限公司承辦的“第十二屆股權(quán)...
2024年1月10日,由投資家網(wǎng)主辦,財(cái)經(jīng)銳眼、有時(shí)間協(xié)辦,北京微金科技有限公司承辦的“第十二屆股權(quán)...
2024年1月10日,由投資家網(wǎng)主辦,財(cái)經(jīng)銳眼、有時(shí)間協(xié)辦,北京微金科技有限公司承辦的“第十二屆股權(quán)...