AI能讓內(nèi)容平臺更有序嗎？創(chuàng)投圈
自去年AlphaGo打敗人類頂尖棋手柯潔以后，大眾關(guān)于AI的想象和關(guān)注就再也沒停止過。今年的GMIC大會（全球移動互聯(lián)網(wǎng)大會）更是直接把AI放入了主題，取了個名字叫“AI生萬物”。
現(xiàn)在，AI已經(jīng)把觸角伸到了內(nèi)容領(lǐng)域，通過算法，幫助平臺完成了內(nèi)容的分發(fā)和審核。
但這不是全部，GMIC大會上，知乎合伙人、高級副總裁李大海做了一個分享，透露的信號是，內(nèi)容社區(qū)中的AI技術(shù)已經(jīng)可以開始進(jìn)行語義識別和語境判斷：“如果把知乎看成是一座生活著一億多居民和游客的超級城市，知乎的社區(qū)規(guī)范就是讓城市正常運(yùn)轉(zhuǎn)的法律法規(guī)。在這樣的規(guī)模下，只通過產(chǎn)品和運(yùn)營手段來人工完成社區(qū)管理相對比較低效。知乎已經(jīng)開始大量引進(jìn) AI，更智能高效地執(zhí)行法律法規(guī)，讓知乎這座城市更加文明有序。”
李大海用了一個詞來概括，叫“智能社區(qū)”，官方的解釋是：AI 已經(jīng)深度參與社區(qū)內(nèi)容分享和流通的每一個環(huán)節(jié)，實(shí)現(xiàn)更精準(zhǔn)高效的連接，讓對更多人有價值的問題被提出，讓最適合回答的用戶被邀請，讓更多分享見解經(jīng)驗(yàn)的欲望被激勵，讓更多專業(yè)認(rèn)真的知識被推薦，讓更多人的好奇心被滿足，讓 1 億 4000 萬注冊用戶甚至數(shù)億網(wǎng)民連接到一起，這是知乎正在努力，并且初步成型的智能社區(qū)。
為什么知乎要下大力氣去做智能社區(qū)？這是做移動互聯(lián)網(wǎng)平臺的必然。
2013年3月知乎放開注冊,當(dāng)年用戶從40萬暴增至500萬，此后繼續(xù)保持著上升趨勢。李大海稱，“在人與人、人與內(nèi)容所產(chǎn)生的連接上，知乎過去兩年時間處于一個前所未有的爆發(fā)狀態(tài)。”
公開數(shù)據(jù)顯示，截止到今年3月份，知乎的注冊用戶量達(dá)到1.4 億，平臺日活躍用戶超過 3400 萬，這些用戶在知乎上累計(jì)貢獻(xiàn)了 2300 萬個問題和近 1 億個回答。
李大海所說的“爆發(fā)”，會讓平臺的內(nèi)容審核工作和社區(qū)氛圍的維護(hù)，面臨巨大的挑戰(zhàn)，如果只依靠人工，不僅效率低下，還不一定可以對內(nèi)容做出“標(biāo)準(zhǔn)化”判斷——畢竟人的決定正確率還達(dá)不到百分之百。
知乎這樣的問答社區(qū)和今日頭條類的資訊平臺不一樣，不是只完成分發(fā)和內(nèi)容審核就可以。平臺上的用戶需要看到更高質(zhì)量的回答，也就是內(nèi)容實(shí)際上產(chǎn)生的價值。
刺猬公社（ID：ciweigongshe）了解到，在知乎內(nèi)部，為了更好地選出有價值的回答，不會只依靠“點(diǎn)贊量”一個數(shù)據(jù)，那些被更多專業(yè)人士認(rèn)可的回答，獲得優(yōu)先推薦位的機(jī)會可能更大。
反過來，單個用戶在知乎的回答和在知乎上的“專業(yè)度”要得到系統(tǒng)的認(rèn)可，也和其他專業(yè)人士的認(rèn)可有關(guān)，不單單看粉絲數(shù)和獲得的點(diǎn)贊量。
不過那些調(diào)查類的產(chǎn)品測評和情感話題的回答，不在這個權(quán)重機(jī)制的考量范圍以內(nèi)，畢竟分手復(fù)合，結(jié)婚出軌，三姑六婆的家長里短，連人都弄不清楚。弄清楚了也不好說對錯，人類向往做出最符合經(jīng)濟(jì)規(guī)律的決定，但感性時常出來作祟。
很多同類產(chǎn)品正在通過運(yùn)營“高質(zhì)量回答”和“內(nèi)容價值”來瓜分知乎的問答市場，比如今日頭條的悟空問答，騰訊新聞客戶端的問答產(chǎn)品，高質(zhì)量的回答往往會成為第一波流量的來源。
但知乎的壁壘不只是“價值”，還有“社區(qū)”。社區(qū)氛圍是不能通過運(yùn)營快速積累的，能夠讓大量用戶主動提出問題、回答問題，并不容易。李大海在分享中還提到一點(diǎn)：良性討論，好好說話。
如果AI要致力于“社區(qū)氛圍”的維護(hù)，那么它需要更多地懂得人類的語言，不只是理解字面意思，更需要懂得文字背后的深意。
“陰陽怪氣一直都是情感分析領(lǐng)域的前沿問題。這種修辭手法使用正面的詞匯表達(dá)負(fù)面的含義，需要對語義有更深入的理解才能很好地識別。就像生活大爆炸里的謝爾頓，作為一個物理學(xué)家，智商排到全人類前 1%，也經(jīng)常聽不懂別人的諷刺。”李大海對AI在內(nèi)容管理上的應(yīng)用還有更高的期待。
謝爾頓現(xiàn)象充分說明了AI在學(xué)習(xí)人類語言的深意上所面對的問題。
知乎內(nèi)部有個算法機(jī)器人瓦力，目前的智能化程度已經(jīng)很高，可以實(shí)時篩查并處理社區(qū)新生產(chǎn)內(nèi)容中的不友善部分；結(jié)合用戶的舉報， 在 0.3 秒內(nèi)識別判斷該內(nèi)容是否包含不友善，并做出相應(yīng)處理；與用戶“人機(jī)配合”，快速識別并處理“答非所問”等等。
不友善會影響社區(qū)的良性討論氛圍，典型的話語包括：
“你大概是失了智，或者被驢踢了？”
“請看重點(diǎn)，腦子是個好東西，希望你也有！”
“誰給你的勇氣說這話，非蠢即壞說的就是你。”
這種相對直接的情緒語言已經(jīng)可以被識別，瓦力在經(jīng)過訓(xùn)練以后，可以自動識別不友善信息。
但AI的類人化水平還遠(yuǎn)不到讓人害怕的程度，算法機(jī)器人的所有舉動，都需要前期大量的學(xué)習(xí)和培訓(xùn)。
拿最基礎(chǔ)的內(nèi)容審核功能來說，包括瓦力在內(nèi)的算法機(jī)器人，只能對發(fā)生過的、培訓(xùn)過的內(nèi)容進(jìn)行審核。但人類社會的道德標(biāo)準(zhǔn)是不恒定的，什么是好和壞，不少過去不道德的事情，可能會解禁，同樣，也可能出現(xiàn)新的道德問題，比如未來人類和AI的關(guān)系。
這時候還是需要人工審核來做一個彌補(bǔ)，進(jìn)一步訓(xùn)練算法機(jī)器人。
李大海介紹，“之前我們邀請近五萬名知友參與‘有理由反對’功能的內(nèi)測 ——反對理由設(shè)置為‘事實(shí)錯誤’‘答非所問’‘煽動情緒’和‘不解釋’。用戶在選擇相應(yīng)理由后，瓦力會學(xué)習(xí)用戶的每一次選擇。簡單地說，知友們的專業(yè)度與判斷力，在瓦力的作用下得到了極大限度的延伸和擴(kuò)展。”
就目前來看，算法機(jī)器人很大程度上減輕了人工壓力，幫助平臺對回答進(jìn)行審核，對回答質(zhì)量進(jìn)行評估，對不好的、不友善的回答進(jìn)行處理。
從目前的發(fā)展趨勢來看，算法機(jī)器人的“擬人化”程度還會優(yōu)化。知乎最新探索的語義分析已經(jīng)開始攻克“陰陽怪氣地譏諷”問題。
李大海舉了幾個例子，比如：找這么多理由干嘛？還不是窮鬧的；你贏了，高興嗎？日語學(xué)得這么盛氣凌人實(shí)屬不易，佩服佩服。
這種諷刺性回答也會損傷用戶的提問積極性，不利于營造“良性討論，好好說話”的社區(qū)氛圍。但這個功能的難度會更高，不同關(guān)系的人之間，對同一個詞語的理解是不一樣的。陌生人罵垃圾，那是真的罵對方人品垃圾，關(guān)系親密的人之間卻不一定，那很可能是打情罵俏。
“知乎通過對龐大且高質(zhì)量用戶行為數(shù)據(jù)的分析、學(xué)習(xí)，可以對語義和用戶關(guān)系這兩方面進(jìn)行更深層次的理解和建模，我們有機(jī)會突破這個一直困擾情感分析領(lǐng)域的前沿問題。我們認(rèn)為這不但對中文互聯(lián)網(wǎng)，甚至是世界互聯(lián)網(wǎng)的討論環(huán)境都是有促進(jìn)作用的。”
這些技術(shù)優(yōu)化對于改進(jìn)用戶的使用體驗(yàn)也是有幫助的，因?yàn)闄C(jī)器對用戶的服務(wù)是全覆蓋且無差別的，只要在同一套規(guī)則之下，機(jī)器只會比人工更加公平。
就像李大海分享中所說的：“技術(shù)可以用從未有過的效率去創(chuàng)造思維的連接。讓每個個體的思考和經(jīng)驗(yàn)，極速被分享，被篩選，被總結(jié)，被轉(zhuǎn)化成為這個時代的知識。知識的生產(chǎn)方式和迭代效率會因?yàn)檫@樣的連接發(fā)生質(zhì)的改變 。”
文|鐵林
來源|刺猬公社
1.砍柴網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會明確標(biāo)注作者和來源；2.砍柴網(wǎng)的原創(chuàng)文章，請轉(zhuǎn)載時務(wù)必注明文章作者和"來源：砍柴網(wǎng)"，不尊重原創(chuàng)的行為砍柴網(wǎng)或?qū)⒆肪控?zé)任；3.作者投稿可能會經(jīng)砍柴網(wǎng)編輯修改或補(bǔ)充。
京公網(wǎng)安備 11010502032797號