chinesefreesexvideos高潮,欧美极品少妇性运交,久久久国产一区二区三区,99久久婷婷国产综合精品,成人国产一区二区三区

APP推廣合作
聯(lián)系“鳥(niǎo)哥筆記小喬”
硬貨-如何用風(fēng)控拯救下架的小紅書(shū)
2019-08-07 15:56:33

01


這兩天互聯(lián)網(wǎng)圈最大的熱門(mén)事件是,小紅書(shū)下架了。


7月29日晚間,各大安卓應(yīng)用市場(chǎng)的小紅書(shū)APP暫時(shí)不提供下載。


作為國(guó)民級(jí)種草APP,小紅書(shū)的下架既是意料之外,也是情理之中。


意料之外在于,小紅書(shū)本身只是一個(gè)主打消費(fèi)的內(nèi)容社區(qū),本身不具有攻擊性。


情理之中在于,小紅書(shū)是C2C模式,筆記內(nèi)容可以隨意發(fā)布,任何人用任何方法都可以發(fā)布任何內(nèi)容。


正常人可以,微商可以,特殊工作者可以,黑產(chǎn)也可以。


對(duì)于一切C2C的工具類(lèi)平臺(tái)產(chǎn)品,只要能發(fā)布內(nèi)容,其實(shí)內(nèi)容失控的風(fēng)險(xiǎn)都是存在的,不僅是小紅書(shū)。


之前的即刻,Soul,乃至網(wǎng)易云音樂(lè),都存在內(nèi)容失控的情況,話題廣場(chǎng),論壇,評(píng)論區(qū),用戶(hù)昵稱(chēng),甚至私人對(duì)話,只要可以錄入文字圖片和語(yǔ)音的地方,就存在著失控的風(fēng)險(xiǎn)。


畢竟產(chǎn)品是簡(jiǎn)單的,人性是復(fù)雜的。


平臺(tái)治理和內(nèi)容安全也歸屬于大風(fēng)控的范疇,作為一名風(fēng)控從業(yè)者,在這方面,我有一些實(shí)戰(zhàn)經(jīng)驗(yàn)。


這篇文章,我打算從內(nèi)容風(fēng)控和平臺(tái)治理的角度來(lái)談?wù)勑袠I(yè)當(dāng)前的現(xiàn)狀與困境。


內(nèi)容失控,對(duì)于所有電商和社區(qū)類(lèi)產(chǎn)品而言,都是致命的。


尤其在互聯(lián)網(wǎng)文明越來(lái)越重要的今天。


02


小紅書(shū)作為C2C的工具類(lèi)平臺(tái),用戶(hù)是可以自己上傳圖片和筆記的。


同時(shí)小紅書(shū)又是Top的種草平臺(tái),用戶(hù)逛小紅書(shū)就是買(mǎi)東西的。


自由的規(guī)則配合精準(zhǔn)的潛在消費(fèi)者,二者一結(jié)合,就成了一塊超級(jí)美妙的流量蛋糕,肥的流油。


于是各種違禁黑產(chǎn),色情交易,非法醫(yī)美,就都來(lái)了。


在下架前,小紅書(shū)通過(guò)一些關(guān)鍵詞索引,可以獲得各種神奇的服務(wù),當(dāng)然現(xiàn)在已經(jīng)開(kāi)始大規(guī)模屏蔽。


例如粉毒和非法醫(yī)美;比基尼和特殊服務(wù);增高減肥和黑五類(lèi)保健品;銀行卡電話卡和黑產(chǎn)資料。


這些筆記的特點(diǎn)都是打著攻略分享的名義,往賣(mài)家的私人微信號(hào)上導(dǎo)流,然后用話術(shù)誘導(dǎo)成交。


這種自發(fā)性的C2C傳播,也是小紅書(shū)產(chǎn)品本身的最大特點(diǎn)。


很多不法商家在利用小紅書(shū)這個(gè)平臺(tái),大發(fā)橫財(cái)。


小紅書(shū)作為平臺(tái)方,有苦難言。


03


我不想去討論小紅書(shū)作為平臺(tái)有沒(méi)有責(zé)任,畢竟內(nèi)容是用戶(hù)自發(fā)的,這塊我不夠?qū)I(yè)。


我想討論的是,用什么方法可以有效治理掉這些垃圾內(nèi)容,小紅書(shū)的風(fēng)控和平臺(tái)治理們也在頭疼這件事情。


作為風(fēng)控同行,我想提一些建議,這些源自我的一些實(shí)戰(zhàn)經(jīng)驗(yàn),希望能對(duì)他們以及讀者有所幫助。


OK,小紅書(shū)當(dāng)前面臨的核心問(wèn)題是,C端用戶(hù)上傳的內(nèi)容具有很大的不可控性,里面可能夾雜了大量的違法違禁內(nèi)容,需要有效識(shí)別這些人,然后針對(duì)性屏蔽和封號(hào),在保證正常用戶(hù)體驗(yàn)的前提下,降低內(nèi)容風(fēng)險(xiǎn)。


當(dāng)然,不管是降低內(nèi)容風(fēng)險(xiǎn),還是保證用戶(hù)體驗(yàn),其核心目的都是要保證企業(yè)的商業(yè)利益最大化,這是大前提,風(fēng)控要為業(yè)務(wù)服務(wù)。


所以一切手段最終都要平衡誤殺率和ROI。


那么,我們開(kāi)始。


04


關(guān)于違規(guī)內(nèi)容屏蔽,目前業(yè)內(nèi)主要使用的是外采詞庫(kù)以及內(nèi)部維護(hù)一套動(dòng)態(tài)詞庫(kù)。


所謂外采詞庫(kù)就是有專(zhuān)門(mén)的供應(yīng)商會(huì)做涉及敏感領(lǐng)域的詞,支持API的形式直接調(diào)用,可以嵌入到用戶(hù)昵稱(chēng)錄入,文本上傳,用戶(hù)私信等模塊,只要上傳文本,都會(huì)進(jìn)行一次詞庫(kù)過(guò)濾,把一些違禁的詞給抓出來(lái)。


優(yōu)點(diǎn)是快速上線,缺點(diǎn)是詞庫(kù)是暗箱狀態(tài)(屬于供應(yīng)商),并且業(yè)務(wù)關(guān)鍵數(shù)據(jù)容易泄露(API調(diào)用的入?yún)⑷菀妆还?yīng)商拿走商用)。


我知道小紅書(shū)的供應(yīng)商是哪家,我也測(cè)試過(guò)很多家,只能說(shuō)通用詞庫(kù)是沒(méi)法依據(jù)實(shí)際業(yè)務(wù)場(chǎng)景來(lái)做精準(zhǔn)打擊的,建議小紅書(shū)自建詞庫(kù),如果沒(méi)有現(xiàn)成可配置的詞庫(kù)框架,可以使用腳本的方式來(lái)讓研發(fā)維護(hù)一套詞庫(kù),當(dāng)然最好還是做成可配置的,畢竟用腳本的話,詞多了很容易崩潰,不是長(zhǎng)久之計(jì)。


有了這一套東西后,需要一套應(yīng)用策略,包含敏感詞收集策略,敏感詞應(yīng)用策略,敏感詞處置策略。


所謂敏感詞收集策略,要解決的是如何獲取到有效的敏感詞。


很多人工智能公司吹捧所謂自然語(yǔ)義識(shí)別,用機(jī)器學(xué)習(xí)做,在這里是不好用的,我要提醒一下小紅書(shū),不要迷信機(jī)器學(xué)習(xí)。


因?yàn)闈h語(yǔ)是博大精深的,使用諧音字,變體字,火星文,以及中間夾雜各種特殊符號(hào)和空格的模式,很容易就能繞過(guò)機(jī)器。


就微信這個(gè)詞,可以變種成V信,VX,威,VV,你懂得,威X信等等等等,機(jī)器學(xué)習(xí)做不到這么精準(zhǔn)的打擊,但人的識(shí)別配合SQL以及Python代碼,可以實(shí)現(xiàn)。


在這里,建議使用實(shí)時(shí)數(shù)據(jù)庫(kù),配專(zhuān)門(mén)的數(shù)據(jù)分析師來(lái)做詞語(yǔ)收集。


數(shù)據(jù)分析師可以通過(guò)一些基礎(chǔ)的違規(guī)信息,來(lái)進(jìn)一步人工延伸出索引規(guī)則,例如微 ` 信12345,就可以提取出某些關(guān)鍵字(用微這個(gè)字來(lái)做索引),某些特殊符號(hào),甚至某些符號(hào)+數(shù)字的特征來(lái)抓。


一個(gè)熟練的風(fēng)控?cái)?shù)據(jù)分析師,一天抓出上萬(wàn)有效敏感詞不是問(wèn)題。


所謂敏感詞應(yīng)用策略,要解決的問(wèn)題是這些敏感詞用于哪些領(lǐng)域。


當(dāng)你有了一個(gè)敏感詞庫(kù)時(shí),你需要對(duì)每一個(gè)詞進(jìn)行打標(biāo)簽,例如殺人這個(gè)詞是A類(lèi)標(biāo)簽,吃奶這個(gè)詞是B類(lèi)標(biāo)簽,不同的業(yè)務(wù)場(chǎng)景以及電商品類(lèi),要使用完全不同的標(biāo)簽。


例如牛奶類(lèi)的筆記,用吃奶這個(gè)詞就會(huì)誤傷很大。


這里需要做的是,給每一個(gè)場(chǎng)景的業(yè)務(wù)都打上標(biāo)簽,然后依據(jù)標(biāo)簽來(lái)使用敏感詞庫(kù)中的詞類(lèi)目。


例如口紅類(lèi)筆記要用ABC標(biāo)簽的詞。


例如旗袍類(lèi)的筆記要用CDF標(biāo)簽的詞等等。


至于如何拆解品類(lèi)打標(biāo)和敏感詞,這個(gè)就不展開(kāi)了,展開(kāi)必是長(zhǎng)篇大論。


所謂敏感詞處置策略,要解決的問(wèn)題是內(nèi)容命中了敏感詞之后,要如何處置這些內(nèi)容。


這里其實(shí)也牽涉對(duì)敏感詞的打標(biāo),主要是設(shè)置敏感詞處置權(quán)重。


例如黃恐暴類(lèi)的敏感詞,標(biāo)簽對(duì)應(yīng)的處置手段應(yīng)該是直接屏蔽+封號(hào)或者直接禁止發(fā)布。


例如疑似推廣微信號(hào)的標(biāo)簽,對(duì)應(yīng)的處置手段應(yīng)該是屏蔽+禁言,或者禁止發(fā)布。


例如命中了一些權(quán)重較弱的敏感詞或者敏感字,對(duì)應(yīng)的處置手段應(yīng)該是轉(zhuǎn)人工審核,再發(fā)布。


當(dāng)然這里只是舉幾個(gè)簡(jiǎn)單的例子,敏感詞的應(yīng)用方法還有很多,不過(guò)這個(gè)方向是目前比較成熟的模式。


除卻敏感詞之外,小紅書(shū)的筆記中還含有大量的圖片類(lèi)內(nèi)容,這些圖片類(lèi)內(nèi)容目前主要的問(wèn)題有2個(gè)。


第一個(gè)是黃恐暴類(lèi)圖片,圖片本身有問(wèn)題。


第二個(gè)是圖片本身沒(méi)問(wèn)題,但是圖片里面的東西有問(wèn)題,例如圖片里面就有VX:12345等字跡或者水印。


對(duì)于前者,建議直接購(gòu)買(mǎi)現(xiàn)成的圖片識(shí)別服務(wù),阿里騰訊都有成熟的服務(wù)。


對(duì)于后者,可以使用OCR把圖片轉(zhuǎn)成文字,然后使用敏感詞策略來(lái)進(jìn)行處理。


以上是對(duì)于內(nèi)容本身的風(fēng)控思路,需要注意的是,這個(gè)需要投入大量的資源,尤其是人工審核資源,今日頭條就有數(shù)千人專(zhuān)門(mén)做內(nèi)容審核,對(duì)于內(nèi)容電商來(lái)說(shuō),這個(gè)不能省。


而且內(nèi)容攻防應(yīng)該是動(dòng)態(tài)的,不存在一勞永逸的事情,需要做好持久戰(zhàn)的準(zhǔn)備,漢語(yǔ)就是這么博大精深。


05


內(nèi)容風(fēng)控很重要,但其實(shí)只是表層,而且永遠(yuǎn)難以做到窮舉,真的一刀切下去,會(huì)誤傷大量的正常用戶(hù),這對(duì)于用戶(hù)體驗(yàn)和公司的商業(yè)價(jià)值而言都是損失。


比內(nèi)容風(fēng)控更重要的,是底層風(fēng)控,從用戶(hù)注冊(cè)到發(fā)生第一次行為(例如發(fā)布筆記或者給某個(gè)筆記點(diǎn)贊或者評(píng)論或者分享),都需要做更深入的風(fēng)險(xiǎn)管理。


除了要管別人發(fā)了什么內(nèi)容,同樣還要管是哪些【人】發(fā)了這些內(nèi)容。


通過(guò)敏感詞體系,可以對(duì)大量的內(nèi)容筆記來(lái)進(jìn)行標(biāo)簽,分類(lèi)出正常筆記,可疑筆記,搗亂筆記,沙雕筆記等等等等等,這些統(tǒng)稱(chēng)為Y。


風(fēng)控策略的基礎(chǔ)邏輯是F(x)=Y,X是指特征,F(xiàn)是指算法or策略,Y是指效果。


當(dāng)你有了Y之后,就等于知道了答案。


然后去找這些異常的筆記,都是誰(shuí)發(fā)布的,這些發(fā)布的賬號(hào)的特征(X)是什么。


一般常見(jiàn)的賬號(hào)特征有數(shù)百個(gè)維度,例如注冊(cè)時(shí)間,年齡,性別,發(fā)布時(shí)間,常用標(biāo)簽,ip地址,設(shè)備號(hào)(imac,imei,device id),手機(jī)號(hào),性別,歸屬地,APP來(lái)源(華為市場(chǎng),小米市場(chǎng),APP Store),登錄模式(APP,小程序,H5),手機(jī)型號(hào),GPS地址,LBS區(qū)域,用戶(hù)注冊(cè)來(lái)源(自來(lái)水,A活動(dòng)推廣,市場(chǎng)投放轉(zhuǎn)化,CPA),歷史行為(點(diǎn)贊數(shù),關(guān)注人),瀏覽行為,等等等等等,這些信息有的來(lái)自于APP埋點(diǎn),有的來(lái)自于依據(jù)原有特征推算出的衍生特征。


特征工程是風(fēng)控的核心之一,重要性不亞于策略應(yīng)用,好的數(shù)據(jù)是一切的基礎(chǔ)。


通過(guò)敏感詞找到Y(jié),然后利用Y來(lái)反推命中的X,然后得出應(yīng)用策略-F。


案例1,假如小紅書(shū)發(fā)現(xiàn)某個(gè)整容類(lèi)的異常筆記,大部分發(fā)布者和點(diǎn)贊者的IP都是相同的或者都是同一個(gè)號(hào)段的,那么完全可以設(shè)置策略屏蔽這個(gè)IP段發(fā)這個(gè)類(lèi)型的筆記。


案例2,假如小紅書(shū)發(fā)現(xiàn)某些有問(wèn)題的筆記,都指向同一個(gè)微信號(hào),那么就把發(fā)布過(guò)這個(gè)微信號(hào)的賬號(hào)全都封了,連誤殺都沒(méi)有。


案例3,假如小紅書(shū)發(fā)現(xiàn)某些有問(wèn)題的筆記,大部分發(fā)布者和點(diǎn)贊者都是24小時(shí)內(nèi)注冊(cè)的,那么完全可以設(shè)置注冊(cè)時(shí)間XXX時(shí)間內(nèi),不允許在XX領(lǐng)域發(fā)筆記。


類(lèi)似的規(guī)則,在成熟的平臺(tái)治理中,會(huì)有數(shù)十萬(wàn)條,我做過(guò)設(shè)計(jì)和維護(hù)。


這一切的規(guī)則,都要做成動(dòng)態(tài)可配置的,做成決策引擎的模式,風(fēng)控只需要拖拉拽這些標(biāo)簽,然后自己寫(xiě)比對(duì)符和閾值,再配置處置手段,就可以生效。


例如一條規(guī)則,禁止注冊(cè)時(shí)間在24小時(shí)內(nèi)的女性用戶(hù)發(fā)布比基尼筆記。


拆解起來(lái)就是。


注冊(cè)時(shí)間<24小時(shí),


且 性別標(biāo)簽=女,


且筆記標(biāo)簽=比基尼


則,禁止發(fā)布,


且,彈出文案【半佛仙人你別比比了】。


把這些做成是否的標(biāo)簽,可以自由配置,快速上線。


06


夾雜敏感詞策略和決策引擎中間,還應(yīng)該有一層基于【賬戶(hù)】維度的用戶(hù)關(guān)系網(wǎng)絡(luò)以及實(shí)時(shí)監(jiān)控和干預(yù)機(jī)制,用圖挖掘來(lái)做。


所謂關(guān)系網(wǎng)絡(luò),是指不同賬戶(hù)間的關(guān)系,由點(diǎn)和線組成。


例如A賬戶(hù)給B賬戶(hù)的筆記點(diǎn)贊或者評(píng)價(jià),就會(huì)形成一條關(guān)系。


反應(yīng)在網(wǎng)絡(luò)中就是A點(diǎn)和B點(diǎn)之間出現(xiàn)了一條關(guān)系線(A點(diǎn)贊/評(píng)論B)。


再例如A賬戶(hù)和C賬戶(hù)同時(shí)給B賬戶(hù)的筆記點(diǎn)贊或者評(píng)價(jià),就會(huì)形成多條關(guān)系線。


反應(yīng)在網(wǎng)絡(luò)中就是A點(diǎn)到B點(diǎn)(點(diǎn)贊串聯(lián)),C點(diǎn)到B點(diǎn)(點(diǎn)贊串聯(lián)),A點(diǎn)到C點(diǎn)(都給B點(diǎn)過(guò)贊)。


關(guān)系網(wǎng)絡(luò),是對(duì)于批量作弊賬戶(hù)的大殺器。


在實(shí)際業(yè)務(wù)中,通過(guò)設(shè)置點(diǎn)和線的規(guī)則,可以有效攔截批量異常行為。


例如在同一個(gè)時(shí)間,出現(xiàn)了大量有關(guān)聯(lián)的賬戶(hù)(相同IP,相同操作頻率,相同GPS等),與某幾個(gè)筆記或者賬戶(hù)出現(xiàn)了可疑關(guān)聯(lián)(批量點(diǎn)贊),就可以進(jìn)行攔截。


例如在近10分鐘內(nèi),整個(gè)的流量池出現(xiàn)了波動(dòng)異常(分均用戶(hù)點(diǎn)贊數(shù)超過(guò)了平均值XX倍),則可以觸發(fā)警報(bào),把溢出流量關(guān)聯(lián)的內(nèi)容進(jìn)行屏蔽等等等。


關(guān)系網(wǎng)絡(luò)更多是橫向的對(duì)比以及大盤(pán)的監(jiān)控,涉及賬戶(hù)管控,不僅要看橫向,更要看縱向。


所謂橫向,是指同一個(gè)時(shí)間里,賬戶(hù)A和賬戶(hù)BCDEF是否有相同的行為或者異常的關(guān)聯(lián),所有人放在一起來(lái)比不同。


所謂縱向,是指同一個(gè)賬戶(hù),在不同的時(shí)間里,進(jìn)行了怎樣的操作。


例如A賬戶(hù),過(guò)去六個(gè)月都是給一些正常的筆記點(diǎn)贊,瀏覽和評(píng)論都很正常,但是近3天,在密集的跟一些異常的筆記產(chǎn)生互動(dòng)和分享。


這就是賬戶(hù)出現(xiàn)了問(wèn)題,與之前的操作不同,需要對(duì)賬戶(hù)發(fā)出警告,要么屏蔽功能,要么要求實(shí)名。


橫向是用其他用戶(hù)的特征比對(duì)一個(gè)用戶(hù),縱向是指用戶(hù)過(guò)去的特征比對(duì)當(dāng)前的行為。


縱橫之術(shù)是對(duì)抗黑產(chǎn)養(yǎng)號(hào)與批量作弊的屠龍術(shù)。


07


敏感詞策略和決策引擎外,還需要做的是賬戶(hù)準(zhǔn)入和APP加固。


所謂賬戶(hù)準(zhǔn)入體系,是指在用戶(hù)注冊(cè)階段就攔截掉大量黑產(chǎn)用戶(hù)。


大量發(fā)布垃圾筆記和違禁筆記的賬號(hào),往往都是接碼平臺(tái)批量注冊(cè)了,不是很多人想到一堆人拿著幾百個(gè)手機(jī)在操作,微商很賺錢(qián)的好嗎,不會(huì)干這種low事。


這就代表著,這些注冊(cè)手機(jī)號(hào)本身,就有足夠多的問(wèn)題,因?yàn)楹诋a(chǎn)們拿手機(jī)號(hào)也有成本,往往會(huì)多次利用。


這個(gè)手機(jī)號(hào)在小紅書(shū)耍流氓之前,可能已經(jīng)在其他平臺(tái)被教育過(guò)了。


一般在注冊(cè)階段,建議對(duì)手機(jī)號(hào)加一層準(zhǔn)入規(guī)則,常規(guī)的手段是禁止小號(hào)和虛擬號(hào)注冊(cè),進(jìn)一步的手段就是采購(gòu)阿里云和騰訊天御的注冊(cè)反欺詐評(píng)分,輸入一個(gè)手機(jī)號(hào)+注冊(cè)IP,可以返給一個(gè)評(píng)分,分?jǐn)?shù)高于XXX分的時(shí)候,拒絕用戶(hù)注冊(cè),或者強(qiáng)制要求實(shí)名(人臉或者銀行卡)。


阿里有最全的電商黑產(chǎn)庫(kù),騰訊有最全的社交黑產(chǎn)庫(kù),網(wǎng)易有最全的游戲黑產(chǎn)庫(kù),都是T+0實(shí)時(shí)更新的,土豪一些的公司可以都用,其他自便。


反正只要風(fēng)控能根據(jù)異常筆記抓到注冊(cè)賬戶(hù)手機(jī)號(hào)就行,拿這些去測(cè)各家的數(shù)據(jù)準(zhǔn)確度與誤殺率,并不困難。


這個(gè)操作在業(yè)內(nèi)叫做加盾,有這一層盾,基本上可以擋掉市場(chǎng)上9成5的黑產(chǎn),大多數(shù)黑產(chǎn)是沒(méi)有能力繞盾的,因?yàn)橘Y金不夠雄厚,手機(jī)卡更新速度上不去。


賬戶(hù)準(zhǔn)入體系外,還需要的就是APP加固。


所謂APP加固,是指對(duì)于APP本身的代碼,接口做封裝和動(dòng)態(tài)加密,攔截接口直接寫(xiě)入內(nèi)容,代碼破解,沙盒,GPS更改等一系列攻擊行為,簡(jiǎn)單理解為是反外掛也可以。


很多APP對(duì)于用戶(hù)的錄入內(nèi)容其實(shí)都是有限制的,很多APP甚至不允許用戶(hù)錄入內(nèi)容,只能選擇幾個(gè)特定的標(biāo)簽。


但是黑產(chǎn)在進(jìn)行違規(guī)內(nèi)容滲透的時(shí)候,往往不是手動(dòng)填寫(xiě)的,而是直接反編譯本地APP代碼,攔截接口的動(dòng)態(tài)信息,然后調(diào)用接口錄入。


例如正常人肯定打不出一些特殊符號(hào),但是通過(guò)接口用機(jī)器寫(xiě)入,想寫(xiě)什么,就寫(xiě)什么。


小紅書(shū)社區(qū)中的大量明晃晃的違規(guī)內(nèi)容,很有可能是由于接口被攻破,遭遇大量的機(jī)器寫(xiě)入,這個(gè)在黑產(chǎn)攻防中很常見(jiàn)。


通過(guò)機(jī)器大量灌入垃圾內(nèi)容導(dǎo)致競(jìng)爭(zhēng)對(duì)手出現(xiàn)問(wèn)題,在業(yè)內(nèi)并不稀奇。


所以在賬號(hào)準(zhǔn)入外,也要主要APP本身的加固措施。


08


敏感詞過(guò)濾,決策引擎,加盾,APP加固,這4套都做好(需要坐很久很久,這是一個(gè)很大的工程),是不是就高枕無(wú)憂(yōu)了?


不是的,作為內(nèi)容社區(qū),小紅書(shū)還需要更重要的一套機(jī)制,就是用戶(hù)內(nèi)容舉報(bào)機(jī)制。


只靠小紅書(shū)自己,累死他們也不可能擋掉一切的垃圾內(nèi)容,而且使用策略也好,規(guī)則也好,閾值設(shè)置比較寬松的話,總有漏網(wǎng)之魚(yú)。


閾值設(shè)置過(guò)于嚴(yán)格的話,總會(huì)有被誤殺的用戶(hù),被誤殺的用戶(hù)還會(huì)去各個(gè)論壇和網(wǎng)絡(luò)媒體發(fā)聲,去譴責(zé)小紅書(shū)。


在這個(gè)好事不出門(mén),壞事傳千里的年代,這種負(fù)面信息對(duì)于小紅書(shū)也是一種傷害。


而小紅書(shū)最大的特點(diǎn)就是用戶(hù)自發(fā)的參與度高,所以一套完善的用戶(hù)舉報(bào)機(jī)制是非常高效的平臺(tái)行為。


這套機(jī)制不是加一個(gè)所謂的按鈕點(diǎn)擊這么簡(jiǎn)單,用戶(hù)看到的可能就是一個(gè)舉報(bào)按鈕。


但小紅書(shū)需要做的是針對(duì)整個(gè)舉報(bào)設(shè)計(jì)完整的SOP(標(biāo)準(zhǔn)作業(yè)流程),如何判定舉報(bào)是否有效,不同舉報(bào)內(nèi)容的確認(rèn)標(biāo)準(zhǔn)以及處罰標(biāo)準(zhǔn),舉報(bào)應(yīng)在什么時(shí)間內(nèi)生效,應(yīng)該給與舉報(bào)用戶(hù)怎樣的獎(jiǎng)勵(lì)與支持增加積極性等等等等,這也是一個(gè)浩大的工程。


但對(duì)于內(nèi)容社區(qū)而言,用戶(hù)自發(fā)舉報(bào)是非常好用的東西。


09


以上內(nèi)容只是基礎(chǔ)的平臺(tái)治理體系,具體的落地方案,執(zhí)行計(jì)劃,原始變量及閾值切分等等,受限于保密協(xié)議和飯碗的原因,我不方便講更多,但足夠給風(fēng)控同行做參考了。


而且這些基礎(chǔ)體系,在實(shí)際操作中,還面臨著諸多實(shí)務(wù)性的難題以及場(chǎng)景契合的問(wèn)題,很多問(wèn)題都不是簡(jiǎn)單的風(fēng)控問(wèn)題,需要整個(gè)公司的戰(zhàn)略和定位一起跟上。


例如在做特征工程的時(shí)候,很多數(shù)據(jù)要求實(shí)時(shí)性,數(shù)倉(cāng)部門(mén)如何滿(mǎn)足數(shù)據(jù)完整性?


例如做策略的時(shí)候,需要大量的標(biāo)準(zhǔn)數(shù)據(jù),數(shù)據(jù)產(chǎn)品怎么依據(jù)業(yè)務(wù)需求設(shè)計(jì)表結(jié)構(gòu)以及數(shù)據(jù)清洗?


例如評(píng)估策略效果的時(shí)候,風(fēng)控產(chǎn)品如何設(shè)計(jì)分流灰度來(lái)做冠軍挑戰(zhàn)者(ABtest)實(shí)現(xiàn)效益最大化?


這樣的問(wèn)題還有很多,其中很多都是牽一發(fā)而動(dòng)全身,公司的資源是有限的,公司里也不是只有風(fēng)控,大家要靠著業(yè)務(wù)和營(yíng)銷(xiāo)吃飯的。


這些問(wèn)題,需要整個(gè)公司從上而下認(rèn)識(shí)到這個(gè)風(fēng)險(xiǎn),整體考量業(yè)務(wù)和風(fēng)控的平衡,爭(zhēng)取公司利益的最大化。


在這個(gè)互聯(lián)網(wǎng)文明大趨勢(shì)的浪潮下,內(nèi)容風(fēng)控將是很多公司的命門(mén),而諸多先行者早就靠自己的積累吃盡了早期野蠻生長(zhǎng)的紅利,同時(shí)樹(shù)立起了極強(qiáng)的風(fēng)控壁壘。


這些壁壘需要大量的時(shí)間和資源投入,不是一朝一夕就有的,全部都是非賣(mài)品。


這對(duì)于后來(lái)者而言,是非常難的一件事。


但熬過(guò)這一劫,就是羽化登仙。


之所以我今天對(duì)小紅書(shū)說(shuō)了這么多,并不是我喜歡小紅書(shū)。


而是我覺(jué)得,一個(gè)活在巨頭陰影下的互聯(lián)網(wǎng)江湖,有點(diǎn)太寂寞了。

運(yùn)營(yíng)那些事兒
分享到朋友圈
收藏
收藏
評(píng)分

綜合評(píng)分:

我的評(píng)分
Xinstall 15天會(huì)員特權(quán)
Xinstall是專(zhuān)業(yè)的數(shù)據(jù)分析服務(wù)商,幫企業(yè)追蹤渠道安裝來(lái)源、裂變拉新統(tǒng)計(jì)、廣告流量指導(dǎo)等,廣泛應(yīng)用于廣告效果統(tǒng)計(jì)、APP地推與CPS/CPA歸屬統(tǒng)計(jì)等方面。
20羽毛
立即兌換
一書(shū)一課30天會(huì)員體驗(yàn)卡
領(lǐng)30天VIP會(huì)員,110+門(mén)職場(chǎng)大課,250+本精讀好書(shū)免費(fèi)學(xué)!助你提升職場(chǎng)力!
20羽毛
立即兌換
順豐同城急送全國(guó)通用20元優(yōu)惠券
順豐同城急送是順豐推出的平均1小時(shí)送全城的即時(shí)快送服務(wù),專(zhuān)業(yè)安全,準(zhǔn)時(shí)送達(dá)!
30羽毛
立即兌換
運(yùn)營(yíng)那些事兒
運(yùn)營(yíng)那些事兒
發(fā)表文章43451
確認(rèn)要消耗 羽毛購(gòu)買(mǎi)
硬貨-如何用風(fēng)控拯救下架的小紅書(shū)嗎?
考慮一下
很遺憾,羽毛不足
我知道了

我們致力于提供一個(gè)高質(zhì)量?jī)?nèi)容的交流平臺(tái)。為落實(shí)國(guó)家互聯(lián)網(wǎng)信息辦公室“依法管網(wǎng)、依法辦網(wǎng)、依法上網(wǎng)”的要求,為完善跟帖評(píng)論自律管理,為了保護(hù)用戶(hù)創(chuàng)造的內(nèi)容、維護(hù)開(kāi)放、真實(shí)、專(zhuān)業(yè)的平臺(tái)氛圍,我們團(tuán)隊(duì)將依據(jù)本公約中的條款對(duì)注冊(cè)用戶(hù)和發(fā)布在本平臺(tái)的內(nèi)容進(jìn)行管理。平臺(tái)鼓勵(lì)用戶(hù)創(chuàng)作、發(fā)布優(yōu)質(zhì)內(nèi)容,同時(shí)也將采取必要措施管理違法、侵權(quán)或有其他不良影響的網(wǎng)絡(luò)信息。


一、根據(jù)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《中華人民共和國(guó)未成年人保護(hù)法》等法律法規(guī),對(duì)以下違法、不良信息或存在危害的行為進(jìn)行處理。
1. 違反法律法規(guī)的信息,主要表現(xiàn)為:
    1)反對(duì)憲法所確定的基本原則;
    2)危害國(guó)家安全,泄露國(guó)家秘密,顛覆國(guó)家政權(quán),破壞國(guó)家統(tǒng)一,損害國(guó)家榮譽(yù)和利益;
    3)侮辱、濫用英烈形象,歪曲、丑化、褻瀆、否定英雄烈士事跡和精神,以侮辱、誹謗或者其他方式侵害英雄烈士的姓名、肖像、名譽(yù)、榮譽(yù);
    4)宣揚(yáng)恐怖主義、極端主義或者煽動(dòng)實(shí)施恐怖活動(dòng)、極端主義活動(dòng);
    5)煽動(dòng)民族仇恨、民族歧視,破壞民族團(tuán)結(jié);
    6)破壞國(guó)家宗教政策,宣揚(yáng)邪教和封建迷信;
    7)散布謠言,擾亂社會(huì)秩序,破壞社會(huì)穩(wěn)定;
    8)宣揚(yáng)淫穢、色情、賭博、暴力、兇殺、恐怖或者教唆犯罪;
    9)煽動(dòng)非法集會(huì)、結(jié)社、游行、示威、聚眾擾亂社會(huì)秩序;
    10)侮辱或者誹謗他人,侵害他人名譽(yù)、隱私和其他合法權(quán)益;
    11)通過(guò)網(wǎng)絡(luò)以文字、圖片、音視頻等形式,對(duì)未成年人實(shí)施侮辱、誹謗、威脅或者惡意損害未成年人形象進(jìn)行網(wǎng)絡(luò)欺凌的;
    12)危害未成年人身心健康的;
    13)含有法律、行政法規(guī)禁止的其他內(nèi)容;


2. 不友善:不尊重用戶(hù)及其所貢獻(xiàn)內(nèi)容的信息或行為。主要表現(xiàn)為:
    1)輕蔑:貶低、輕視他人及其勞動(dòng)成果;
    2)誹謗:捏造、散布虛假事實(shí),損害他人名譽(yù);
    3)嘲諷:以比喻、夸張、侮辱性的手法對(duì)他人或其行為進(jìn)行揭露或描述,以此來(lái)激怒他人;
    4)挑釁:以不友好的方式激怒他人,意圖使對(duì)方對(duì)自己的言論作出回應(yīng),蓄意制造事端;
    5)羞辱:貶低他人的能力、行為、生理或身份特征,讓對(duì)方難堪;
    6)謾罵:以不文明的語(yǔ)言對(duì)他人進(jìn)行負(fù)面評(píng)價(jià);
    7)歧視:煽動(dòng)人群歧視、地域歧視等,針對(duì)他人的民族、種族、宗教、性取向、性別、年齡、地域、生理特征等身份或者歸類(lèi)的攻擊;
    8)威脅:許諾以不良的后果來(lái)迫使他人服從自己的意志;


3. 發(fā)布垃圾廣告信息:以推廣曝光為目的,發(fā)布影響用戶(hù)體驗(yàn)、擾亂本網(wǎng)站秩序的內(nèi)容,或進(jìn)行相關(guān)行為。主要表現(xiàn)為:
    1)多次發(fā)布包含售賣(mài)產(chǎn)品、提供服務(wù)、宣傳推廣內(nèi)容的垃圾廣告。包括但不限于以下幾種形式:
    2)單個(gè)帳號(hào)多次發(fā)布包含垃圾廣告的內(nèi)容;
    3)多個(gè)廣告帳號(hào)互相配合發(fā)布、傳播包含垃圾廣告的內(nèi)容;
    4)多次發(fā)布包含欺騙性外鏈的內(nèi)容,如未注明的淘寶客鏈接、跳轉(zhuǎn)網(wǎng)站等,誘騙用戶(hù)點(diǎn)擊鏈接
    5)發(fā)布大量包含推廣鏈接、產(chǎn)品、品牌等內(nèi)容獲取搜索引擎中的不正當(dāng)曝光;
    6)購(gòu)買(mǎi)或出售帳號(hào)之間虛假地互動(dòng),發(fā)布干擾網(wǎng)站秩序的推廣內(nèi)容及相關(guān)交易。
    7)發(fā)布包含欺騙性的惡意營(yíng)銷(xiāo)內(nèi)容,如通過(guò)偽造經(jīng)歷、冒充他人等方式進(jìn)行惡意營(yíng)銷(xiāo);
    8)使用特殊符號(hào)、圖片等方式規(guī)避垃圾廣告內(nèi)容審核的廣告內(nèi)容。


4. 色情低俗信息,主要表現(xiàn)為:
    1)包含自己或他人性經(jīng)驗(yàn)的細(xì)節(jié)描述或露骨的感受描述;
    2)涉及色情段子、兩性笑話的低俗內(nèi)容;
    3)配圖、頭圖中包含庸俗或挑逗性圖片的內(nèi)容;
    4)帶有性暗示、性挑逗等易使人產(chǎn)生性聯(lián)想;
    5)展現(xiàn)血腥、驚悚、殘忍等致人身心不適;
    6)炒作緋聞、丑聞、劣跡等;
    7)宣揚(yáng)低俗、庸俗、媚俗內(nèi)容。


5. 不實(shí)信息,主要表現(xiàn)為:
    1)可能存在事實(shí)性錯(cuò)誤或者造謠等內(nèi)容;
    2)存在事實(shí)夸大、偽造虛假經(jīng)歷等誤導(dǎo)他人的內(nèi)容;
    3)偽造身份、冒充他人,通過(guò)頭像、用戶(hù)名等個(gè)人信息暗示自己具有特定身份,或與特定機(jī)構(gòu)或個(gè)人存在關(guān)聯(lián)。


6. 傳播封建迷信,主要表現(xiàn)為:
    1)找人算命、測(cè)字、占卜、解夢(mèng)、化解厄運(yùn)、使用迷信方式治??;
    2)求推薦算命看相大師;
    3)針對(duì)具體風(fēng)水等問(wèn)題進(jìn)行求助或咨詢(xún);
    4)問(wèn)自己或他人的八字、六爻、星盤(pán)、手相、面相、五行缺失,包括通過(guò)占卜方法問(wèn)婚姻、前程、運(yùn)勢(shì),東西寵物丟了能不能找回、取名改名等;


7. 文章標(biāo)題黨,主要表現(xiàn)為:
    1)以各種夸張、獵奇、不合常理的表現(xiàn)手法等行為來(lái)誘導(dǎo)用戶(hù);
    2)內(nèi)容與標(biāo)題之間存在嚴(yán)重不實(shí)或者原意扭曲;
    3)使用夸張標(biāo)題,內(nèi)容與標(biāo)題嚴(yán)重不符的。


8.「飯圈」亂象行為,主要表現(xiàn)為:
    1)誘導(dǎo)未成年人應(yīng)援集資、高額消費(fèi)、投票打榜
    2)粉絲互撕謾罵、拉踩引戰(zhàn)、造謠攻擊、人肉搜索、侵犯隱私
    3)鼓動(dòng)「飯圈」粉絲攀比炫富、奢靡享樂(lè)等行為
    4)以號(hào)召粉絲、雇用網(wǎng)絡(luò)水軍、「養(yǎng)號(hào)」形式刷量控評(píng)等行為
    5)通過(guò)「蹭熱點(diǎn)」、制造話題等形式干擾輿論,影響傳播秩序


9. 其他危害行為或內(nèi)容,主要表現(xiàn)為:
    1)可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好影響未成年人身心健康的;
    2)不當(dāng)評(píng)述自然災(zāi)害、重大事故等災(zāi)難的;
    3)美化、粉飾侵略戰(zhàn)爭(zhēng)行為的;
    4)法律、行政法規(guī)禁止,或可能對(duì)網(wǎng)絡(luò)生態(tài)造成不良影響的其他內(nèi)容。


二、違規(guī)處罰
本網(wǎng)站通過(guò)主動(dòng)發(fā)現(xiàn)和接受用戶(hù)舉報(bào)兩種方式收集違規(guī)行為信息。所有有意的降低內(nèi)容質(zhì)量、傷害平臺(tái)氛圍及欺凌未成年人或危害未成年人身心健康的行為都是不能容忍的。
當(dāng)一個(gè)用戶(hù)發(fā)布違規(guī)內(nèi)容時(shí),本網(wǎng)站將依據(jù)相關(guān)用戶(hù)違規(guī)情節(jié)嚴(yán)重程度,對(duì)帳號(hào)進(jìn)行禁言 1 天、7 天、15 天直至永久禁言或封停賬號(hào)的處罰。當(dāng)涉及欺凌未成年人、危害未成年人身心健康、通過(guò)作弊手段注冊(cè)、使用帳號(hào),或者濫用多個(gè)帳號(hào)發(fā)布違規(guī)內(nèi)容時(shí),本網(wǎng)站將加重處罰。


三、申訴
隨著平臺(tái)管理經(jīng)驗(yàn)的不斷豐富,本網(wǎng)站出于維護(hù)本網(wǎng)站氛圍和秩序的目的,將不斷完善本公約。
如果本網(wǎng)站用戶(hù)對(duì)本網(wǎng)站基于本公約規(guī)定做出的處理有異議,可以通過(guò)「建議反饋」功能向本網(wǎng)站進(jìn)行反饋。
(規(guī)則的最終解釋權(quán)歸屬本網(wǎng)站所有)

我知道了
恭喜你~答對(duì)了
+5羽毛
下一次認(rèn)真讀哦
成功推薦給其他人
+ 10羽毛
評(píng)論成功且進(jìn)入審核!審核通過(guò)后,您將獲得10羽毛的獎(jiǎng)勵(lì)。分享本文章給好友閱讀最高再得15羽毛~
(羽毛可至 "羽毛精選" 兌換禮品)
好友微信掃一掃
復(fù)制鏈接