大數(shù)據(jù)掃黃,是怎樣發(fā)現(xiàn)你的?
尾
擴(kuò)展閱讀
在諸多審查工具中，“AI 鑒黃”是最新也最高效的一種。
簡(jiǎn)單來(lái)說(shuō)，“AI 鑒黃”就是通過(guò)深度神經(jīng)網(wǎng)絡(luò)，按照各種描述特征來(lái)提取圖像中的關(guān)鍵點(diǎn)，比如是否出現(xiàn)皮膚裸露等等，將色情圖片與正常圖片進(jìn)行分類(lèi)。
讀到這里，大家可能會(huì)發(fā)現(xiàn)，“AI 鑒黃”還存在一些嚴(yán)峻的挑戰(zhàn)，比如：
1.色情圖像和正常圖像有很多相似之處，判斷非常復(fù)雜。游泳、比基尼等圖片中同樣也有大量裸露皮膚，被錯(cuò)誤地歸類(lèi)為色情并刪除，很可能影響用戶(hù)網(wǎng)上沖浪的體驗(yàn)。
2.判斷色情的標(biāo)準(zhǔn)不同。法官斯圖爾特曾有句名言，我無(wú)法定義色情，但當(dāng)我看到它時(shí)，我就知道了。對(duì)色情內(nèi)容的監(jiān)測(cè)也有一定的主觀(guān)性，AI 往往會(huì)根據(jù)特征對(duì)裸露身體的大衛(wèi)塑像而“痛下殺手”，卻對(duì)部分軟色情輕松放過(guò)。
3.依賴(lài)訓(xùn)練數(shù)據(jù)帶來(lái)的風(fēng)險(xiǎn)。那么，是不是給 AI 盡可能多地語(yǔ)料就能幫助它提升識(shí)別的準(zhǔn)確率呢？答案也不行?；谏疃葘W(xué)習(xí)的黑箱性，攻擊者如果知道 AI 鑒黃是根據(jù)哪些數(shù)據(jù)訓(xùn)練出來(lái)的，就可以有針對(duì)性地攻擊、對(duì)抗這個(gè)模型，使其很快失效。
這也是為什么，人工鑒黃師，即人類(lèi)審查員，依然還需要兢兢業(yè)業(yè)地在崗位上為沖浪護(hù)航。
我們創(chuàng)建了一個(gè)高質(zhì)量的技術(shù)交流群，與優(yōu)秀的人在一起，自己也會(huì)優(yōu)秀起來(lái)，趕緊 點(diǎn)擊加群 ，享受一起成長(zhǎng)的快樂(lè)。 另外，如果你最近想跳槽的話(huà)，年前我花了2周時(shí)間收集了一波大廠(chǎng)面經(jīng)，節(jié)后準(zhǔn)備跳槽的可以 點(diǎn)擊這里領(lǐng)取 ！推薦閱讀
-
掌握這些 Spring Boot 啟動(dòng)擴(kuò)展點(diǎn)，已經(jīng)超過(guò) 90% 的人了！
-
Evernote 競(jìng)品 Notesnook 正式開(kāi)源
-
用 Linux 辦公和開(kāi)發(fā)到底靠譜嗎？
你好，我是程序猿DD，10年開(kāi)發(fā)老司機(jī)、阿里云MVP、騰訊云TVP、出過(guò)書(shū)創(chuàng)過(guò)業(yè)、國(guó)企4年互聯(lián)網(wǎng)6年 。 從普通開(kāi)發(fā)到架構(gòu)師、再到合伙人。一路過(guò)來(lái)，給我最深的感受就是一定要不斷學(xué)習(xí)并關(guān)注前沿。只要你能堅(jiān)持下來(lái)，多思考、少抱怨、勤動(dòng)手，就很容易實(shí)現(xiàn)彎道超車(chē)！ 所以，不要問(wèn)我現(xiàn)在干什么是否來(lái)得及。如果你看好一個(gè)事情，一定是堅(jiān)持了才能看到希望，而不是看到希望才去堅(jiān)持。相信我，只要堅(jiān)持下來(lái)，你一定比現(xiàn)在更好！ 如果你還沒(méi)什么方向，可以先關(guān)注我， 這里會(huì)經(jīng)常分享一些前沿資訊，幫你積累彎道超車(chē)的資本。
點(diǎn)擊 領(lǐng)取2022最新10000T學(xué)習(xí)資料