四、盲區(qū)如何形成

如此看來，搜索引擎聯(lián)想詞惹出的麻煩，恐怕不能靠產(chǎn)品設(shè)計上事先根治，多數(shù)情況下是發(fā)現(xiàn)一個整改一個，跟打地鼠一樣。是什么導(dǎo)致了這樣的結(jié)果呢？

首先，與“自殺”相關(guān)的這一系列詞語，可以說在整個搜索處理流程中，并沒有達到一個極端重要的優(yōu)先級，換句話說就是還沒有成為“敏感詞”。

因為如果將“自殺”也設(shè)置為不可觸碰的最高等級詞語，你會發(fā)現(xiàn)自己連發(fā)消息，甚至發(fā)諧音字火星文代替都很困難。如果很多人自殺念頭只是一閃念，看這么麻煩，也許就偃旗息鼓了。然而，這樣做會很大程度上影響我們的日常交流，給人們帶來的不便，已經(jīng)超出了封禁可能帶來的好處。

但更重要的是：我們尋求結(jié)果的過程，從事后來看可以說是非常簡單，但是事前想要從零開始去想，那就非常困難。

這就像我們?nèi)ラ喿x一篇構(gòu)思精巧的偵探小說一樣。沒有經(jīng)驗的讀者，不知道這種小說會有什么樣的套路，面對謎題的時候會是一頭霧水的。但是當(dāng)最后真相終于揭曉的那一刻，我們再把它還原回去，就會感覺一切線索原來都預(yù)先設(shè)置好了，草蛇灰線的埋伏都是在情理之中的。

那么，為什么我們這么笨，就沒有想到呢？

其實不是我們笨，而是一些我們?nèi)粘？赡芩季S形成的慣性或者定勢，對我們造成了誤導(dǎo)。

小時候，老師用一個“棉花糖實驗”，教給我們做事要忍耐，要有毅力，抵御誘惑的道理。好像在有些地方，也被誤傳為“棒棒糖實驗”什么的。實驗內(nèi)容是給一些孩子們每人一塊棉花糖，如果他們?nèi)套?15 分鐘不吃掉糖，就能再吃一塊。當(dāng)然，馬上就吃也沒關(guān)系，但是不會有獎勵。

大多數(shù)小孩都忍不住吃掉了，或者搞小動作吃了一點點，自以為沒被發(fā)現(xiàn)，最后能堅持 15 分鐘沒吃糖的孩子只有一小部分。然后呢，這一小部分孩子長大后果然堅毅勇敢有耐心，走上人生巔峰。

然而，《大西洋月刊》雜志最新刊登的一篇文章介紹了紐約大學(xué)和加州大學(xué)一項共同研究的結(jié)果，讓人大跌眼鏡——這項原本進行于 1990 年的“棉花糖實驗”的結(jié)論可能有誤。

確實有少數(shù)孩子比其他孩子更能堅持 15 分鐘，以拿到雙份的棉花糖，但這并不是因為他們更有毅力——而是因為他們家境較好，小時候就能經(jīng)常吃到好東西，所以并不認(rèn)為棉花糖是一個稀罕物。

我讀到之后既震驚又奇怪，為什么之前我只是被動的接受了老師指定的結(jié)論，或者是“標(biāo)準(zhǔn)答案”？為什么我都沒想到從另外的角度去看，或者懷疑它？

我想，對于百度的工程師和產(chǎn)品經(jīng)理們來說，他們顯然也不是全知全能的。說到給關(guān)鍵字添加溫馨提示，他們只能是想到“自殺”，以及“我要自殺”、“我想自殺”，沿著這樣的路徑去聯(lián)想。

他們不可能想到，“自殺”后面還可以跟著“QQ群”，或者是“相約”，或者是細致入微地采用自然語言詢問怎么自殺最快且不痛苦。

五、人人都是義務(wù)測試員

歷史上，搜索引擎因聯(lián)想功能而受到的抨擊，簡直是舉不勝舉。

2009 年 6 月，國家有關(guān)部門批評谷歌中國存在“大量淫穢色情和低俗信息”，使“大量境外互聯(lián)網(wǎng)上的淫穢色情信息通過該網(wǎng)站傳播到我國境內(nèi)”。

在《焦點訪談》節(jié)目中，有關(guān)部門演示了谷歌網(wǎng)站聯(lián)想詞搜索存在提示黃色信息的問題。例如：在谷歌中國中輸入“兒子”，下面卻出現(xiàn)了例如“兒子母親不正當(dāng)關(guān)系”等十幾個選項。

事件成為谷歌宣布退出中國業(yè)務(wù)運營的直接導(dǎo)火索，此后有網(wǎng)友指出，在報道播出前幾天，相關(guān)詞匯的搜索量異常驟增，導(dǎo)致該詞匯成為熱門關(guān)鍵字，因此可以進入聯(lián)想詞列表的前列。

• 直到現(xiàn)在，谷歌、Facebook、Twitter等網(wǎng)絡(luò)平臺所遭遇的跟關(guān)鍵詞、自動聯(lián)想推薦功能有關(guān)的無妄之災(zāi)，也依然是層出不窮。

• 2016 年 12 月，在谷歌搜索框輸入“猶太人是”時，會顯示“猶太人是邪惡的”聯(lián)想詞。

• 2017 年 11 月，在YouTube搜索“how to have”時，會顯示“how to have s*x with your kids”（如何與你的孩子發(fā)生*關(guān)系，原文就有*號）。

2018 年 2 月，谷歌搜索會提供這樣一些聯(lián)想詞：“伊斯蘭主義者不是我們的朋友”、“希特勒是我的英雄”、“女權(quán)主義者是性別歧視”、“白人至上是好的”、“全球變暖是假的”。

媒體展開了憤怒的質(zhì)問：

為什么像我們記者這樣的普通用戶，都能一眼就發(fā)現(xiàn)的東西，你們谷歌有那么高明的技術(shù)手段，卻遲遲不能發(fā)現(xiàn)？

如同上面我們說過的一樣，雖然算法是普遍存在的，然而人的思維是有盲區(qū)的。所以，算法優(yōu)化的方向也是由人來指定的，那么它也只會把一個已經(jīng)知道的位置去掃描得事無巨細，卻完全管不到它和它的設(shè)計者可能想象不到的地方。

自動推薦是機器學(xué)習(xí)最典型的應(yīng)用，而這個“黑箱子”里面一向以人們不能掌握其具體運轉(zhuǎn)機制而著稱。就算歐盟通過GDPR立法，逼迫廠商公開算法細節(jié)，恐怕那公開出來的，也是沒人看的懂的天書。

長遠來看，解決混沌的方法必須是還以混沌。也就是說，用機器學(xué)習(xí)去對抗隨機Bug，是解決所有未來這些聯(lián)想問題的唯一一個看起來可行的途徑。

具體到搜索關(guān)鍵字聯(lián)想，應(yīng)對不當(dāng)聯(lián)想的方法，除了人工標(biāo)記——就連谷歌在回應(yīng)媒體報道時，都只能說用到這個方法——可能就是要采用類似神經(jīng)網(wǎng)絡(luò)翻譯的手段：通過分拆和描述一個關(guān)鍵詞、短句的具體特征，計算某類詞匯（以及其錯別字變體）跟另一些詞一同出現(xiàn)的概率，并嘗試通過人工抽樣檢查等方式下判斷來訓(xùn)練機器。

如果機器學(xué)習(xí)實在到不了這種程度，一個非常簡單的方式就是一禁了之。

例如：任何出現(xiàn)QQ群號碼的帖子——也就是“QQ、秋秋、V信”等詞語，后面加上九位或十位數(shù)字——或者是手機號這類的信息，如果和“自殺”、“燒碳”連綴的話，我們根本就不讓它出現(xiàn)在百度搜索結(jié)果里，可不可以？

還是說起來容易，做起來難。全面禁止容易“誤傷”，為用戶帶來不便，而且出了問題以后，對系統(tǒng)改動的斷點越多，查找問題源頭時就越麻煩，最后可能越改越糟。

我愿意從比較善良的角度思考，相信百度、谷歌等這些提供算法推薦的企業(yè)，并沒有因為出現(xiàn)時有發(fā)生的負(fù)面消息，而一口氣關(guān)閉推薦功能，初衷是進一步改善和優(yōu)化搜索結(jié)果，以至于讓它不斷的接近人類的思維可以達到的理想境界。