歡迎來(lái)到合肥浪訊網(wǎng)絡(luò)科技有限公司官網(wǎng)
咨詢服務(wù)熱線：400-099-8848
咨詢服務(wù)熱線：400-099-8848
設(shè)計(jì)思維與出稿方法 談出稿方法論 |
| 發(fā)布時(shí)間：2016-10-13 文章來(lái)源： 瀏覽次數(shù)：2920 |
| 現(xiàn)在人們上網(wǎng)購(gòu)物都習(xí)慣了系統(tǒng)給出的“猜你(還會(huì))喜歡”，有時(shí)候它似乎比你自己都還要了解你。推薦系統(tǒng)畢竟是怎樣“猜”中你心思的呢? (文/Joseph A. Konstan & John Riedl)如今，到網(wǎng)上購(gòu)物的人已經(jīng)習(xí)慣了收到系統(tǒng)為他們做出的個(gè)性化推薦。Netflix 會(huì)推薦你可能會(huì)喜歡看的視頻。TiVo 會(huì)自動(dòng)把節(jié)目錄下來(lái)，假如你感愛(ài)好就可以看。Pandora 會(huì)通過(guò)猜測(cè)我們想要聽(tīng)什么歌曲從而天生個(gè)性化的音樂(lè)流。 所有這些推薦結(jié)果都來(lái)自于各式各樣的推薦系統(tǒng)。它們依賴計(jì)算機(jī)算法運(yùn)行，根據(jù)顧客的瀏覽、搜索、下單和喜好，為顧客選擇他們可能會(huì)喜歡、有可能會(huì)購(gòu)買(mǎi)的商品，從而為消費(fèi)者服務(wù)。推薦系統(tǒng)的設(shè)計(jì)初衷是匡助在線零售商進(jìn)步銷售額，現(xiàn)在這是一塊兒規(guī)模巨大且不斷增長(zhǎng)的業(yè)務(wù)。與此同時(shí)，推薦系統(tǒng)的開(kāi)發(fā)也已經(jīng)從上世紀(jì) 90 年代中期只有幾十個(gè)人研究，發(fā)展到了今天擁有數(shù)百名研究職員，分別供職于各高校、大型在線零售商和數(shù)十家專注于這類系統(tǒng)的其他企業(yè)。 這些年來(lái)，推薦系統(tǒng)有了相稱的進(jìn)展。開(kāi)始時(shí)它們還相對(duì)較為粗拙，往往對(duì)行為做出不正確的猜測(cè);但跟著更多的和不同類型的網(wǎng)站用戶數(shù)據(jù)變得可用，推薦系統(tǒng)得以將立異算法應(yīng)用于這些數(shù)據(jù)之上，它們迅速得到了改善。今天，推薦系統(tǒng)都是些極其復(fù)雜和精專的系統(tǒng)，經(jīng)�？雌饋�(lái)比你自己還要了解你。同時(shí)，推薦系統(tǒng)正在向零售網(wǎng)站以外的領(lǐng)域拓展：大學(xué)用它們來(lái)引導(dǎo)學(xué)生選課，移動(dòng)電話公司靠它們來(lái)猜測(cè)哪些用戶有可能轉(zhuǎn)投另一家供給商，會(huì)議主辦方也測(cè)試過(guò)用它們來(lái)分配論文給審稿專家。 我們兩人從推薦系統(tǒng)的早期開(kāi)始便一直在開(kāi)發(fā)和研究它們，最初是以學(xué)術(shù)研究者的身份，介入 GroupLens 計(jì)劃(GroupLens Project)。1992 年起，GroupLens 通過(guò)對(duì)美國(guó)愛(ài)好論壇網(wǎng)站 Usenet 討論區(qū)里的動(dòng)靜進(jìn)行排序，將用戶指向他們可能會(huì)感愛(ài)好、但自己尚未發(fā)現(xiàn)的話題線索。幾年以后，我們成立了 Net Perceptions，這是一家推薦算法公司，在互聯(lián)網(wǎng)第一次高潮期間(1997 年 - 2000 年)，一直處于業(yè)界領(lǐng)先地位。有鑒于此，固然這些公司極少公然談?wù)撍麄兊耐扑]系統(tǒng)是如何運(yùn)作的，我們的經(jīng)驗(yàn)使我們能夠深入了解亞馬遜和其他在線零售商幕后的情景。(在本文中，我們的分析是在觀察和推理的基礎(chǔ)上得出的，不包含任何內(nèi)部動(dòng)靜)。 你有沒(méi)有想過(guò)自己在亞馬遜眼中是什么樣子?謎底是：你是一個(gè)很大、很大的表格里一串很長(zhǎng)的數(shù)字。這串?dāng)?shù)字描述了你所看過(guò)的每一樣?xùn)|西，你點(diǎn)擊的每一個(gè)鏈接以及你在亞馬遜網(wǎng)站上買(mǎi)的每一件商品;表格里的其余部門(mén)則代表了其他數(shù)百萬(wàn)到亞馬遜購(gòu)物的人。你每次登陸網(wǎng)站，你的數(shù)字就會(huì)發(fā)生改變;在此期間，你在網(wǎng)站上每動(dòng)一下，這個(gè)數(shù)字就會(huì)隨著改變。這個(gè)信息又會(huì)反過(guò)來(lái)影響你在訪問(wèn)的每個(gè)頁(yè)面上會(huì)看到什么，還有你會(huì)從亞馬遜公司收到什么郵件和優(yōu)惠信息。 很多年來(lái)，推薦系統(tǒng)的開(kāi)發(fā)者試過(guò)用各種各樣的方法來(lái)采集和解析所有這些數(shù)據(jù)。最近這段時(shí)間，多數(shù)人都選擇使用被稱為個(gè)性化協(xié)同推薦(Personalized Collaborative Recommender)的算法。這也是亞馬遜、Netflix、Facebook 的摯友推薦，以及一家英國(guó)流行音樂(lè)網(wǎng)站 Last.fm 的核心算法。說(shuō)它 “個(gè)性化”，是由于這種算法會(huì)追蹤用戶的每一個(gè)行為(如瀏覽過(guò)的頁(yè)面、訂單記實(shí)和商品評(píng)分)，以此進(jìn)行推薦;它們可不是瞎貓碰上死耗子——全憑命運(yùn)運(yùn)限。說(shuō)它 “協(xié)同”，則是由于這種算法會(huì)根據(jù)很多其他的顧客也購(gòu)買(mǎi)了這些商品或者對(duì)其顯示出好感，而將兩樣物品視為彼此聯(lián)系關(guān)系，它不是通過(guò)分析商品特征或者樞紐詞來(lái)進(jìn)行判定的。 不同類型的個(gè)性化協(xié)同推薦系統(tǒng)最晚從 1992 年開(kāi)始便已經(jīng)泛起。除了 GroupLens 計(jì)劃，另一項(xiàng)早期的推薦系統(tǒng)是 MIT 的 Ringo，它會(huì)根據(jù)用戶的音樂(lè)播放列表從而給用戶推薦其他他們有可能會(huì)喜歡的音樂(lè)。 User-User 算法：計(jì)算用戶之間的相似度 GroupLens 和 Ringo 都使用了一種簡(jiǎn)樸的協(xié)同算法，被稱為 “用戶聯(lián)系關(guān)系”(user-user)的算法。這種類型的算法會(huì)計(jì)算一對(duì)用戶之間的 “間隔”，根據(jù)的是他們對(duì)統(tǒng)一物品打分的相似程度。舉例來(lái)說(shuō)，假如吉姆和簡(jiǎn)都給《電子世界爭(zhēng)霸戰(zhàn)》(Tron)這部片子打了 5 分，那么他們之間的間隔就是 0。假如吉姆給它的續(xù)集《創(chuàng)：戰(zhàn)紀(jì)》(Tron: Legacy )這部片子打了 5 分，而簡(jiǎn)只打了 3 分，那么他們之間的間隔就變大了。按照這樣的計(jì)算得出來(lái)品味相對(duì) “靠近” 的用戶，我們把他們稱之為共有一個(gè) “鄰集”(neighborhood)。 但是，這種用戶聯(lián)系關(guān)系的策略效果并不是很好。首先，形成有意義的鄰集很難：良多用戶兩兩之間只有很少幾個(gè)共同評(píng)分，有的就完全沒(méi)有;而僅有的那幾個(gè)都打了分的項(xiàng)目呢，往往是票房大片，基本上人人都喜歡的那種。再來(lái)，因?yàn)橛脩糁g的間隔可以變得很快，算法必需當(dāng)場(chǎng)就進(jìn)行大部門(mén)的計(jì)算;而這可能會(huì)比一個(gè)在網(wǎng)站上這兒點(diǎn)點(diǎn)那兒戳戳的人下一個(gè)動(dòng)作發(fā)出之前需要更久的時(shí)間。 Item-Item 算法：計(jì)算物品之間的聯(lián)系關(guān)系 因此，大部門(mén)的推薦系統(tǒng)如今都依賴一種“物-物聯(lián)系關(guān)系”(item-item)的算法，這種算法計(jì)算的是兩本書(shū)、兩部片子或者兩個(gè)其他什么東西之間的間隔，依據(jù)的是給它們打過(guò)分的用戶的相似度。喜歡 Tom Clancy 書(shū)的人很可能會(huì)給 Clive Cussler 的作品打高分，因此 Clancy 和 Cussler 的書(shū)就共處一個(gè)鄰集。一對(duì)物品之間的間隔可能是根據(jù)成百上千萬(wàn)的用戶的評(píng)分計(jì)算得出，在一段時(shí)間里往往保持相對(duì)不亂，因此推薦系統(tǒng)可以預(yù)先計(jì)算間隔，并更快的天生推薦結(jié)果。亞馬遜和 Netflix 都曾公然表示過(guò)他們使用的是物-物聯(lián)系關(guān)系算法的變種，但對(duì)細(xì)節(jié)都絕口不提。 用戶聯(lián)系關(guān)系算法和物-物聯(lián)系關(guān)系算法都有的一個(gè)題目，是用戶評(píng)分的不一致性。當(dāng)給他們機(jī)會(huì)再評(píng)一次分時(shí)，用戶往往會(huì)對(duì)統(tǒng)一件物品給出不同的得分。品味在變、心情在變，印象也在變。MIT 在上世紀(jì) 90 年代進(jìn)行的一項(xiàng)研究表明，在最初打分一年以后，用戶的評(píng)分會(huì)發(fā)生均勻 1 分(滿分 7 分)的變動(dòng)。研究職員們也在一直在嘗試不同的方法在模型中納入這一變量;好比說(shuō)，假如用戶給某個(gè)商品了打一個(gè)分，但這個(gè)評(píng)分與推薦算法所了解的關(guān)于這個(gè)人和這個(gè)商品的所有其他信息不相符，有的推薦算法就會(huì)邀請(qǐng)用戶再次對(duì)這個(gè)商品進(jìn)行評(píng)價(jià)。 降維算法：把事物特征一般化 不外，用戶聯(lián)系關(guān)系算法和物-物聯(lián)系關(guān)系算法還存在一個(gè)比一致性更大的題目：它們太死了。就是說(shuō)，它們能發(fā)現(xiàn)都喜歡統(tǒng)一樣?xùn)|西的人，但卻忽略了興趣非常相似的潛伏用戶組合。好比說(shuō)你喜歡莫奈的睡蓮。那么，在這個(gè)法國(guó)印象派巨匠畫(huà)的 250 幅睡蓮中，你最喜歡哪一幅?在一群喜歡莫奈的人當(dāng)中，完全可能每個(gè)人喜歡的睡蓮都不相同，而基本的算法就有可能識(shí)別不出這些人都有著共同的興趣。 大約十年前，研究者們想出了一個(gè)辦法，通過(guò)一個(gè)叫降維(Dimensionality Reduction)的過(guò)程，把事物更一般化的表現(xiàn)出來(lái)。這種方法在計(jì)算量上比用戶聯(lián)系關(guān)系和物-物聯(lián)系關(guān)系算法要密集得多，因此也就沒(méi)有那么快的得到采用。但跟著計(jì)算機(jī)變更快更便宜，降維算法也逐步取得了一些進(jìn)展。 為了弄清降維算法是怎么工作的，我們來(lái)看看你愛(ài)吃的東西，以及如何把它跟其他一百萬(wàn)人愛(ài)吃的東西做比較。你可以把這些信息用一個(gè)巨型矩陣表示出來(lái)，每一條豎線代表一樣食品，每個(gè)人愛(ài)吃什么東西就天然形成了一行。在你的這一行上面或許會(huì)顯示你給了烤牛排 5 顆星、紅燒小排 4 星半、烤雞翅 2 顆星、凍豆腐卷 1 顆星、奶酪烤蘑菇 5 顆星、鹽水毛豆 4 顆星，等等。 然而，使用這個(gè)矩陣的推薦算法并不關(guān)心你給哪種食品評(píng)了多少顆星。它想要了解的是你一般而言的喜好，這樣它可以將這個(gè)信息應(yīng)用到更豐碩多樣的食品上。好比說(shuō)，基于你上面給出的信息，算法可能會(huì)以為你喜歡牛肉、咸的東西和烤制菜品，不喜歡雞肉和任何油炸的東西，不喜歡也不討厭蔬菜，依此類推。你愛(ài)吃的食品所擁有的特點(diǎn)或者說(shuō)維度，它的數(shù)目和符合你要求的食品的數(shù)目比起來(lái)要小得多——至多可能 50 或 100。通過(guò)查對(duì)這些維度，推薦算法可以迅速?zèng)Q定你是否會(huì)喜歡一種新的食品(比方說(shuō)鹽焗排骨)，方法就是把這種食品的各項(xiàng)維度(咸的、牛肉做的、不是雞肉、不是炒的、不是蔬菜、不是烤的)同你的資料進(jìn)行比對(duì)。這種更為一般性的呈現(xiàn)使得推薦算法能正確的發(fā)現(xiàn)有著相似但不同喜好的用戶。而且，它大幅壓縮了矩陣的規(guī)模，使算法變得更加高效。 這是一個(gè)很酷的解決方案。不外，你愛(ài)吃的食品的維度該上哪兒去找呢?肯定不是去問(wèn)廚師。推薦系統(tǒng)會(huì)使用一種稱為奇特值分解的數(shù)學(xué)方法來(lái)計(jì)算維度。這種方法涉及到把最初的一個(gè)巨型矩陣分解為兩個(gè) “口味矩陣”——其中一個(gè)包含了所有的用戶和 100 項(xiàng)口味維度，另一個(gè)則包含了所有的食品和 100 項(xiàng)口味維度——再加上第三個(gè)矩陣，當(dāng)乘以前面兩個(gè)矩陣中的任意一個(gè)時(shí)，會(huì)得到最初的那個(gè)矩陣(※此處已更改)。 不像上面例子中說(shuō)的那樣，計(jì)算用的維度既不是描述性的，也一點(diǎn)兒都不直觀;它們是純抽象的值。這并沒(méi)有什么，只要這些值終極天生正確的推薦結(jié)果就行了。這種方法的主要缺點(diǎn)是，創(chuàng)建矩陣所需要的時(shí)間會(huì)跟著客戶和產(chǎn)品數(shù)目的增多而飛速增長(zhǎng)——創(chuàng)建一個(gè)擁有 2.5 億名客戶和 1000 萬(wàn)種產(chǎn)品的矩陣，需要花上創(chuàng)建一個(gè) 25 萬(wàn)名客戶和 1 萬(wàn)種產(chǎn)品的矩陣 10 億倍那么多的時(shí)間。而且這一過(guò)程還需要常常重復(fù)。一旦收到新的評(píng)分，矩陣就已經(jīng)由期;在像亞馬遜這樣的公司，每一秒鐘都會(huì)收到新的評(píng)論。幸運(yùn)的是，就算略微過(guò)期，矩陣仍舊能以一個(gè)挺不錯(cuò)的水平運(yùn)作。研究職員們也已經(jīng)在設(shè)計(jì)新的算法，為奇特值分解提供可用的近似值并明顯縮短計(jì)算時(shí)間。 Joseph A. Konstan 和 John Riedl 都是美國(guó)明尼蘇達(dá)大學(xué)的計(jì)算機(jī)科學(xué)教授。身為 IEEE 高級(jí)會(huì)員的 Konstan 和 IEEE 會(huì)士的 Riedl 介入創(chuàng)建了 MovieLens 推薦系統(tǒng)。在接下來(lái)的文章里面，兩位作者將繼承先容， 推薦算法絕對(duì)不會(huì)向你推薦的是什么 。 更正說(shuō)明： 文章發(fā)布之初，倒數(shù)第二天然段有關(guān)奇特值分解的內(nèi)容表述有誤，現(xiàn)已更改，特此說(shuō)明。 |
|
