算法也疲勞？AI推薦不如愿怎么辦？

---

  新智元報道  

來源：unite.ai

編輯：好困

【新智元導讀】人工智能常常無法完全理解人們的喜怒無常，「算法疲勞」正是在算法不能正確回應用戶需求時所產生的。

戰(zhàn)略咨詢公司愛麗絲實驗室（Alice Labs）和全球技術公司Reaktor進行的一項新研究闡明了研究人員所說的「算法疲勞」（algorithmic fatigue）。

當人們花費大量時間做諸如瀏覽流服務之類的事情時，AI系統(tǒng)可能無法滿足用戶的期望，這便會使用戶感到疲勞。

我與算法的二三事

這項研究給出了三種不同類型的AI交互方式：

被動：用戶希望將注意力集中在某些活動上，例如工作或做家務，而不與算法系統(tǒng)進行交互。

在這種情況下，人們期望AI驅動的系統(tǒng)能夠提供順暢的用戶體驗。例如，在做飯時語音助手可以提供正確的重量轉換。

引導：用戶將算法視為實現(xiàn)當前意圖的一種手段，例如度過輕松的時光。舉個例子，一個人在工作中度過了艱難的一天， 想通過觀看視頻流媒體服務放松身心。在這種情況下，用戶不希望過多地參與算法決策，而是希望確保系統(tǒng)可以推薦電影來放松自己。

協(xié)作：當用戶的對某個方面進行探索時，他們希望在算法決策中發(fā)揮積極的協(xié)作作用。例如，用戶希望通過發(fā)現(xiàn)的新音樂或文學作品來了解更多有關自己感興趣的主題或擴展自己的愛好。

用戶根據(jù)情況而采用的三種不同交互方式

你太讓我失望了！

愛麗絲實驗室的研究人員柯西·漢圖拉（Kirsi Hantula）說：“雖然算法在許多情況下是有用的，但它們的機器性能仍然受到限制：它們無法預測用戶何時會遇到糟糕的一天，需要觀看一些輕松的東西，它們也無法理解用戶的喜好會隨著時間的推移而發(fā)生細微的變化?！?/span>

只要算法系統(tǒng)能夠提供用戶期望的結果，一切都會順利進行。

但是，目前的算法系統(tǒng)經常無法滿足用戶的期望。

當算法給出一個錯誤的結果或者錯誤地判斷了用戶的需求，這時用戶不得不中斷自己在進行的活動對系統(tǒng)進行糾錯。這就造成了用戶的注意力的分散，迫使他們轉移到系統(tǒng)上。不僅浪費時間，還會破壞原有活動的節(jié)奏。

「我想聽流行音樂，并不是想聽一首叫『流行』的音樂，即便它確實很好聽?！?/span>

目前，算法系統(tǒng)仍然無法很好地記錄用戶不斷發(fā)展的品味和興趣，因為用戶對新的事物之間的互動通常發(fā)生在這些系統(tǒng)之外的社交環(huán)境中。

算法系統(tǒng)同樣無法暫時地擺脫用戶資料和歷史記錄，這使得用戶不得不對暫時需要或感興趣的的內容保持謹慎的態(tài)度，避免系統(tǒng)陷入到「錯誤」的數(shù)據(jù)中，從而影響之后使用時系統(tǒng)提供的推薦。

對于算法決策中某些關鍵因素，用戶希望擁有更有深度的協(xié)作方式以及更高效的與系統(tǒng)交互的工具。而目前可以使用的工具不足以實現(xiàn)此目的，它們只會在算法決策中引起漸進和漸進的變化，并且其效果仍是無法被用戶所看到的。

還是朋友靠譜

各種基于AI的設備已經發(fā)展了十多年，許多用戶也已經意識到如何引導這些不完善的系統(tǒng)。

這意味著用戶已經不得不開始與自己去和算法疲勞作斗爭。例如，將AI的使用局限在其最基本的功能上，例如使用語音助手進行簡單的任務。

而研究人員發(fā)現(xiàn)，越來越多的用戶在放棄使用推薦算法，而更多地轉向擁有相同興趣的其他人，并認為這些人比算法更可靠。如果公司想與消費者建立更牢固的關系，他們應該找到應對算法疲勞的方法。

參考資料：

https://www.unite.ai/new-study-sheds-light-on-algorithmic-fatigue/

https://f.hubspotusercontent30.net/hubfs/5413232/Everyday_AI_report.pdf?__hstc=&__hssc=&hsCtaTracking=a3a38a4c-5fbc-4f1b-9134-03f364938a6c%7C8eb65750-4092-4aaa-b48d-682d1b33da3c

AI家，新天地。西山新綠，新智元在等你！

【新智元高薪誠聘】主筆、高級編輯、商務總監(jiān)、運營經理、實習生等崗位，歡迎投遞簡歷至[email protected] (或微信: 13520015375)

辦公地址：北京海淀中關村軟件園3號樓1100