國家市場監(jiān)督管理總局主管

中國消費(fèi)者協(xié)會主辦

維護(hù)消費(fèi)者合法權(quán)益,引導(dǎo)消費(fèi)者合理消費(fèi)

當(dāng)前位置:首頁 > 要聞
二代大數(shù)據(jù)殺熟更隱蔽!上海市消保委呼吁出臺算法規(guī)制
2021-03-15 19:35 本文來源:中國消費(fèi)者報(bào)•中國消費(fèi)網(wǎng) 作者:劉浩

中國消費(fèi)者報(bào)報(bào)道(記者劉浩)在大數(shù)據(jù)場景中,交易越來越多地依靠算法完成。互聯(lián)網(wǎng)平臺通過不斷優(yōu)化的算法和不斷提升的算力,使得交易效率不斷提高,但算法的不透明性與難解釋性也給消費(fèi)者權(quán)益保護(hù)與反不正當(dāng)競爭帶來新的挑戰(zhàn)。3月14日,上海市消費(fèi)者權(quán)益保護(hù)委員會發(fā)布觀點(diǎn)指出,算法公平性是平臺消費(fèi)者權(quán)益保護(hù)的核心問題,應(yīng)健全數(shù)字規(guī)則,盡快出臺算法規(guī)制,促進(jìn)平臺算法公平,保護(hù)消費(fèi)者合法權(quán)益。

初代大數(shù)據(jù)殺熟:“熟客賣高價(jià)”

上海市消保委介紹,初代的大數(shù)據(jù)殺熟,依靠的是算法的簡單判斷。比較典型的就是“熟客賣高價(jià)”,平臺對新客展示的是低價(jià),因?yàn)樾驴屯ǔ诓煌脚_比價(jià)。而老顧客習(xí)慣已經(jīng)養(yǎng)成,通常不會貨比三家,價(jià)格就會高一些。和“熟客賣高價(jià)”相類似的還有“新人插隊(duì)”,比如打網(wǎng)約車時(shí),算法會判斷消費(fèi)者是否購買代金券,如果購買了代金券,自然會忍受更長的等待時(shí)間(因?yàn)槿挥脮^期作廢),算法就會把沒買過券的乘客插隊(duì)排在前面。

差別定價(jià)不是錯(cuò)事,消費(fèi)者對于“大數(shù)據(jù)殺熟”的厭惡其實(shí)就在于平臺的欺騙。上海市消保委指出,多年前一些快餐經(jīng)常在店門口發(fā)優(yōu)惠券,對價(jià)格比較敏感的顧客會把優(yōu)惠券收集在錢包里,下回買漢堡的時(shí)候可以“便宜2塊錢”。插隊(duì)也不一定就錯(cuò),比如銀行的VIP客戶就有權(quán)優(yōu)先辦理業(yè)務(wù)。

然而,基于欺騙達(dá)成的交易沒有公平性可言。老顧客不會奢望打折,但也不愿意被套路。購買了代金券的乘客一直打不到車,誤以為是高峰時(shí)打車人多。

算法迭代:個(gè)性化推送“千人千價(jià)”

由于人工智能等新技術(shù)的運(yùn)用,算法快速迭代,再加上平臺對消費(fèi)者個(gè)人信息的全方位收集,個(gè)性化推送就成為了平臺主要的營銷手段,而競爭的核心就是推送精準(zhǔn)度。

上海市消保委指出,平臺通過了解消費(fèi)者的喜好,選擇消費(fèi)者感興趣的內(nèi)容推送,還能潛移默化地固化或是改變消費(fèi)者的認(rèn)知。例如,消費(fèi)者曾經(jīng)搜索過“白芝麻黑芝麻”,那么他會在很多APP里接收到關(guān)于芝麻的信息推文。如果他曾經(jīng)在網(wǎng)上買過兩次白芝麻,那么大概率能經(jīng)??吹疥P(guān)于“白芝麻比黑芝麻好”的各種文章。如果他正好40歲,可能就會看到“40歲以后應(yīng)該吃白芝麻”的“知識科普”。

平臺根據(jù)個(gè)人信息匹配相關(guān)的產(chǎn)品廣告或產(chǎn)品。記者了解到,2020年下半年,上海市消保委曾使用多個(gè)手機(jī)終端模擬不同收入群體的消費(fèi)者使用相同的APP,并進(jìn)行一段時(shí)間的虛擬人設(shè)操作。測試發(fā)現(xiàn),不同手機(jī)接收到的廣告差異度極大,模擬低收入人群的手機(jī)高頻度收到各類低價(jià)劣質(zhì)商品和網(wǎng)絡(luò)貸款廣告。此外,上海復(fù)旦大學(xué)教授孫金云帶領(lǐng)團(tuán)隊(duì)做了一項(xiàng)“手機(jī)打車軟件打車”調(diào)研,報(bào)告顯示,蘋果機(jī)主更容易被專車、優(yōu)享這類更貴車型接單。

此外,上海市消保委發(fā)現(xiàn),相較于初代大數(shù)據(jù)殺熟顯而易見的欺騙性差異化定價(jià)而言,基于復(fù)雜算法的價(jià)格組合更為隱蔽,也更能被合理化解釋。近日,上海市消保委在不同平臺測試了訂房、買菜等業(yè)務(wù),不同賬號的價(jià)格差異比以前更大,但與以前不同的是,現(xiàn)在的“千人千價(jià)”是由原價(jià)與各種優(yōu)惠券所組成的。這些券并不是賬號錢包里原有的,而是算法臨時(shí)生成的。

上海市消保委:盡快出臺算法規(guī)制

在數(shù)字經(jīng)濟(jì)時(shí)代,“數(shù)據(jù)賦能”已經(jīng)成為最為主要的經(jīng)濟(jì)驅(qū)動力。隨著數(shù)據(jù)競爭日趨白熱化,也暴露出一些值得關(guān)注的問題,比如二代大數(shù)據(jù)殺熟,通過歧視性算法,以消費(fèi)者的權(quán)益換取平臺數(shù)據(jù)價(jià)值的最大化兌現(xiàn)。

上海市消保委認(rèn)為,算法公平性是平臺消費(fèi)者權(quán)益保護(hù)的核心問題。基于算法的個(gè)性化內(nèi)容推送客觀上會擴(kuò)大個(gè)體間的認(rèn)知偏差,而平臺出于商業(yè)目的的算法歧視,可能打造信息繭房,侵害了消費(fèi)者的知情權(quán)。

基于歧視性算法的產(chǎn)品匹配,本質(zhì)上是平臺對算法權(quán)力的濫用。消費(fèi)者因?yàn)槿狈γ馐芩惴Q策支配的“退出”的權(quán)利,從某種程度上被剝奪了依法享有的選擇權(quán)。

基于歧視性算法的價(jià)格組合,是對消費(fèi)者公平交易權(quán)的侵害。算法從接受輸入數(shù)據(jù)到輸出決策結(jié)果的全過程,形成外界無法獲知的“黑箱”,算法在其中進(jìn)行數(shù)據(jù)的處理、評估及分析,并根據(jù)具體場景作出決策。算法“黑箱”的非透明性導(dǎo)致二代大數(shù)據(jù)殺熟行為更加隱蔽、難以察覺。對此,上海市消保委呼吁,健全數(shù)字規(guī)則,盡快出臺算法規(guī)制,促進(jìn)平臺算法公平,保護(hù)消費(fèi)者合法權(quán)益。

責(zé)任編輯:24