如今，人們常常通過AI大模型幫助自己篩選信息、給出客觀的參考答案，只是想著能少踩坑、少被套路。可今年央視“3·15”晚會聚焦曝光的AI大模型遭“投毒”事件，直接打破了這份天真。
原來我們對著AI問出的每一個問題，得到的所謂標(biāo)準(zhǔn)答案，早就被人動了手腳，那些看似中立的推薦，不過是花錢買來的廣告。這種針對AI的數(shù)據(jù)“投毒”，已經(jīng)悄無聲息地變成了灰色暴利生意。
根據(jù)業(yè)內(nèi)爆料和記者調(diào)查，這項打著GEO旗號的業(yè)務(wù)，在不少網(wǎng)絡(luò)平臺都能找到蹤跡，服務(wù)商說得很直白，只要付夠費用，就能讓客戶的產(chǎn)品在主流AI大模型里牢牢占據(jù)靠前位置，甚至直接把商品廣告變成AI脫口而出的標(biāo)準(zhǔn)答案。
根據(jù)業(yè)內(nèi)爆料和記者調(diào)查，這項打著GEO旗號的業(yè)務(wù)，猛一看像是天方夜譚，可實際操作起來，門檻遠比想象的低得多。其主要手段就是在各類互聯(lián)網(wǎng)賬號上批量發(fā)稿，用海量刻意堆砌的內(nèi)容，給AI大模型持續(xù)喂料，慢慢污染它的數(shù)據(jù)源，最終達到操控回答的目的。
力擎GEO系統(tǒng)的運營者坦言，這項業(yè)務(wù)之所以受熱捧，無非是抓住了商家想走捷徑的心理。正常做品牌推廣、投廣告，要花大量成本，還要拼產(chǎn)品實力、拼口碑積累，一年下來上億的投入都未必能獲得好的效果。可通過GEO業(yè)務(wù)給AI“投毒”，花幾百萬就能搶占有限的推薦位置，用更小的成本撬動更大的流量，這筆賬在逐利的商家眼里，是非常劃算的。
這種心態(tài)也催生了專門的發(fā)稿公司和平臺，他們成了數(shù)據(jù)“投毒”的幫手，不停地生產(chǎn)各類營銷內(nèi)容，等著AI抓取收錄，一步步圍獵本該保持中立的AI大模型。
在我們的印象里，AI智能是客觀的，不會被輕易操控?？涩F(xiàn)實恰恰相反，AI大模型的學(xué)習(xí)和回答，本就依賴互聯(lián)網(wǎng)上的公開數(shù)據(jù)，它沒有真正的辨別能力，只能根據(jù)數(shù)據(jù)的重復(fù)度、覆蓋面來判斷信息權(quán)重。
這就給了“投毒”者可乘之機，他們不需要高深的技術(shù)突破，只需要靠人海戰(zhàn)術(shù)、批量發(fā)稿，用重復(fù)且刻意的內(nèi)容淹沒真實信息，就能讓AI模型慢慢被洗腦，把虛假推廣當(dāng)成客觀事實，把三無產(chǎn)品、劣質(zhì)商品推到用戶面前。
然而令人擔(dān)憂的是，這種數(shù)據(jù)“投毒”不僅影響我們的消費選擇，還在一點點地摧毀AI的公信力。我們想讓AI幫自己簡化信息、規(guī)避風(fēng)險，可當(dāng)AI的答案被資本和利益綁架，變成了營銷工具時，它就失去了存在的核心價值。
而普通用戶根本分不清，AI給出的推薦是客觀判斷，還是花錢買來的推廣。久而久之，大家會對所有AI生成的內(nèi)容失去信任，就連原本能幫到人的實用信息，也會被打上可疑的標(biāo)簽。
這條灰色產(chǎn)業(yè)鏈的蔓延，也暴露出行業(yè)監(jiān)管和技術(shù)防御的雙重漏洞。AI產(chǎn)業(yè)一路飛速發(fā)展，大家都在拼模型能力、拼用戶規(guī)模，卻忽略了底層數(shù)據(jù)的安全和純凈度，而對這種惡意喂料、數(shù)據(jù)“投毒”的行為，前期缺乏有效的約束和打擊手段，相關(guān)平臺也沒有及時建立起足夠嚴(yán)密的防護墻，才讓這類亂象野蠻生長。
技術(shù)發(fā)展的初衷是便利生活、傳遞真實信息，而不是成為利益收割的工具。力擎GEO這類數(shù)據(jù)“投毒”業(yè)務(wù)，看似是鉆了行業(yè)空子，實則是在透支整個AI行業(yè)的未來。比起事后整治，更需要平臺方筑牢技術(shù)防線，提升AI辨別虛假信息的能力，監(jiān)管層面也要跟上節(jié)奏，堵住灰色產(chǎn)業(yè)鏈的生存空間，不能讓我們信任的AI，變成被人操控的牟利工具，更不能讓本該干凈的信息環(huán)境，被這些投機行為徹底攪亂。
