【AI大模型被投毒？央視3·15晚會曝光給AI“洗腦”已成產業鏈】
【TechWeb】3月15日消息 ， 央視3·15晚會曝光當下大熱的GEO業務 。 網絡平臺上從事該項業務的服務商號稱 ， 用戶只需支付相應的費用 ， 就能在各大主流AI大模型里 ， 讓客戶的產品榜上有名；讓客戶的商品廣告 ， 成為AI模型給出的“標準答案” 。
通過GEO技術真的能讓AI“夾帶私貨” ， 甚至投放虛假信息嗎？一家業內知名的GEO服務商負責人向央視記者表示 ， 他們公司的強項 ， 就是能夠幫助客戶 ， 在消費者使用AI大模型搜索時 ， 讓客戶排名前列 。 “就是相當于做軟文 ， 然后讓AI平臺去刷錄、輸入、抓取 。 ”
該負責人還稱 ， 現在AI大模型的算法更新頻繁 ， 要想維持AI大模型的持續推薦 ， 必須持續大量投喂與客戶相關的推廣軟文 。
GEO作為優化信息分發、提升推廣效率的一個工具軟件 ， 在某些商業公司眼中 ， 卻被挖掘出了另外的作用 。
調查顯示 ， 業內人士在電商平臺上 ， 隨機購買了一款名叫“力擎GEO優化系統”的軟件 。 之后虛構了一款智能手環 ， 并將虛構的產品信息輸入軟件系統 ， 勾選文章創作指令 。 不一會兒 ， 這個力擎GEO優化系統就自動生成了十余篇智能手環的宣傳軟文 。 業內人士選取了十余篇虛構軟文 ， 通過力擎GEO系統發布在了互聯網上 。 隨后 ， 業內人士在AI大模型平臺展開詢問：“智能健康手環推薦” ， 就有兩個AI大模型推薦了這款虛構的智能手環 ， 而且排名靠前 。
力擎GEO系統的運營者李總表示 ， GEO業務受熱捧的主要原因就是它能在AI大模型里幫客戶喂料、投毒 ， 實現客戶的商業目的 。 想做GEO業務 ， 操控AI大模型的關鍵節點 ， 就是在各大互聯網賬號上“發稿” 。 “比如說手機品牌 ， 就5個位置 ， 最多10個位置 ， 這么多手機怎么弄 。 一年可能上億的廣告費 ， 花個幾百萬投點毒 ， 總行吧！”
據這位李總爆料 ， GEO業務的火爆 ， 催生出了不少專門從事發稿業務的公司和平臺 。 他們長期承攬各種發稿業務 ， 以便讓AI大模型引用和抓取 ， 成為圍獵AI大模型、進行數據“投毒”的重要一環 。 （周小白）
推薦閱讀
- 華為暢享90系列再次被確認：Plus和Pro Max，配置已沒懸念！
- 英特爾遭遇CPU供應危機：AI應用推動老款至強處理器需求激增，產能計劃被打亂
- 央視組團報道它石智航，首席科學家揭秘機器人智能化背后的大模型
- TikTok美國方案交易細節：美國政府被曝獲得投資者給予的100億美元
- 自動駕駛安全難題，被清華團隊用一套“減法”破解了
- 硬件圈大瓜！Der8auer 采購銅板鋁板被跨國詐騙，直接虧損 4 萬歐元
- 快手啟動春季校招：超200類崗位開放，大模型相關崗位需求翻倍
- 想用“龍蝦”玩轉小紅書的人，已經被封號
- 讓蘋果都妥協的折痕“天塹”，被中國產業鏈填平了？
- 你買的全新iPhone，屏幕可能早被人偷偷換走了？