(相關資料圖)
算法可以計算流量，但不能算計人心；技術可以模擬情感，但無法替代真實的關愛。阻斷AI幻象滲透和蔓延的鏈條，守護好每個人的數(shù)字安全與情感尊嚴，這是應對“數(shù)字情感收割”的基本原則，也是技術向善的題中應有之義。
短視頻平臺上，身著正裝、開著豪車、戴著金表的“儒雅霸總”，張口“姐姐”、閉口“想你”，噓寒問暖甚至下跪求婚……據(jù)4月13日新華社報道，這些“AI霸總”或是AI數(shù)字人，或是經AI換臉、擬聲偽造的形象，話術直白，戳中不少老年粉絲的心意。即便視頻下方標注著“內容由AI生成”，一些老年粉絲依舊深信不疑。記者搜索關鍵詞發(fā)現(xiàn)，僅平臺推送來的“AI霸總”賬號就達上百個，數(shù)個賬號粉絲達到十幾萬。
嘴上都是“情意”，心里全是生意——“AI霸總”類賬號打著“高端人設”的幌子與老年人進行情感交流，為的是最大限度積累流量，后續(xù)通過多種方式變現(xiàn)，包括賺取平臺流量收益，開展帶貨、打賞或私域營銷活動，為婚戀、醫(yī)療、養(yǎng)老等其他商業(yè)機構引流賺取傭金等。從AI數(shù)字人制作、文案批量生成，到引流、互動、轉化，每一環(huán)都在算計如何從老人的情感需求中榨取價值。
“AI霸總”圍獵老年人，本質上是對人性弱點的精準攻擊。一方面，時下，獨居、空巢是不少銀發(fā)群體的常態(tài)，“霸總”人設中的“霸道寵溺”“專一深情”，填補了一些老年人的情感空白。另一方面，銀發(fā)群體中的不少人對AI技術的認知有限，難以理解“眼見未必為實”的道理。此外，技術手段大幅降低了“AI換臉”“擬聲合成”的成本，加之平臺算法持續(xù)為老年用戶推送同類高濃度內容，從而令一些銀發(fā)族陷入“情感空虛—邂逅霸總—尋求互動—被精準收割”的窘境。
“AI霸總”讓一些老年人“上頭”的同時，也為其帶來多重風險。在財產安全層面，從直播間帶貨、付費解鎖“專屬陪伴”，到誘導轉賬、投資“高回報項目”，老年人的養(yǎng)老錢可能被一步步掏空。在身心健康層面，過度沉迷虛擬互動，會加劇老年人現(xiàn)實中的孤獨感。在個人信息安全方面，老年人個人隱私信息可能被獲取，成為進一步精準收割的“原料”。
曾經，我們擔心老年人被“干兒子、干女兒”們誘騙買保健品；后來，一些老年人落入了短視頻平臺上的假明星騙局；再后來，“AI+”對銀發(fā)群體的誘騙成為了一套可批量復制的收割模型。這一過程中，圍獵手段從“人工話術”升級到“AI量產”，從“一對一突破”進化到“即使千人千面也能精準營銷”……AI技術的迭代速度超過了治理的反應速度。對此，相關部門已經出臺規(guī)定對AI生成內容進行強制標注，但這顯然遠遠不夠。在AI技術快速發(fā)展的時代，相關治理需要多些未雨綢繆。
一方面，平臺方不能只為技術做“嫁衣”，還應承擔起內容審核的倫理責任；技術開發(fā)者在追求模型迭代的同時，也應主動嵌入倫理設計；監(jiān)管部門則需依法嚴厲打擊利用AI實施的情感詐騙、虛假宣傳等行為，落實“誰使用、誰負責”的主體責任，讓“AI不是免責金牌”成為共識和鐵律。
另一方面，無論是家庭還是社會，需要進一步看見那些被忽視的情感需求與渴望?！癆I霸總”視頻的評論區(qū)里，有粉絲說“就算你是假的，我也愿意信一回?！笨梢?，澆滅一系列AI幻象與相關人群之間的“火花”，有必要以更可行、更智慧的方式滿足相關群體的情感需求，這需要各方伸出溫暖的手，拉相關群體走出“情感孤島”。
算法可以計算流量，但不能算計人心；技術可以模擬情感，但無法替代真實的關愛。阻斷AI幻象滲透和蔓延的鏈條，守護好每個人的數(shù)字安全與情感尊嚴，這是應對“數(shù)字情感收割”的基本原則，也是技術向善的題中應有之義。
