“AI洶涌”。

作者 | 張語格

編輯 | 趣解商業TMT組

隨著大模型飛速發展，AI應用也逐漸成熟。過去一年，在很多人還在琢磨能用AI來干啥的時候，已經有不少人靠著AI產品和信息差賺到了“真金白銀”。

不過，在一個個看似“錢途光明”的項目里，有些引發了倫理爭議，有些是利用噱頭炒作的“偽概念”，還有些，則是實打實的騙局。

01.“數字人”以假亂真，AI換臉成“生意”？

2024年，社媒平臺上用AI制作的內容明顯增多。“小貓張嘴唱歌”“甄嬛機關槍掃射四郎”……AI生成內容成為當下最火的自媒體賽道之一。

有些賬號通過Stable Diffusion、midjourney、可靈或即夢生成動漫形象，配上文案，便可收獲大批粉絲關注，隨后通過商務推廣或櫥窗帶貨變現。例如最近迅速漲粉的“人間清醒柒奶奶”“寶藏羅奶奶”等各類奶奶，就成了很多網友的心靈導師和情緒樹洞。

圖源：小紅書截圖

值得一提的是，有的社媒平臺檢測出內容是由AIGC生成，會給作品加上“疑似包含AI創作”的提示；然而由于識別難度越來越大，相當一部分AI作品和賬號都能逃過檢測。

2024年下半年，有網友稱自己在小紅書上通過賬號矩陣管理軟件同時操控1327個AI美女賬號，沒有任何一個被平臺識別出來。

圖源：微信截圖

如今，很多AI賬號仍在受追捧。有用戶直言，“好看就可以了，難道那些真人博主就長得和照片一模一樣？既然都不真實，是不是AI又有什么所謂？”

于是，“AI數字人”成了很多人“牟利”的手段。有信息流從業者表示，自己通過數字人混剪+真人口播做成廣告素材，在各平臺投放吸引用戶下單，廣告投放金額越高，帶來的收益也越高，不到四天，便有保健品的廣告素材投放突破了30萬元。

圖源：公眾號截圖

除了用“數字人”，還有人通過“AI換臉”技術冒充名人進行帶貨。國家傳染病醫學中心醫生張文宏此前曾表示，短視頻平臺上有很多用AI合成自己臉和聲音的視頻，帶貨蛋白棒等醫藥保健類產品，自己多次向平臺投訴，但仍然層出不窮。

AI換臉內容制作成本低，平臺監管卻不容易。微信和抖音都曾對使用插件、AI等工具生成虛擬形象直播判定違規或封禁處理。資深產業經濟觀察家梁振鵬認為，數字人直播帶貨以及數字人賬號的監管難點，主要在于如何辨別這些數字人是否真實存在，以及它們所宣傳的產品是否真實可靠；此外，監管機構還需要考慮如何處理涉及名人的仿冒行為，以及如何平衡保護消費者權益和促進創新之間的關系。

這些用AI合成的“詐騙視頻”瞄準的通常是辨識能力差、警惕性不高的中老年人。除了張文宏，靳東、雷軍等名人，也是經常被“AI換臉”的對象。前段時間，江西宜春一位老年女性就因“靳東”在網絡上向“借錢拍戲”，險些向對方轉過去200萬元。

圖源：微博截圖

2024年10月，香港警方還曾破獲一起AI換臉的“殺豬盤”，通過偽造條件優越的女性吸引男性轉賬，涉案金額超過3.6億港元。

隨著視頻生成模型的發展，平臺上的內容很可能會更加“真假難辨”。梁振鵬表示，這無疑會加大平臺內容監管的難度；未來，監管機構需要不斷提高自身的技術水平，平臺也需要積極履行社會責任，加強自我約束和自我管理。

值得一提的是，目前至少有60多個國家制定和實施了人工智能治理政策，我國《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等規定的相繼落地，也讓剛性治理有了更多具體抓手。

02.智能家電、AI玩具...“沾上”AI就漲價？

2024年是大模型卷應用、卷落地的一年。學習機、眼鏡、玩具、甚至床墊，都紛紛做起了“AI+”，強調自身的“智能化”和“陪伴感”。然而，限于技術的成熟度，過去一年大部分搭載AI的硬件或產品實際上并未帶來顛覆性的使用體驗。

此前，遠程控制、網絡連接、自動識別與控制是家居產品主打的智能化功能，AI概念火了后，家居產品爭相在AI上“整活”：床墊內置AI算法，能根據不同的人體曲線調整高度；洗衣機集成AI智能投放系統，能根據衣物的重量與臟污程度，自動調整洗滌劑的用量……

然而，在很多消費者看來，這些家電的AI功能解決的并不是核心痛點，而且實際使用上也達不到宣傳中的智能。某品牌AI床墊的用戶表示，護腰氣囊晚上間歇性打氣噪音不小，睡眠監測時間也不太準確，“感覺像是交了智商稅”。

圖源：微博截圖

家電行業分析師劉步塵表示，目前家電與AI的結合仍處于初級階段。“過去十幾年，家電產品基本上完成了從功能型家電向智能化家電的轉變，但家電產品功能需求的本質未變，對AI的要求沒有想象的那么緊迫，所以家電也很難成為AI技術應用的典范。”

體驗升級不多，但不少融合AI概念產品的價格卻先漲了上來。有售賣卡薩帝AI冰箱的銷售人員對“搜狐財經”表示，目前AI其實和智能沒有什么區別，暫時還做不到幫助用戶識別食材、記錄保鮮、臨期提醒等等。然而，其店內兩款AI冰箱產品售價分別為6.9萬元和10萬元，相比之下不帶智能大屏的同類型冰箱價格大約2萬到3萬；由此計算，“AI冰箱”的溢價能達到2至5倍左右。

圖源：微博截圖

除了家電，面向兒童、青少年群體的玩具、學習機等產品，結合AI概念后的價格也出現了明顯的上漲。

有AI玩具的從業者對新媒體“Tech星球”表示，毛絨AI玩具的硬件成本一般只占到產品售價的十分之一，甚至更低，其搭載的AI方案才是這類玩具賣到幾百元、上千元的關鍵。

然而，玩具的AI對話功能也是“見仁見智”的地方。有家長表示，AI玩具能回答孩子的“十萬個為什么”，很省心；但也有家長認為，目前所謂的AI功能還配不上這個價格。Haivivi（躍然創新）的一款佩戴式AI玩具的評論區里，有消費者表示，玩具的價格比天貓精靈還貴了不止一倍，但只有對話功能正常使用，播放音樂和講故事的功能都不能滿足孩子需求。

圖源：淘寶截圖

互聯網分析師張書樂曾對“貝殼財經”表示，目前的AI玩具的價值整體上仍然在對話上體現，AI玩具所能提供的教育能力依然還不足以達成真正的教育意義。盤古智庫高級研究院江瀚則認為，AI玩具的優勢在于能夠結合玩具的趣味性和AI的交互性，未來要解決互動體驗和內容創新的問題，使AI玩具能夠更好地理解和回應兒童的指令和情感。

03.AI培訓課，“小白”最好“割”？

每次有新技術出現，比應用跑得更快的往往是“教你如何用”的培訓課程。2024年，AI相關的課程層出不窮，甚至有從業者直言，任何行業都可以用AI來做一遍知識付費。

AI付費課里最熱門的，要屬以AI繪畫、視頻創作為主的AI工具應用類課程。這類課程主要面向渴望提升工作技能和發展副業的年輕人，課程價格大多在千元以上，也是被吐槽“割韭菜”的重災區。

圖源：小紅書截圖

社交平臺上很多網友都提到，付費課里的知識、教程在B站和知乎等都能找到類似的免費內容，這些培訓機構大多只是將免費的素材和教程進行系統整合，其實賺的還是“信息差”的錢。

不擅長信息檢索、又很少體驗知識付費的“小白用戶”，很容易被包裝高大上的課程海報和話術吸引；有網友表示，想報AI課程的主要原因是覺得有老師能答疑，上課互動性更好。這類更習慣傳統教學方式的用戶，也是各類AI付費課程的主力。

小白們學習新技術的需求，養活了不少培訓機構。2024上半年，清華博士李一舟因為違規售賣AI工具類培訓課程被封禁，如今仍有人在這一賽道悶聲賺錢。

“趣解商業”觀察到，如今仍有不少教AI制圖、視頻創作的課程宣稱結課后給學員提供商單幫助變現。例如，有機構的AI繪畫相關課程，價格高達5880元，助教表示，如果順利完成課業測試，學完后100%能接到商單。

圖源：微信截圖

“趣解商業”發現，商單包括室內設計、AI電商換裝圖等多種類型的需求，每單價格在20-30元左右；由此計算，要完成將近近200單需求才能回本學費。對有全職工作的學員而言，這顯然是件相當考驗耐力和興趣的“副業”；還有單親媽媽表示，其實并沒有想象中好學，除了AI工具，也要會用PS，課時和學習時間都比想象中要長，暫時還沒能力接單變現。

在“黑貓投訴”平臺上，消費者投訴AI培訓機構的案例層出不窮，大部分均是針對交費后“老師找不到人”、被誘導付費后難退款、與承諾的效果不符等問題。

04.套殼AI騙融資，“熱錢”涌向大模型？

如果說AI知識付費只是“割韭菜”的初級手段，那用AI概念來圈錢、騙融資，絕對稱得上這一領域的“高級騙局”。

2024年，不止一家AI科技公司被曝出財務造假、業務注水。

近期，美國AI教育科技公司AllHere的創始人兼CEOJoanna Smith-Griffin因涉嫌證券欺詐、電匯欺詐和嚴重身份盜竊被批捕。該公司主推促進家校溝通的聊天機器人，自2020年11月啟動A輪融資以來，直至公司于2024年6月倒閉，其創始人一直向投資者傳遞虛假的財務信息，誤導他們對公司的收入、客戶群體以及現金儲備情況。

圖源：微博截圖

早在2024年6月，國內一家名為“極目銀河”的AI領域明星創業公司“財務爆雷”，CEO陳群在自己租來的別墅中留下一封自白信后消失，信中寫道：“（我）是個詐騙犯......（公司）合計有62億的資金缺口”。根據“36氪”報道，這家公司套殼AI等多個數字科技業務以吸納融資，實際上，公司多年來一直都沒有成熟的產品和業務，項目逐漸無法通過融資獲利，最終整個公司走向破產。

圖源：微博截圖

隨著大模型賽道競爭日益激烈，不少創業公司都被“卷”進了墻角。有從業者表示，2024上半年，投資市場還在為爭搶大模型創業公司的份額頭疼，到了年底，大模型投資人討論的話題已經變成了“如何賣掉部分手里的大模型創業公司股份？”

有參與過大模型企業融資的投資人對新媒體“Tech星球”表示，比起過去投資看好技術、前景、團隊就入手的邏輯，不少機構的內部決策周期越來越長，還會反復計算、評估新錢投出去的回報率。2025年，大模型賽道的融資或許會更加嚴峻。

新技術帶來變革的同時，也會引發亂象和假象。從虛擬人引發的倫理與詐騙問題，到產品借AI之名的價格虛高，再到AI培訓課程的良莠不齊以及創業公司的騙融資行徑，都在提醒著從業者和消費者“AI洶涌”。比追逐浪潮更重要的，是保持清醒––不被短期的利益蒙蔽，也不被誘人的噱頭牽著走。