AI的十億美元瓶頸：關鍵在於高品質數據，而非模型 | 評論

AI 可能會成為下一個兆美元產業，但它正悄悄地接近一個巨大的瓶頸。當所有人都在競相打造更大、更強大的模型時，一個迫在眉睫的問題卻幾乎未被解決：我們可能在短短幾年內就會耗盡可用的訓練數據。

根據 EPOCH AI 的數據，自 2010 年以來，大型語言模型的訓練數據集規模每年大約以 3.7 倍的速度增長。照此速度，我們可能會在 2026 年至 2032 年之間耗盡全球高品質、公開的訓練數據供應。

即使在我們真正碰壁之前，獲取和整理標註數據的成本已經在飆升。數據收集與標註市場在 2024 年的估值為 37.7 億美元，預計到 2030 年將膨脹至 171 億美元。

如此爆炸性的增長顯示出明確的機會，但同時也存在明顯的瓶頸。AI 模型的優劣取決於其訓練數據的品質。若沒有可擴展的新鮮、多元且無偏見的數據集管道，這些模型的表現將會停滯，其實用性也會開始下降。

所以，真正的問題不是誰打造了下一個偉大的 AI 模型，而是誰擁有數據，以及這些數據將從何而來？

AI 的數據問題比看起來更嚴重

過去十年，AI 創新高度依賴於公開可用的數據集：Wikipedia、Common Crawl、Reddit、開源代碼庫等等。但這些資源正在迅速枯竭。隨著企業加強對其數據的管控，以及版權問題日益嚴重，AI 公司被迫重新思考其策略。各國政府也開始出台法規限制數據抓取，公眾輿論也逐漸反對用未付費的用戶生成內容來訓練價值數十億美元的模型。

合成數據是一種被提出的解決方案，但這是一種高風險的替代品。用模型生成的數據訓練模型，可能導致反饋迴圈、幻覺現象，並隨時間推移導致性能下降。還有品質問題：合成數據往往缺乏真實世界輸入的混亂與細膩，而這正是 AI 系統在實際場景中表現良好所需的。

這使得真實世界的人類生成數據成為黃金標準，但這類數據卻越來越難獲得。大多數收集人類數據的大型平台，如 Meta、Google 和 X（前身為 Twitter），都是圍牆花園。存取受到限制、被貨幣化，甚至完全禁止。更糟的是，他們的數據集往往偏向特定地區、語言和人口結構，導致模型產生偏見，無法在多元的真實世界應用場景中發揮作用。

簡而言之，AI 產業即將面臨一個長期被忽視的現實：打造一個龐大的 LLM 只是戰鬥的一半，餵養它才是另一半。

為什麼這真的很重要

AI 價值鏈分為兩部分：模型創建和數據獲取。在過去五年裡，幾乎所有資本和熱度都集中在模型創建上。但隨著我們推動模型規模的極限，注意力終於轉向了這個等式的另一半。

如果模型正逐漸商品化，有開源替代方案、更小型的版本和硬體高效設計，那麼真正的差異化就變成了數據。獨特且高品質的數據集將成為決定哪些模型表現更佳的燃料。

這也帶來了新的價值創造方式。數據貢獻者成為利益相關者。建設者能獲得更新鮮、更動態的數據。企業則能訓練出更貼合目標受眾的模型。

AI 的未來屬於數據提供者

我們正進入 AI 的新時代，誰控制數據，誰就擁有真正的權力。隨著訓練更好、更聰明模型的競爭升溫，最大的限制將不再是算力，而是如何獲取真實、有用且合法可用的數據。

現在的問題不再是 AI 能否擴展，而是誰來為這種擴展提供燃料。這不僅僅是數據科學家的事，還包括數據管理者、聚合者、貢獻者，以及將他們聚集在一起的平台。這才是下一個前沿所在。

所以下次你聽到有關人工智慧新前沿的消息時，不要問誰建造了這個模型，而要問誰訓練了它，以及數據來自哪裡。因為最終，AI 的未來不僅僅關乎架構，更關乎輸入。