微軟的Nadella受訪談了很多他們的AI策略、投資AI的ROI和未來展望，是蠻好的訪問。他還提到他們現在越來越沒有GPU供應鏈的供貨瓶頸。但是有電力瓶頸。
---Bg2 Pod 的訪問內容---
#AI市場格局
談到AI市場競爭，納德拉認為OpenAI已經成為這個世代的標誌性公司，就像Google或微軟在各自時代的地位。他表示：「人們現在談論MAG7（主要科技公司），但不僅於此。我認為這個世代的標誌性公司已經誕生，那就是OpenAI。」
在市場結構方面，納德拉並不認為這會是贏家通吃的市場。他指出，在超大規模基礎設施方面，世界需要多個供應商，即使在中國之外也是如此。微軟的優勢在於建立Azure時就考慮到企業工作負載，擁有超過60個區域，比其他公司都多。
#當前面臨的挑戰：資源與基礎建設
納德拉坦承目前在供電方面仍然受限。他表示：「我們在2024年的晶片供應限制已獲得改善，但直到2025年上半年，我們仍在追趕需求。」資本支出從2020年的約200億美元大幅增加，預計到2025年可能達到700億美元。
#AI安全性議題
關於AI安全，納德拉特別提到在Windows環境中的挑戰：「這是一個有趣的問題，即是否允許chatGPT在Windows作業系統上隨意開啟應用程式。這涉及到使用者權限的問題，我們需要一些安全護欄，特別是要防止惡意軟體下載後透過AI執行危險操作。」
#AI的未來發展：模型演進與規模效應
談到AI模型的未來發展，納德拉深信規模法則的重要性：「這是我們在2019年下注的原因。但同時我們也必須務實地認知，隨著叢集變得更龐大，這些指數級的規模擴張會變得更具挑戰性。分散式運算在大規模訓練時會面臨更多技術難題。」
在討論具體的擴張策略時，納德拉分享了他的見解：「就像Jensen說的，你每年都要買一些設備，而不是一次性大量採購。當你將設備折舊期設為6年時，最好的方式就是每年購買一些，然後逐漸老化。你用最新的節點做訓練，隔年它就轉為推理使用，這就是我們在整個機群中要達到的穩定狀態。」
在預訓練與推理的關係上，納德拉分享了一個重要觀察：「OpenAI在GPT-4方面做出了突破。他們透過思維鏈結和自動評分創造了另一種規模法則，也就是測試時運算或推理時運算。你有預訓練，然後在推理時進行採樣，這些標記可以再投入預訓練，創造更強大的模型。」
#企業應用的轉型
納德拉預見企業應用將發生根本性的變革：「在代理人時代，傳統的商業應用程式模式將徹底改變。這些應用本質上就是具有商業邏輯的資料庫，而這些邏輯都將轉移到AI代理人中。這些代理人不會區分後端系統，它們會更新多個資料庫，所有的邏輯都會在AI層面運作。」
以供應鏈管理為例，納德拉解釋：「有人跟我說，供應鏈就像是一個交易平台，只是缺乏即時資訊。現在想像如果有一個財務分析師能即時提供建議：『當你在這個地區簽訂這個資料中心的合約時，應該考慮這些條款。』所有這些即時智慧正在改變工作流程。」
#記憶與智慧整合
在討論AI的進階功能時，納德拉特別提到了「近乎無限的記憶」概念：「我們正在開發一個類型系統來管理記憶。每次我開始一個新專案時，它能夠基於過往經驗進行分類，這種類型匹配是我們建立記憶系統的好方法。」
#經濟模式的演變
對於AI的經濟效益，納德拉提出了務實的觀點：「經濟現實最終會成為一個制約因素。每個人都會開始思考什麼是經濟合理的做法。即使我能每年將能力翻倍，但如果無法銷售這些庫存，就需要重新思考。另一個問題是贏家的詛咒，你甚至不需要發表論文，其他人只要看到你的能力就可以進行蒸餾或反向工程，用更有效率的方式實現。」
他進一步解釋了組織結構的轉變：「我們的總人力成本會下降，但每位員工的成本會上升，研究人員的GPU使用量也會增加。這就是我們看待未來的方式。」
他總結道：「我認為會有一個治理者來控制人們追逐的程度。現在每個人都想要成為第一，這很好，但最終經濟現實會影響到每個人。而且網路效應都在app層面，為什麼要在模型能力上投入大量資金，當網路效應都在App應用層面呢？」
他談到的內容其實更多，有興趣的人可以聽聽
https://youtu.be/9NtsnzRFJ_o?si=gib7cO5wr1eWCwre
>>Click here to continue<<
