微軟發布 Phi-3：功能強大的小型語言模型
微軟推出了Phi-3，這是其最小的語言模型系列，旨在提供與更大型模型相當的效能，同時使用更少的參數和資源。Phi-3 靈感來自兒童讀物，展示瞭如何使用更簡單的語言來傳達複雜的概念。
Phi-3 系列
Phi-3 由三種模型組成：Phi-3-mini（38 億參數）、Phi-3-small（70 億參數）和 Phi-3-medium（140 億參數）。其中，Phi-3-mini 已在 Microsoft Azure、Hugging Face 和 Ollama 上公開，而較大的模型預計在未來幾週內推出。
訓練靈感
Phi-3 的創新訓練方法受到兒童讀物中講述睡前故事或用更簡單的語言解釋複雜概念的靈感啟發。研究人員發現，這種方法可以讓模型更有效地理解和產生語言。
Phi-3 與競爭對手
與大型語言模型（LLM）相比較，Phi-3 系列的模型更小巧，所需的資源更少，但效能卻不遜色。基於評準測試，Phi-3-mini 在語言理解、推理、數學和程式碼編寫方面都超越了 Google Gemma-7B 和 Mistral-7B 等同規模的 LLM。
Phi-3 的優勢
Phi-3 小型語言模型為企業和開發人員提供了以下優勢：
-
低成本和低資源需求：
與 LLM 相比，SLM 的成本更低，在個人裝置上運行效能更好。
-
適用於資源有限的環境：
SLM 可以部署在運算效能有限或離線的環境中，讓組織即使在頻寬受限的情況下也能受益於 AI。
-
更便攜：
Phi-3-mini 具有僅 38 億參數的輕量級性，使其可以在筆記型電腦等本地裝置上運行。
-
廣泛支援：
Phi-3 與多種硬體平台相容，包括 CPU、GPU、FPGA 和行動裝置。
Phi-3 的應用
Phi-3 具有廣泛的應用，包括：
-
自然語言處理：
Phi-3 可用於語言翻譯、文本摘要和問答系統。
-
程式碼輔助：
Phi-3 可以幫助開發人員撰寫程式碼、偵錯和生成文件。
-
數學解題：
Phi-3 擅長數學計算，可用於教育或研究。
-
離線分析：
Phi-3 可以部署在沒有網路連線的裝置上，用於離線分析和決策。
微軟的 Phi-3 模型系列代表了小型語言模型技術的重大進步。這些模型提供了與大型 LLM 相媲美，甚至超越的效能，同時所需的資源更少。Phi-3 的靈活性、低成本和廣泛的應用範圍，使其成為企業和開發人員的理想選擇，可以幫助他們解決各種與語言相關的挑戰。
微軟的介紹：https://news.microsoft.com/source/features/ai/the-phi-3-small-language-models-with-big-potential/