Qwen2-72B是Qwen2系列中最大的模型，擁有72.71億參數（其中70.21億是非嵌入參數）。相比於Qwen1.5-110B模型，Qwen2-72B在擁有更少參數的情況下，依然展示了優越的性能。此外，Qwen2-72B-Instruct支持長達128K tokens的上下文長度，使其能夠處理更大規模的輸入內容。
性能與優勢
Qwen2-72B-Instruct在多項基準測試中顯著優於Qwen1.5-72B-Chat，並達到了與Llama-3-70B-Instruct相當的競爭性表現。該模型不僅在英文和中文方面有出色表現，還接受了27種其他語言的訓練，進一步提升了其多語言處理能力。
模型的開發過程包括大規模的預訓練，隨後進行後訓練，以進一步增強其智能性並使輸出結果更符合人類價值觀。Qwen2-72B-Instruct現已在Hugging Face上提供。
代碼執行能力
Qwen2-72B在代碼執行任務中的表現尤為突出。該模型在執行代碼的準確性方面達到了72.7%的高水準，顯著高於其他模型，如GPT-4（82.8%）、GPT-3.5（74.1%）和LLaMA2-13B-Chat（48.3%）。其代碼可執行率為41.7%，也顯示出其在正確執行代碼方面的強大能力。
主要亮點
- 高準確性：在代碼執行的準確性上，Qwen2-72B取得了72.7%的優異成績。
- 可執行率：該模型的代碼可執行率為41.7%，表明其能夠正確執行更大比例的代碼。
- 整體性能：在一般代碼任務中，Qwen2-72B的準確性達到了82.8%，可執行率同樣為82.8%。
- 模型比較：Qwen2-72B在所有代碼基準測試中均優於Qwen1.5-72B-Chat，並與Llama-3-70B-Instruct展現了相當的競爭力。
- 長上下文理解：Qwen2-72B能夠處理長達128K tokens的上下文，使其能夠有效理解和執行複雜的代碼。
這些在代碼任務中的改進展示了Qwen2-72B的增強能力，使其成為該領域的一個強大競爭者。隨著模型的發展和應用，Qwen2-72B將在更多領域中展示其強大的智能和靈活性。