北京智源研究院（BAAI）推出了最新版本的悟道2.0，成為中國首個超大規模智能模型系統。悟道是一種語言模型，旨在在人類層面的思維上超越OpenAI的GPT-3和谷歌的LaMDA，實現通用人工智能（AGI）和接近人類水平的思維。
悟道2.0接受了4.9TB高質量英文和中文圖像和文本的訓練，其中包括1.2TB中文文本數據，2.5TB中文圖形數據和1.2TB英文文本數據。經過在9個基准上的測試，悟道2.0超過了最先進（SOTA）水平，比任何同行都更接近實現通用人工智能（AGI）和人類水平的思維。
悟道2.0是基於開源的MoE系統FastMoE進行訓練的，MoE是一種機器學習技術，其工作原理是將預測建模任務劃分為子任務，針對每個子任務訓練專家（學習者）模型，並開發門控模型，該門控模型基於要預測的輸入來學習諮詢哪個專家，並組合預測。 FastMoE使悟道2.0能夠並行諮詢不同的專家模型，並切換到預測結果最好的模型。
例如，如果輸入是英文文本，悟道將使用預測模型，在英文文本中生成回應。悟道2.0的發布標誌著中國在人工智能領域的進一步發展，並將有助於提高中國在該領域的競爭力。
悟道2.0的優點
悟道2.0作為中國首個超大規模智能模型系統，具有以下優點：
- 高質量的訓練數據：悟道2.0接受了4.9TB高質量英文和中文圖像和文本的訓練，其中包括1.2TB中文文本數據、2.5TB中文圖形數據和1.2TB英文文本數據。這些數據質量高，數量大，使得悟道2.0在語言理解和生成方面具有更強的能力。
- 超越SOTA：悟道2.0在9個基準測試上超越了最先進（SOTA）水平。這意味著悟道2.0在語言理解和生成方面具有更好的性能和準確性。
- 模型結構先進：悟道2.0採用MoE技術進行訓練，該技術能夠並行諮詢不同的專家模型，並切換到預測結果最好的模型。這使得悟道2.0能夠更快速、準確地處理大量的語言數據，提高語言模型的效率。
- 接近實現通用人工智能（AGI）和人類水平的思維：悟道2.0旨在在人類層面的思維上超越OpenAI的GPT-3和谷歌的LaMDA，實現通用人工智能（AGI）和接近人類水平的思維。這使得悟道2.0具有更廣泛的應用前景，能夠在更多的領域得到應用。
悟道2.0的創辦團隊
悟道2.0的創辦團隊是來自北京智源研究院（BAAI）的專家團隊。 BAAI是一個由北京市人民政府和中國科學院共同建立的人工智能研究機構，致力於推動人工智能技術的發展和應用。
悟道2.0的創辦團隊包括了來自人工智能、計算機科學、機器學習等領域的知名專家和研究人員。他們具有豐富的經驗和專業知識，在語言模型的研究和開發方面具有領先的水平。
悟道2.0的創辦團隊致力於將悟道打造成中國首個超大規模智能模型系統，並在語言理解和生成領域實現突破。他們的努力使得悟道2.0成為了一款具有先進技術和優秀性能的語言模型系統。
