本站10月31日消息,摩爾線程宣布,針對PyTorch深度學習框架的MUSA插件“Torch-MUSA”,迎來重大更新新版本v1.3.0,全面兼容PyTorch 2.2.0。
新版進一步提升了PyTorch在摩爾線程GPU MUSA架構上的模型性能與覆蓋度,能更友好地支持模型遷移到摩爾線程GPU。
PyTorch是全球廣泛使用的深度學習框架,在自然語言處理、計算機視覺、推薦系統等多個領域展現出了強大的應用能力。
摩爾線程Torch-MUSA專為PyTorch提供MUSA后端加速支持,使得用戶能夠在MUSA架構上流暢運行深度學習模型,充分發揮國產全功能GPU的強大計算能力。
自發布以來,Torch-MUSA已歷經多個版本的迭代,不斷提升兼容性與性能。
Torch-MUSA v1.0.0版本開始,率先支持了PyTorch 2.0,帶來了顯著的計算加速和易用性。
經過持續的開發與優化,最新發布的v1.3.0版本已全面支持PyTorch 2.2.0,極大提升了模型訓練與推理的效率,滿足了更多高性能深度學習任務的需求。
目前,Torch-MUSA已完全開源,開發者可通過訪問GitHub獲取源代碼。
摩爾線程鼓勵開發者積極參與該項目的開發與改進,通過提交問題報告(issue)或代碼修改申請(pull request)等方式,共同促進Torch-MUSA以及MUSA軟件生態的持續進步和發展。
▼ Torch-MUSA開源地址:
https://github.com/MooreThreads/torch_musa
▼ 功能特性
在Torch-MUSA中,用戶只需指定torch.device("musa"),即可輕松將現有的PyTorch模型遷移到MUSA架構的GPU上運行,無需大幅修改代碼。
Torch-MUSA完全兼容PyTorch的自動微分和動態圖機制,支持多種常用的神經網絡模塊及優化算法,并加速了關鍵深度學習算子的計算。
此外,Torch-MUSA還支持多種PyTorch特性,包括DDP、JIT、FSDP、Profiler、Extension等。
▼ 版本迭代
v1.1.0:
初次發布,支持PyTorch 2.0,提供基礎張量操作和常見神經網絡層的MUSA加速。
v1.2.0:
進一步擴展算子支持,支持了完整功能的Profiler、MUSA Extension,并增加了Torch-MUSA專有特性如compare_tool、musa_converter,幫助用戶更快的定位模型精度問題。
v1.3.0:
支持PyTorch2.2.0,性能進一步提升,支持FSDP,支持更復雜的模型和更大規模的數據處理。
▼ 未來計劃
Torch-MUSA將繼續跟進PyTorch的版本更新,計劃支持更高版本的PyTorch。
鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播更多信息之目的,如作者信息標記有誤,請第一時間聯系我們修改或刪除,多謝。