本站10月24日消息,今日,科大訊飛舉辦“2024科大訊飛全球1024開發者節”。
會上,科大訊飛正式發布汽車端側星火大模型,相較于云端大模型,汽車端側星火大模型在無網環境下可用,且使用效果與云端相比幾乎無差異。
科大訊飛介紹,很多用戶在開車經過山洞隧道,或在其他特殊場景下,會遇到無網的情況;還有些用戶出于保護個人隱私需求,不希望將個人數據同步至云端。
而科大訊飛首發的汽車端側星火大模型,將大模型部署在汽車端本地,不依賴云端網絡,完美解決以上用戶的使用痛點和需求。
科大訊飛表示,雖然他們部署的汽車端測星火大模型,只有1.3B的參數產出,比現在通用模型降低了兩個數量級,但在汽車典型應用場景中,這些應用場景中的實際效果只下降了1%,實用效果幾乎沒有差異。
端側首響應時間降低到40毫秒,在復雜場景下還可以調用云端模型,即便需要調各種信源,端云融合的響應時間也降低至1.3秒,汽車端側星火大模型的技術效果和響應速度,屬于全行業領先的水平。
科大訊飛透露,汽車端側星火大模型不僅是今天首發軟硬件一體化的模型,關鍵是從今年第四季度開始,奇瑞、廣汽、長城等多款車型,正在陸續集成上線并開售,用戶很快就能體驗到。
鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播更多信息之目的,如作者信息標記有誤,請第一時間聯系我們修改或刪除,多謝。