欧美本精品男人aⅴ天堂_亚洲精品久久久蜜桃_国产精品资源网_亚洲精品在线观看网站

您當前的位置 :創業 >
解決傳統架構記憶瓶頸 MiniMax發布新一代模型
2025-01-16 10:47:16   來源:新京報  分享 分享到搜狐微博 分享到網易微博

1月15日,“AI六小虎”之一的MiniMax發布并開源了新一代01系列模型,包含基礎語言大模型MiniMax-Text-01和視覺多模態大模型MiniMax-VL-01。該系列模型使用多項突破性創新,以大規模應用線性注意力機制打破了Transformer傳統架構的記憶瓶頸。

未來,AI智能體有望成為最重要的產品形態,由于智能體處理的任務變得越來越復雜,涉及的數據量也越來越大,單個智能體的記憶以及多個智能體協作間的上下文都會變得越來越長。因此,長上下文能力與多模態處理能力的提升至關重要。

技術上,MiniMax-01系列模型首次將線性注意力機制擴展到商用模型的級別,受益于此次架構創新,該系列模型在處理長輸入的時候具有非常高的效率,接近線性復雜度。從規模效應、結構設計、訓練優化和推理優化等層面綜合考慮,MiniMax選擇模型參數量為4560億,其中每次激活459億,能夠高效處理400萬token的上下文,將有效替代Transformer傳統架構并開啟超長文本輸入時代。相較于Gemini等一眾全球頂級模型,MiniMax-01隨著輸入長度變長,性能衰減最慢。

值得注意的是,MiniMax還開源了Text-01模型、VL-01模型的完整權重,以便于更多開發者做有價值、突破性的研究。MiniMax方面表示,“我們認為這有可能啟發更多長上下文的研究和應用,從而更快促進Agent時代的到來,二是開源也能促使我們努力做更多創新,更高質量地開展后續的模型研發工作。”

關鍵詞:


[責任編輯:ruirui]





關于我們| 客服中心| 廣告服務| 建站服務| 聯系我們
 

中國焦點信息網 版權所有 滬ICP備2022005074號-20,未經授權,請勿轉載或建立鏡像,違者依法必究。
 

主站蜘蛛池模板: 日本一区视频在线播放| 日韩人妻无码精品久久久不卡| 日本一区免费| 777午夜精品福利在线观看| 欧洲中文字幕国产精品| 中文视频一区视频二区视频三区| 视频一区二区三区免费观看| 久久香蕉国产线看观看av| 国产精品久久久影院| 久久久久北条麻妃免费看| 日韩欧美一区二区三区四区| 国产999在线观看| 中文字幕欧美日韩一区二区三区| 欧美一级片一区| 免费无遮挡无码永久视频| 欧美日韩电影在线观看| 欧美交换配乱吟粗大25p| 国产精品自拍视频| 精品亚洲第一| 国产精品久久九九| 国产日产亚洲精品| 久久精视频免费在线久久完整在线看| 久热国产精品视频| 日韩有码免费视频| 热久久免费国产视频| 欧美日韩亚洲第一| 精品一区二区三区自拍图片区| 国产精品自在线| 日韩视频在线免费看| 日韩免费不卡avV| 亚洲制服欧美久久| 精品99在线视频| 国产精品久久视频| wwwwww欧美| 欧美精品午夜视频| 久久亚洲国产精品日日av夜夜| 久久精品国产亚洲精品| 久久精品免费一区二区| 欧美激情网友自拍| 在线视频不卡一区二区| 欧美韩国日本精品一区二区三区|