本文作者:梦想追逐者

Mistral 发布 Ministral 3B_8B,“全球最好的边缘模型”

Mistral 发布 Ministral 3B_8B,“全球最好的边缘模型”摘要: 直播吧月日讯在欧冠第二轮比赛中维拉主场击败拜仁维拉本赛季各赛事战绩胜平负其中英超胜平负联赛杯胜欧冠胜仅输给阿森纳维拉本赛季战绩联赛西汉姆阿森纳莱斯特城埃弗顿狼队伊普斯维奇联赛杯韦康...

直播吧10月3日讯 在欧冠第二轮比赛中,维拉主场1-0击败拜仁。维拉本赛季各赛事战绩7胜1平1负,其中英超4胜1平1负,联赛杯1胜,欧冠2胜,仅输给阿森纳。维拉本赛季战绩联赛2-1西汉姆0-2阿森纳2-1莱斯特城3-2埃弗顿3-1狼队2-2伊普斯维奇联赛杯2-1韦康比流浪者欧冠3-0年轻人1-0拜仁...

Mistral 发布 Ministral 3B_8B,“全球最好的边缘模型”

IT之家 10 月 17 日消息,Mistral 公司 推出了 Ministral 3B 和 Ministral 8B 两款 AI 模型,并不需要连接云服务器,重点提高笔记本电脑和智能手机等设备的本地化 AI 体验, 声称是“世界上 的边缘模型”。

Mistral 公司表示越来越多的企业希望能够在个人设备上运行 AI 模型,一方面确保安全的数据处理,另一方面也提高响应速度。

上述两个模型可在没有互联网接入的情况下,执行翻译服务、本地分析和机器人等多项服务。

这两个 AI 模型的上下文窗口均为 128K,相当于一次可以处理 50 页文档。

Ministral 8B 的价格为每百万个 tokens 售价 0.1 美元,而 3B 版本则为 0.04 美元,适合小规模操作或初创开发者。Ministral 8B 采用了特殊的交错滑动窗口注意力机制,这种设计可以在推理时更快且节省内存。IT之家附上相关性能图表如下:

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

阅读
分享