Mixtral 8X7B：打败GPT3.5的大语言模型本地部署实战指南 - 知乎
视频通过实际案例测试展示,新推出的Mixer 8x7b预训练语言模型在文本生成任务上不仅生成质量高流利,响应速度也快性能较强,而且在构建带有计算器和网络搜索工具的智能代理系统时表现更为可靠,没有如GPT-3.5一般会出现的问题,初步证实Mixer很可能成为开源领域文本处理能力最强大的模 …
如何看待MistralAI开源全球首个基于混合专家技术的大模型Mistral …
知乎，中文互联网高质量的问答社区和创作者聚集的原创内容平台，于 2011 年 1 月正式上线，以「让人们更好的分享知识、经验和见解，找到自己的解答」为品牌使命。知乎凭借认真、专业、友善的社区氛围、独特的产品机制以及结构化和易获得的优质内容，聚集了中文互联网科技、商业、 …
Mistral Large 发布，对工业届和学术届有什么影响？ - 知乎
Mistral 正式发布 Mistral Large在基准测试中仅次于GPT-4，超过其他所有模型。 Mistral Large具有新的功能和优势： 它在英语、法语、西班牙语、德语和意大利语方面拥有母语般流利的能力，并对语法和文化背景有细致的理解。
如何看待MistralAI开源全球首个基于混合专家技术的大模型Mistral …
猜测 Mixtral-8x7B MoE 模型大概率不是 From Scratch 训练的，而是通过之前非常强的 Mistral-7B 进行 Sparse Upcycling 扩展得到的。 推测原因是比较 Mixtral-8x7B 和 Mistral-7B 两者的模型结构，可以发现 8x7B 模型里的 Expert 规格和 7B 完全一致，均为：
如何看MistralAI开源Mistral-7B-v0.2，是否值得升级？ - 知乎
近日，Mistral AI再次引领开源潮流，发布了Mistral-7B v0.2基础模型，这不仅是对之前版本的升级，更是在性能与功能上的一次质的飞跃。 Mistral-7B v0.2不仅将上下文长度由4K扩展至惊人的32K，还在多个维度上进行了优化与调整，证实了其作为开源界性能巨兽的地位。
Mistral Medium测评：表现接近GPT4，价格却只需1/10 - 知乎
Dec 15, 2023 · Mistral Medium测评：表现接近GPT4，价格却只需1/10 视频通过一系列测试,显示新型Mistel MediumAI模型在解答数学、词汇与JSON问题等各项能力测试中表现出色,正确答对包括其他模型难题在内的大多数测试项目。
个人微调大模型(7B)，最经济的硬件配置是什么？ - 知乎
想自己炼丹玩，硬件如何选择能够省钱又够用？一块4090？还是多张2080、3080或多张p40？
2024年开始，AI PC将登上舞台，你认为本地运行6-7B 的大语言模 …
目前英特尔、AMD、英伟达都在推动大语言模型的本地运行，主要是将开源的LLAMA、chatGLM等在PC上运行。
法国初创公司 Mistral AI 发布首个生成式人工智能模型，该模型有 …
那就是疑似 Mistral AI 的闭源大语言模型 （镇司之宝）Mistral Medium 在 Hugging Face 上被泄露了。 Mistral AI 是在巴黎的AI创业公司，开源过三款大家耳熟能详的模型，Mistral-7b-Instruct-v0.1，Mistral-7b-Instruct-V0.2 以及第一个 MoE 架构的模型 Mixtral 8*7B，其中 Mixtral 8X7B 取得 …
十分钟读懂旋转编码（RoPE） - 知乎
其中 RoFormer 是一个绝对位置编码替换为 RoPE 的WoBERT模型，后面的参数（512）是微调时截断的maxlen，可以看到 RoPE 确实能较好地处理长文本语义。