2025-06-15 14:32 浙江
模型上新1173、数据集上新143、应用上新76、文章发布10篇
🙋魔搭ModelScope本期社区进展:
📟1173个模型:Magistral-Small-2506、dots.llm1、MonkeyOCR等;
📁143个数据集:saisdata、OpenThoughts3-1.2M、MMVU等;
🎨76个创新应用:BMMR-Leaderboard-detailed、RedNoob、openaudio-s1-mini等;
📄 10 篇内容:
告别‘人海战术’!基于EvalScope 的文生图模型智能评测新方案
UGPhysics:本科物理推理评估基准发布,助力AI+Physics交叉研究
支持自主创建MCP啦!一文带你玩转魔搭MCP广场,从idea到部署自己的MCP到魔搭
One-to-Normal Anomaly Personalization:少样本异常识别新突破,扩散模型助力精准检测
从种草生活到种草AI,小红书发布首个开源大模型dots.llm1
趣丸千音MCP首发上线魔搭社区,多重技术引擎,解锁AI语音无限可能
想一年不如实实在在干两天 | 52小时创业森林开启报名
AgentScope 与 MCP:实践、思考与展望
“一丹一世界”三等奖 | 蓝色幻想 经验分享-AIGC商业海报落地
十万奖金等你来战!第二届“隐语杯”数据挑战赛报名正式启动!
01
模型推荐
Magistral-Small-2506是基于Mistral Small 3.1(2503版本)的升级模型,通过融合Magistral Medium轨迹的监督微调(SFT)与强化学习(RL)训练,显著增强推理能力。这款高效的小型推理模型参数量达240亿,量化后可在单张RTX 4090显卡或32GB内存的MacBook本地部署。
Magistral-Small-2506具备长推理链能力,支持英语、法语、中文等数十种语言,采用Apache 2.0开源许可(允许商业及非商业使用)。其128k上下文窗口实际建议设为40k,超过此范围性能可能下降。模型链接:https://modelscope.cn/models/mistralai/Magistral-Small-2506示例代码:
推荐使用vLLM,按如下方式启动模型:VLLM_USE_MODELSCOPE=true vllm serve mistralai/Magistral-Small-2506 --tokenizer_mode mistral --config_format mistral --load_format mistral --tool-call-parser mistral --enable-auto-tool-choice --tensor-parallel-size 2
dots.llm1
dots.llm1 模型是小红书Hi lab团队(Humane Intelligence Lab)推出的一个大规模的 MoE 模型,从总共 142B 参数中激活了 14B 参数,性能与当前最先进的开源模型相当。 通过rednote-hilab研究团队精心设计和高效的数据处理流水线,dots.llm1 在没有合成数据的情况下,在高质量语料库上预训练后,达到了与 Qwen2.5-72B 相当的性能。为了进一步促进研究,研究团队开源了整个训练过程中的中间训练Checkpoint,并提供了对大型语言模型学习动态的宝贵见解。模型链接:
https://modelscope.cn/organization/rednote-hilab
示例代码:
推荐使用Docker 进行模型推理,Docker 镜像可在 Docker Hub(https://hub.docker.com/repository/docker/rednotehilab/dots1/tags) 上找到。
可以通过 vllm 启动一个服务器
docker run --gpus all \
-v ~/.cache/huggingface:/root/.cache/huggingface \
-p 8000:8000 \
--ipc=host \
rednotehilab/dots1:vllm-openai-v0.9.0.1 \
--model rednote-hilab/dots.llm1.inst \
--tensor-parallel-size 8 \
--trust-remote-code \
--served-model-name dots1
然后可以通过以下方式验证模型是否成功运行
curl http://localhost:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "dots1",
"messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Who won the world series in 2020?"}
],
"max_tokens": 32,
"temperature": 0
}'
更多推理实战教程详见:
MonkeyOCR