原创 算力百科 J 2025-03-06 06:00 贵州
我们一定要牢记，现阶段的领导已经完成了市场化教育，虽然他们不懂技术，但是他们一直在体验优秀的，高智商大模型，他们知道智商最高的模型是什么样，虽然他们不知道怎么应用大模型，但是他们内心对大模型的效果，有自己的想像，虽然大多数是空想。
受害者案例
这个案例是真实的，这个哥们之前问过我选什么版本，我俩还探讨过选什么版本比较好，我推荐他选满血版，哪怕是选择一个量化Q4的，他们预算不多，领导的意思是先做个AI助手，再慢慢体验后续逐步集成到业务系统里。
最终，他们选择了一个之前合作过的集成商，提供了一个DeepSeek 蒸馏的70B版本，部署了一个AI助手用，领导说不好用，天天PUA他，然后就吵吵起来了，被迫离职。
领导很好学，天天在体验APP
现在的领导都是既要又要还要，很多领导虽然技术不咋地，但是他们朋友多，朋友们各种推荐，下载一堆大模型app。
我认识一个部委的处级干部，手机上有5 6个大模型APP，Deepseek 、豆包、通义、kimi、文小言都有，没事的时候各种体验，跟我分享他的体验效果，哪个好，哪个不好，他的想法，美其名曰，与时俱进。
这类领导很多，他天天泡在大模型APP上体验，他们也需要聊天话题。现在内网给他一个70B私有化的助手，他能体验好么？由奢入俭难啊，他已经体验过效果好的大模型，智障版真心看不上。
我们一定要牢记，现阶段的领导已经完成了市场化教育，虽然他们不懂技术，但是他们一直在体验优秀的，高智商大模型，他们知道智商最高的模型是什么样，虽然他们不知道怎么应用大模型，但是他们内心对大模型的效果，有自己的想像，虽然大多数是空想。
员工没有错，预算有限
员工没有错，都是预算不够惹的祸。预算充足，谁不想用最好的，谁不想买最好的，但是囊中羞涩，领导不给批更高的预算，被逼无奈，只能退而求其次，选择一个70B。
选型工程师选一个70B，可以预测到领导体验不好，但是领导体验不好叼你两句就叼你两句呗，你干啥要跟领导顶着来啊，还是太年轻了，打工过程中，一定要记住“领导一定是对的”这是高情商的表现。当年我就是这么被PUA的，虽然我知道年轻人从来不喜欢听建议，因为我就不喜欢听别人的建议，我也有跟领导吵架美其名曰“主动离职”的经历。
在这里有一个小建议，虽然Deepseek方向很火，但是相关工作招聘的岗位依然不多，大环境使然，各位同学能忍就忍，工作不是那么好找，或者骑驴找马，找到再提离职。正是因为这样的现状，让某些领导更加的变本加厉PUA。
最近群里讨论最多话题就是用什么版本够用？
群友回答最多的答案是“用什么版本的大模型主要看场景”，选择哪个版本主要看钱，钱多啥都不是事，钱少啥都是事。
硬件成本=参数版本（智商程度=精确度）*并发数*响应速度。
在硬件一定的情况下，参数越大占用硬件资源越大，并发数和响应速度越慢。
算力百科团队建议一体机厂商，不妨把应用场景分为两类：实时任务和非实时任务。
非实时任务：例如智能客服、会议纪要、行业分析、离线翻译、合同审阅等等任务不需要实时性，任务提交等几分钟就是可以接受的，但是要求准确率极高，所以这种场景就需要高智商版671B。
实时任务：同声传译、问答练习、业务助手、企业内搜，这类任务既要求准确性又要求实时性。
在大模型内网部署，算力资源有限的情况下，任务一定要分优先级，排队机制很重要，需要实时性的任务，优先级高的任务及时响应，非实时任务可以排队到晚上处理。
以ds为借口，被开除的人会更多
真正的干活的能有多少决策权呢？选择什么样的模型还不是领导决定的？但是承担责任的往往都是干活的。
deepseek一体机已经完成了很多场景落地，但是更多没有完成业务闭环，跟风的居多。
算力百科团队调研过的客户用起来的场景，都是通过原业务伙伴落地的，而且效果特别好。举两个完成闭环的业务场景。
例如，某伙伴AI社工已经完成落地，每个基层网个人人手一个AI助手，用来给协助孤寡老人办理业务，大大提高了办事效率。他们之前就是提供社区管理业务系统的开发商，目前AI社工卖的很好，目前跟运营商合作非常紧密，运营商为什么愿意分包给他们，因为他们业务做的落地啊。
例如：某伙伴电子病历AI助手上线，之前的电子病历都是写好模版，把一些关键空格空着，让医生填写，现在不需要了，AI自动读取相关化验单和化验数据，自动完成电子病历填写，并且标红，由医生审核即可，大大节约了医生电子病历填写时间。当然这个伙伴本来就是国内top5的电子病历软件提供商。
目前很多客户选择deepseek一体机都只能web访问个助手，只是因为很多信息不能发到公网上，所以在内网用，但是无奈内网又选了个智障版。根本不好用，造成事与愿违，选型的技术人员最后成为内网兜底背锅的那个人，类似的矛盾随着一体机成交量的上升，类似的矛盾肯定是越来越多。因此类矛盾离职的也肯定越来越多
DeepSeek业务黑马和白马
业务黑马：就是业务系统很熟悉，最好是之前开发某一个系统的，现在用AI改进这个系统去落地，并且快速完成商业闭环。
业务白马：就是履历非常靓丽，海龟、名校、大厂根红苗正，通过资本故事获得资本青睐，用资本的力量推动业务商业闭环。
最终能落地的一定是业务商业能完成闭环的场景，所以建议客户选择一体机的时候一定要选择这两种供应商，才有可能走下去，如果只是买个硬件，那基本上最后就gg。
DeepSeek模型和应用部署，私有化模式一共有两种：
A:完全私有化：模型和应用都私有化在一体机里，这种称之为完全私有化。
B：混合私有化：模型公有云，应用私有化在一体机里，这种称之为混合私有化（类似混合云）
个人认为，如果混合私有化和公有云没啥区别，如果想拿你数据，肯定一样拿走，中小微就直接用公有云得了。
你们说这个小伙冤枉不冤枉？！好像都没错！
欢迎加入DS前瞻圈，一起领略Deepseek引领AI文艺复兴！！
