0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AIStation全速上新Jev类决策模型支持,Agent判断选择“更快更准”!

海阔天空的专栏 • 来源:元脑服务器 • 作者:厂商供稿 • 2026-10-14 10:06 • 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

10月13日,浪潮信息AIStation新增对Jev类决策模型的支持,进一步拓展平台对多类AI模型的统一管理与服务能力。实测结果显示,此次支持的Jev类决策模型处理速度最高可达其他参测大语言模型的170倍。企业可基于AIStation平台,在智能体工作流中灵活组合生成式模型与决策模型,在保留复杂推理与内容生成能力的同时,将频繁发生的分类、评分和工具选择交由决策模型快速处理,减少判断环节的响应等待与生成计算开销,让智能体判断选择更快更准,降低运行成本。

随着智能体深入企业业务流程,一项任务的完成往往需要经过多次判断。以客服工单处理为例,系统需要识别问题类别、判断紧急程度,再确定处理部门,后续操作都依赖这些结果及时返回。对于这类答案范围明确的任务,Jev类决策模型可在单次请求中并行处理多个预设问题,直接返回分类、评分及概率等结构化结果,无需逐Token生成完整回答。智能体拿到结果后即可按规则衔接后续处理,缩短高频判断环节的等待时间,提升Agent任务执行效率。

图片

01 AIStation V6将决策模型纳入统一服务体系,完善企业推理服务能力

AIStation V6构建了覆盖Token生产、分发与运营的全链路服务体系:底层统一管理企业自有算力资源,中间提供模型推理服务入口,上层支持多租户、模型管理与用量统计。平台支持Kimi、DeepSeek、Qwen、GLM、MiniMax等主流模型的统一纳管与私有化部署,保障企业数据不出域、服务高可用。

此次新增对Jev类模型的支持,使AIStation V6在既有文本生成、复杂推理等生成式模型服务基础上,进一步拓展面向任务分类、评分和任务路由等场景的决策型模型服务。Jev类模型直接输出结构化结果与概率信息,减少了逐步生成的计算开销,其高频调用场景也对底层平台的并发吞吐和响应延迟提出了更高要求。AIStation V6依托PD分离部署与动态批处理等能力,为Jev类模型的高频判断任务提供毫秒级响应支撑,将决策型模型纳入企业统一的推理服务体系。

图片

02 积算科技率先上线Jev类决策模型服务

作为浪潮信息的重要生态伙伴,北京积算科技有限公司(简称“积算科技”)基于AIStation V6构建了规模化Token服务平台,深度融合主流大模型,提供覆盖AI编程、文本对话、视觉理解等场景的模型服务,平台月调用量已突破万亿Tokens。此次AIStation V6完成对Jev类模型的支持后,积算科技在平台上引入Jev-intern与Jev-clef两款模型,并开放试用申请,为企业自动化和智能体工作流中的高频判断环节提供新的模型选择。

此次上线的两款模型主要用于分类、评分和筛选等判断任务。开发者可根据业务需求设定问题、候选项或评分标准,直接获取结构化的判断结果与概率信息。在意图识别、句子推理、应用分类等7项中文决策评测上,Jev-intern和Jev-clef的平均准确率分别为76.0%和78.4%,Deepseek-v4.1-flash的分数为76.2%。响应速度方面,Jev-intern的响应时间为120~600毫秒,处理速度为其他参测大语言模型的25~170倍;Jev-clef的响应时间为180~1100毫秒,处理速度为其他参测大语言模型的18~90倍。智能体可直接读取结果、衔接后续处理,缩短其在高频判断环节的等待时间,同时减少逐步生成完整回答的计算开销。

图片

通过积算科技Token服务平台,企业开发者可结合已有的通用大模型服务开展应用验证,让不同模型各司其职:通用大模型负责复杂推理与内容生成,Jev类决策模型承担工具选择、审核判断与任务分流等高频任务。例如,在企业知识服务场景中,应用可先调用Jev类模型筛选文档,再由通用大模型生成回答,让低延迟判断与复杂推理相互配合。这种分工有助于智能体在执行长程任务中,减少不必要的生成式调用,为企业优化模型调用成本、提升智能体应用的效率与可控性提供支持。

未来,浪潮信息AIStation将持续拓展对多元模型的部署与管理支持,完善覆盖Token生产、分发与运营的服务能力。通过携手元脑生态伙伴,帮助企业建好、用好自己的“Token工厂”,支撑不同模型在业务流程中协同应用,推动智能体从场景验证走向规模化生产,让模型能力更好地服务于企业实际业务。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    93

    文章

    46814

    浏览量

    308217
  • Agent
    +关注

    关注

    0

    文章

    398

    浏览量

    30139
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    “本地版 Jev”+ RISC-V,决策模型带来端侧 AI 新玩法

    近期,前OpenAI核心研究科学家DiogoAlmeida发布的Jev模型刷屏全球AI社区。区别于传统生成式大模型,Jev主打极速推理、极低成本、毫秒级低时延的高速
    的头像 发表于 09-21 20:02 •459次阅读
    “本地版 Jev”+ RISC-V,决策模型带来端侧 AI 新玩法

    RAG与Agent性能调优50讲,大模型RAG进阶实战营(完结)

    ;,问题根源往往不在大模型本身,而在于检索链路、任务规划与系统架构的层层失守。RAG与Agent性能调优50讲正是瞄准这一痛点,将散落在工程一线的血泪经验,系统化地提炼为一套可落地的调优方法论。 你
    发表于 08-19 15:09

    AI Agent从0到1定制开发 全栈/全流程/企业级落地实战_实战课程_慕课网

    Agent强90.2%,但token用量解释了其中约80%的性能方差。换句话说,多Agent强是因为烧了更多token,而不是因为“多个脑子更聪明”-10。 四、误区三:让模型自己管状
    发表于 08-18 14:45

    视频课程下载—【完结13章】多 Agent+Skills+SpringAI 构建自主决策智能体

    获课:(搜星 课it。top)基于多 Agent、Skills 与 Spring AI 构建自主决策智能体,标志着 AI 应用从“被动响应”向“主动规划”的跨越。这一架构将大模型从单纯的“代码生成器
    发表于 07-14 14:52

    闪学it多 Agent+Skills+SpringAI 构建自主决策智能体(13章完结)

    ,是系统构建者 如果你是一个在研究“下一个模型架构该怎么做”的算法工程师,SpringAI对你来说可能太“上层”了。但如果你是以下三类人之一,这套方案就是你现在最该认真看的东西。 第一类,是正在构建AI
    发表于 07-13 17:15

    多 Agent+Skills+SpringAI 构建自主决策智能体

    当下人工智能发展已从单点对话交互,迈入自主决策、协同作业的智能体时代。传统大模型应用仅能完成简单问答、固定工具调用,无法适配复杂、动态、多流程的实际业务场景。而依托多Agent协作、可插拔
    发表于 07-13 14:04

    Agent + Skills + Spring AI 构建自主决策智能体

    ”,而是具备自主感知、规划与决策能力的“数字原生智能体”。在这一进程中,SpringAI作为连接传统企业级架构与大语言模型的桥梁,其重要性不言而喻。而多Agent(多智能体)协作与Skills(技能)系统
    发表于 07-12 16:19

    Agent+Skills+SpringAI 构建自主决策智能体 - 慕课网

    模糊判断的,交给LLM。好的Agent系统不是让模型\"啥都会\",而是清楚地划定哪些事模型别碰——这正是SpringAI+Skills架构最迷人的地方:用Java的严谨框住AI
    发表于 07-11 16:17

    Agent + Skills + Spring AI 构建自主决策智能体

    SpringAI 全流程实战:多 Agent+Skills 开发自主决策智能体 随着人工智能技术从“单点对话”向“复杂任务执行”跨越,单一的大模型已难以应对现实世界中高度碎片化、专业化的业务需求
    发表于 07-11 10:31

    Hollis【实战课程】大模型应用开发实战,AI大模型应用开发-模型训练-RAG-Agent-AI项目实战(已完结)

    it。top) RAG的普及:从“开口乱言”到“精准智库” 大模型在初期能够展现出惊人的泛化能力,但其致命弱点在于“幻觉”以及知识更新的滞后性。大模型本质上是一个基于概率的“文字接龙”游戏,它并不“知道
    发表于 07-09 15:31

    AI agent大师之路,AI Agent 企业应用全能实战

    的多步骤任务中自主决策。这便是“chat”与“agent”的本质区别。 本课程的核心理念,在于打破“对话”的桎梏,构建真正的“自主智能体”。课程不仅仅传授技术点,更传递一种全新的编程思维——教会学员
    发表于 07-06 11:54

    闪学it鸡翅-大模型与Agent开发实战

    零基础也能上手!鸡翅大模型Agent开发手把手实操教程 2026年,AI Agent早已不是实验室里的概念,而是普通人也能快速落地的实用工具。很多零基础的朋友总觉得Agent开发门槛极
    发表于 06-26 19:08

    多 Agent+Skills+SpringAI 构建自主决策智能体视频教程

    深度拆解 Skills 能力多 Agent 自主智能体开发收官 单 Agent 的天花板,不是模型能力,是架构设计 做了这么久 Agent 开发,最痛的领悟是什么?一个
    发表于 05-12 14:06

    九天菜菜大模型agent智能体开发实战2026一月班

    和长期记忆,短期记忆存储即时信息,长期记忆沉淀持久知识,通过向量数据库等技术实现高效存储与检索,为 Agent 的决策提供有力支持。规划模块赋予 Agent“谋定而后动”的智慧,它运用
    发表于 04-15 16:04

    RPA低于Agent

    RPA 是“按剧本演戏的机器人”,Agent 是“有大脑、会思考、自主解决问题的智能助理”。两者核心差在:规则 vs 智能、固定 vs 自主、执行 vs 决策。 一、核心定位(一句话分清
    发表于 04-04 21:36