新关注 > 信息聚合 > 对话传神语联:以“数推分离”解大模型落地困局

对话传神语联:以“数推分离”解大模型落地困局

2025-01-02 00:00:00来源: ZOL中关村在线

    大模型技术正加速走向商业应用。然而,真正将大模型落地企业场景的过程中,问题远比想象中复杂。    目前,常见的主流大模型多采用数据与推理一体化的模式,这种模式难以持续不断地实时学习企业业务知识,是大模型商业化的核心痛点之一。一方面,企业的数据是训练模型成为行业专家的基础,但数据外流存在安全隐患,企业对公有云方案存疑;另一方面,企业自行训练大模型成本高昂,不仅需要大规模算力和人才支持,传统的微调模式还可能削弱模型的通用能力,使得整体效益难以为继。    OpenAI首席执行官萨姆·奥特曼曾在麻省理工学院的一次对话中提到,GPT-4在推理速度、算力成本等方面存在瓶颈,GPT-5将尝试“数据与推理分离”的新策略。面对相似的问题,中国企业同样在寻找可行路径。    传神语联以“双网络架构”为核心,推出了“数推分离”大模型技术。用副总裁蔺伟的话来说,这种架构好比“两个协同联动的大脑”:一个负责学习客户的数据,确保动态管理和迭代训练