来源 :深交所互动易2023-12-11
cninfo1190749问因赛集团(300781)今日学术界推出了一种基于全新网络架构(selective state space model)的大模型Mamba,在相同参数量情况下性能完爆transformer架构,因赛集团是否会不断引进先进领先的Mamba技术来迭代更新InsightGPT,不断提高公司核心竞争力?
2023-12-06 20:36:43
因赛集团答cninfo1190749
尊敬的投资者您好:虽然Transformer目前已成为AIGC大模型的主流架构,但随着模型规模的扩展和需要处理的序列不断变长,Transformer的局限性也开始凸显,例如模型中自注意力机制的计算量会随着上下文长度的增加呈平方级增长,导致计算效率持续降低。近日一篇研究论文提出,Mamba在语言任务上击败/匹配Transformer性能,具有线性复杂度和5倍推理吞吐量,是通用序列模型骨干的有力候选者。公司一直对AI技术领域的发展动态保持高度敏感和关注,并持续学习,希望利用领先且可用的技术不断迭代和优化InsightGPT。公司研发团队正在对Mamba模型进行调研和分析,初步认为其在快速训练和推理以及特定任务性能方面确实显示出较大潜力,但对长文本提问的回复质量可能弱于Transformer,现阶段还需要再持续观望和评估。当然,InsightGPT作为营销行业的多模态垂直模型,技术固然重要,行业精髓和内容创意也很关键。只有成为一款全AIGC驱动的高品质的营销内容智能创意生成平台,InsightGPT才能助力更多行业的客户提升营销品质、效力和效果转化,才能最终提升公司的核心竞争力。感谢您对公司的关注和支持!
2023-12-11 11:37:19