美国Databricks公司推出开源大模型DBRX,性能优于主流开源模型

2024-03-29  美国 来源:其他 作者:刘纪铖 领域:信息

关键词:

据品玩网3月28日消息,美国Databricks公司推出开源大模型DBRX,性能优于主流开源模型。DBRX采用Transformer架构,包含1320亿参数,共16个专家网络组成,每次推理使用其中的4个专家网络,激活360亿参数。Databricks表示,在语言理解、编程、数学和逻辑方面,对比Meta公司的Llama 2-70B、MixtralAI公司的Mixtral以及xAI公司开发的Grok-1等主流开源模型,DBRX均优势胜出。

消息来源:https://www.pingwest.com/w/293621