Databricks 近日宣布推出开源 AI 模型 DBRX,声称是迄今为止全球最强大的开源大语言模型。 DBRX 采用 transformer 架构,包含 1320 亿参数,共 16 个专家网络组成,每次推理使用其中的 4 个专家网络,激活 360 亿参数。 https://huggingface.co/databricks/dbrx-instruct https://www.github.com/databricks/dbrx Datab...

新闻来源:Databricks 推出开源大模型 DBRX:参数规模达 1320 亿、声称全球最强