昆仑万维开源“天工”Skywork-13B系列大模型

2023-10-30 14:13:44 来源:上海证券报·中国证券网 作者:刘怡鹤

  上证报中国证券网讯(记者 刘怡鹤)10月30日,昆仑万维宣布开源百亿级大语言模型“天工”Skywork-13B系列,并配套开源了600GB、150B Tokens的超大高质量开源中文数据集。

  昆仑万维天工Skywork-13B系列目前包括130亿参数的两大模型:Skywork-13B-Base模型、Skywork-13B-Math模型,它们在CEVAL、GSM8K等多个权威测与基准测试上都展现了同等规模模型的最佳效果,其中文能力尤为出色,在中文科技、金融、政务等领域表现均高于其他开源模型。

  除模型开源外,Skywork-13B系列大模型还将开源600GB、150B Tokens的高质量中文语料数据集Skypile/Chinese-Web-Text-150B,这是目前最大的开源中文数据集之一。同时,昆仑万维天工Skywork-13B系列大模型即将全面开放商用,即开发者无需申请即可商用。

  开源生态建设是AI技术和应用融合的重要一环,可以降低模型的研发门槛和使用成本,最大化共享技术能力和经验,让更多企业和开发者参与到AI变革中。

  今年4月,昆仑万维发布了大语言模型天工3.5,并启动邀请测试。8月,昆仑万维发布国内第一款AI搜索产品——天工AI搜索。9月,昆仑万维正式控股艾捷科芯,布局AI芯片。