NEC展示大型自然语言模型 总参数量则约在130亿组规模

来源:网界网 | 2023-10-19 10:10:49

  NEC在CEATEC 2023期间展示其内部使用的大型自然语言模型NEC Generative AI Framework,主要通过928组GPU、580 PFLOPS算力表现的超级计算机支撑运作,并且标榜能有充足的日语理解应对能力,总参数量则约在130亿组规模。

  至于跟目前已经可以使用GPT-4大型自然语言模型的Azure OpenAI服务比较,NEC则说明NEC Generative AI Framework有更大布署弹性,同时对日语内容有更高理解能力,并且能让用户依照需求配合公有云人工智能应用服务,以对应不同资料处理方式。

  目前NEC已经先向10家左右公司提供其大型自然语言模型,并且计划与更多制造、金融业者合作,接下来也准备扩展到更多日本境内市场,但未说明具体发展目标。

  相比OpenAI的GPT-3约为1750亿组参数规模,以及Meta的Llama2约为700亿组参数规模,NEC的大型自然语言模型规模小了一些,同时整体执行反应速度约在10秒左右才会给出解答,但NEC认为此规模的大型自然语言模型相对容易操作、微调,同时在运作上也能在精度与成本效益取得平衡。

  而跟其他大型自然语言模型一样,NEC强调NEC Generative AI Framework同样能布署于装置端、NEC数据中心,或是微软Azure公有云环境运作。

相关阅读

每日精选