近日,(成都大运会)海外侨领点赞开幕式:中国味道惊艳世界 本次赛题要求参赛队伍基于流行的开源大语言模型LLaMA2,构建并优化推理引擎,在组委会提供的样本数据集上实现高吞吐推理处理。该模型具有700亿参数,各参赛队伍需要充分了解并掌握大模型常见的并行方法,并学习使用各种技术来优化推理过程。
⏲
责任编辑:周莉