jul 18, 2023 - LLaMA-2

Description:

LLaMA（大型语言模型 Meta AI ）是大型语言模型(LLM)系列，由Meta AI于 2023 年 2 月开始发布。

2023 年 7 月 18 日，Meta 与Microsoft合作发布了 LLaMA-2，即下一代 LLaMA。Meta 训练并发布了三种模型大小的 LLaMA-2：70亿、130亿和700亿参数。[4]模型架构与 LLaMA-1 模型基本保持不变，但用于训练基础模型的数据增加了 40%。[5]随附的预印本[5]还提到了一个具有 34B 参数的模型，该模型可能在未来满足安全目标后发布。

LLaMA-2 包括基础模型和针对对话进行微调的模型，称为 LLaMA-2 Chat。与 LLaMA-1 进一步不同的是，所有模型都附带权重，并且对于许多商业用例都是免费的。

Code Llama
2023年8月，Meta继发布用于生成文本、翻译语言和创建音频的人工智能模型之后，开源了 Code Llama。这是一个机器学习系统，可以用自然语言（特别是英语）生成和解释代码。 可以免费商用和研究。
70亿、130亿和700亿参数(7B,13B,70B)


2023 年 7 月 18 日

Added to timeline:

Date: