据Meta官网4月19日消息，美国Meta公司发布开源大模型Llama 3，参数最高或达4000亿。目前，Llama 3已经开放了80亿（8B）和700亿（70B）两个小参数版本，上下文窗口为8k。未来，Meta将推出Llama 3的更大参数版本，其将拥有超过4000亿参数。后续Meta将为Llama 3推出多模态等新功能、更长的上下文窗口以及Llama 3研究论文。Meta表示，Llama 3旨在能够构建与当今最优秀的专有模型相媲美的开源模型。

消息来源：https://llama.meta.com/llama3/