挑战OpenAI和Anthropic地位?Meta发布Llama 3.1:大参数+长上下文+8种语言支持等亮点!

关注我们的 WhatsApp 频道, TikTokInstagram 以观看最新的短视频 - 开箱,测评与第一手新闻资讯。

Meta 最新发布的语言模型(LLM)Llama 3.1 405B被称为性能优于OpenAI的GPT-4和Anthropic的Claude 3.5 Sonnet。作为目前最大的开源语言模型,它的参数量高达4050亿,训练过程使用了16,000个NVIDIA H100 GPU。

随着Llama 3.1的发布,Mark Zuckerberg预测,Meta AI推出的虚拟助手将在2025年底成为使用最广泛的助手。为了实现这一目标,Meta与Microsoft、Amazon、Google、Nvidia和Databricks合作,允许开发者使用Llama 3.1作为他们开发人工智能(AI)的基础。任何人都可以使用Llama 3.1,但对于月活跃用户超过7,000,000的用户群,需向Meta申请许可。

Llama 3.1的上下文窗口可达128,000个token,相当于一本50页的书,使其在处理分析任务时能同时处理更多数据。此外,它不仅能理解英语,还能理解德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。

训练过程使用了规模达15,000,000,000,000个token的数据集。然而,Meta并未透露用于训练Llama 3.1的数据来源。作为多模态LLM,Llama 3.1还具备回答数学问题、识别图像和视频、生成音频的能力,但这些功能尚未向公众开放。

除了Llama 3.1 405B,Meta还推出了较小的Llama 3.1 8B和Llama 3.1 70B,均具备128,000个token的上下文窗口。

更多科技资讯,请继续守住 TechNave 中文版!
资料来源

大家来评论

挑战OpenAI和Anthropic地位?Meta发布Llama 3.1:大参数+长上下文+8种语言支持等亮点!

| 新闻/资讯, 其它科技新闻 |