浏览器输入视频解析.com视频解析.cnkedou.life 访问本站
2024年5月19日 | 星期日

马斯克开源Grok

马斯克旗下的 xAI 公司宣布了一项重要消息:他们正式在 Apache 2.0 协议下开源了大型模型 Grok-1 的基本模型权重和网络架构。这个模型的参数量高达3140亿,远超过其他知名大语言模型,如 Meta 的 Llama 2、Mistral 8x7B 和 OpenAI GPT-3.5。事实上,Grok-1 成为了目前参数量最庞大的开源大语言模型之一。

Grok-1 的基础模型是在大量文本数据的基础上进行训练的,没有经过对特定任务的微调。该模型的架构是在2023年10月使用 JAX 和 Rust 开发的,融合了创新的神经网络设计方法。其中,将25%的权重用于每个 token,以提高模型的效率和有效性。

另外,值得一提的是,马斯克旗下的 xAI 公司还发布了其首款 AI 聊天产品,取名为 "Grok"。这个名字来自于罗伯特·海因莱因的科幻小说《异乡异客》,意味着完全理解某事或某人。Grok 具备多种特点,包括:

  • 全面的知识:Grok 在大量文本和代码数据集上进行了训练,能够吸收广泛的知识。
  • 实时访问信息:Grok 可通过 X 平台获取实时信息,这是相较于其他大语言模型的一大优势。
  • 幽默感:Grok 被设计成具有幽默感,可以回答一些尖锐问题,增加与用户的互动乐趣。
  • 理解复杂概念:Grok 能够理解复杂概念,并以简洁明了的方式解释。
  • 创意内容生成:Grok 能够生成不同类型的创意内容,例如诗歌、代码、图像和音乐作品。