当前位置:首页 > 实时热点 > 正文内容

马斯克宣布开源Grok-2 最强开源模型问世

4小时前实时热点3

  马斯克宣布开源Grok-2 最强开源模型问世!马斯克终于开源了Grok-2。xAI正式宣布向所有人开放Grok-2,并预告Grok-3将在6个月后开源。Grok-2于2024年完成训练,体积超过500GB,其混合专家(MoE)架构在Grok-1的基础上进行了改进。

  此次开源包括Grok-2的核心部分,技术特点如下:总参数量高达9050亿,在推理时每次激活其中的1360亿参数,使其成为目前最强大的开源模型之一;支持高达131,072 token的上下文长度,可以一次性处理非常长的文档或对话历史;采用混合专家架构,可以在不增加巨大计算成本的前提下大幅扩展模型规模;预训练数据覆盖了大量的文本和代码,截止到2024年初。

  

  关于开源权限,当关联公司年收入低于一百万美元时,才可用于商业用途,超过此门槛的商业用途需获得xAI的单独许可。除非协议条款允许对Grok 2进行修改或微调,否则不得使用材料、衍生品或输出来训练、创建或改进任何基础、大型语言或通用人工智能模型。

  现在,Grok-2已在Hugging Face上开放下载。用户可以通过SGLang部署,下载权重文件并启动服务器。下载过程中可能会遇到一些错误,需要多次重试直到成功。下载完成后,该文件夹下应包含42个文件,总大小约500GB。启动服务器需要安装最新版的SGLang推理引擎,并使用正确的对话模板发送请求。

  网友XFreeze表示,xAI的发展速度极其惊人,仅用122天建成并全面投入运营的孟菲斯巨像数据中心配备了100,000块英伟达H100 GPU。短短两年内,xAI凭借Grok 4的发布,以极其精简的团队登顶全球最强人工智能之巅。黄仁勋曾称这是“超人”之举,只有马斯克能做到。有网友认为,这一切就像在实时观看一个科幻梦想成真,真正达到了创新的巅峰。预计5年内,xAI将打造出5000块H100巨无霸超算,老马自信满满地表示,xAI很快就能超越谷歌以外的所有对手。马斯克宣布开源Grok-2 最强开源模型问世

相关文章

3名性侵害未成年人罪犯执行死刑 恶性令人发指:其中一人对3名幼女实施多达7次的强

3名性侵害未成年人罪犯执行死刑 恶性令人发指:其中一人对3名幼女实施多达7次的强

   3名性侵害未成年人罪犯执行死刑   【3名性侵害未成年人罪犯执行死刑】5月16日消息,经最高人民法院核准,#3...

浙江民营星链第四次冲上太空 一箭11星再创辉煌

浙江民营星链第四次冲上太空 一箭11星再创辉煌

  夜幕中,一道耀眼光芒划破苍穹。8月9日00时31分实时热点,吉利星座在山东日照附近海域以一箭11星方式成功发射,卫星顺利进入预定轨道,状态正常,发射任务圆满成功。  ...

离谱!疑因孩子顶座冲突 女生被一家人围殴:“熊孩子”持续用头顶撞前排女子座位,现

离谱!疑因孩子顶座冲突 女生被一家人围殴:“熊孩子”持续用头顶撞前排女子座位,现

   疑因孩子顶座冲突 女生被一家人围殴   【疑因孩子顶座冲突 女生被一家人围殴】近日,一则发生在南航航班上的冲突...

中国连续9月增持黄金释放何信号 多国央行购金热持续

中国连续9月增持黄金释放何信号 多国央行购金热持续

  中国人民银行网站8月7日发布数据显示,中国7月末黄金储备达到7396万盎司,环比增加6万盎司,这是连续第9个月增持黄金。今年,多国央行对黄金的购买热情依旧高涨,这反映出全球经济不确定性...

4-0!王楚钦把张本智和打笑了 侧身倒地冲直线,张本“望球兴叹”!!

4-0!王楚钦把张本智和打笑了 侧身倒地冲直线,张本“望球兴叹”!!

   王楚钦把张本智和打笑了   【王楚钦把张本智和打笑了】北京时间7月14日,wtt美国大满贯男单决赛上,王楚钦首...

王燊超第300次在中超首发 队史第二人达成里程碑

王燊超第300次在中超首发 队史第二人达成里程碑

  在中超第20轮的上海德比中,上海海港客场对阵上海申花。王燊超作为海港队长首发出战,达成了他在中超的第300次首发里程碑,成为队史第二位达到这一成就的球员。   ...