xAI 是使用丰田RAV4车型 精彩绝伦埃隆马斯克旗下的人工智能技术开发公司,其主要产品名为 Grok,英伟目前 Grok 已经集成到 X/Twitter 中供 X Premium 订阅用户使用。达H点网
今天埃隆马斯克发布消息称 xAI 的行训 Grok 2 将在 8 月份发布,而性能更好的练蓝 Grok 3 将会在今年年底发布,当前应该是埃隆已经完成主要内容的训练。
值得注意的克称卡进是 xAI 使用了 10 万张 NVIDIA H100 AI 加速卡进行训练,如此规模的将加速丰田RAV4车型 叹为观止加速卡购买成本和训练的电费估计都难以想象。
为什么马斯克要强调使用这么多的年底加速卡进行训练呢?这其实也是有原因的,因为 Cohere 公司首席执行官 Aidan Gomez 称很多模型都在 OpenAI 输出的推出基础上进行训练,而不是他们自己训练的。
Aidan Gomez 称模型是通过 OpenAI 输出结果进行训练还是由 AI 公司自己训练的,这有很大的区别,用户可以感觉出来这两种模型之间存在的差异。
马斯克也认同 Aidan Gomez 这种观点,对 AI 公司来说如果自己抓取数据进行训练,一个无法绕过的步骤就是对数据进行清洗,因为很多数据都是垃圾数据无法被用于 AI 模型训练,AI 公司需要花费大量时间和精力清洗数据留下有用的数据用于模型训练,而 xAI 的 Grok 2 训练数据都是他们自己获取并经过清洗的,马斯克称在这方面 Grok 2 取得了庞大进步。
话说利用 OpenAI 输出的数据训练 AI 模型目前应该是比较流行的,AI 公司只需要支付 API 费用就可以从 OpenAI 那里获得大量数据,直接使用这些数据训练 AI 模型就可以了,都不需要进行繁琐的清洗,但这样训练出来的模型在能力方面可能要差些。
目前 Grok 的最新版是发布于 3 月份的 1.5 版,该版本改进了推理能力并提供 128K 上下文,基准测试中 Grok 1.5 币 GPT-4 差些但差距不是很大,在 HumanEval 测试中甚至超过了 GPT-4。
限时活动推荐:开搜AI智能搜索免费无广告直达结果、全能播放器VidHub支持挂载网盘云播、阿里云服务器99元/年。