Groq Inc.创立于2016年,总部位于美国加州Mountain View,从根本上简化了计算,以加速人工智能、机器学习和高性能计算的工作负载。
Groq Inc. 美股百科
Groq® 创建了 LPU™ 推理引擎 - 第一个也是最快的同类引擎 - 服务于实时人工智能市场。Groq 的推理(而非训练)解决方案使公司在计算中心的速度和精度方面成为人工智能性能的领导者。 与其他提供商不同,Groq 不代理云服务。Groq 构建了自己的芯片、编译器和软件、系统以及 GroqCloud™。Groq 的第一代 GroqChip™ 是一种语言处理单元™ (LPU),是一种新的处理器类别。 这是实时人工智能、低延迟、低批量大小的解决方案。
Groq 的使命是设定 GenAI 推理速度的标准,帮助实时人工智能应用程序在成为现实。 LPU Inference Engine(LPU 代表 Language Processing Unit™)是一种新型的端到端处理单元系统,可为具有顺序组件的计算密集型应用程序提供最快的推理,例如 AI 语言应用程序 (LLM) )。
LPU 旨在克服 LLM 的两个瓶颈:计算密度和内存带宽。 就 LLM 而言,LPU 比 GPU 和 CPU 具有更大的计算能力。 这减少了每个单词的计算时间,从而可以更快地生成文本序列。 此外,消除外部内存瓶颈使 LPU 推理引擎能够在 LLM 上提供比 GPU 高几个数量级的性能。
Groq 支持标准机器学习 (ML) 框架,例如 PyTorch、TensorFlow 和 ONNX 进行推理。 Groq 目前不支持使用 LPU 推理引擎进行 ML 训练。对于定制开发,GroqWare™ 套件(包括 Groq Compiler)提供了快速启动和运行模型的按钮体验。为了优化工作负载,公司提供了手动编码到Groq架构的能力,以及对任何GroqChip™处理器的精细控制,使客户能够开发定制应用程序并最大化其性能。
GroqLabs - Groq 的团队始终在探索独特的方式来利用公司的超低延迟价值主张。#GroqSpeed 不仅对聊天很重要,还有更多。它是语言和线性计算将实时人工智能带入生活的地方。Groq 正在与多个内部和外部利益相关者合作,创建关于音频、语音、图像处理、视频、科学研究、编码等方面的引人注目的用例。GroqLabs并不保证这些项目中的任何一个会成为产品,但 Groq 也不保证它们不会成为产品!这是一个激发和探索续追求“使之成为现实”的机会。
Groq Inc. 融资百科
2017年4月,Groq Inc. 获得Social Capital领投的1030万美元风险投资,Conconi Growth Partners和Daniel Gross(个人)跟投。
2018年9月,Groq Inc. 获得Social Capital领投的5230万美元风险投资,Acequia Capital (AceCap)、NJF Capital、Blue Gentian Capital、Cambium Capital Partners等跟投。
2020年8月,Groq Inc. 获得D1 Capital Partners、Infinitum Partners、Ruttenberg Gordon Investments、TDK Ventures、Maropost Ventures等共同投资。
2021年4月,Groq Inc. 完成D1 Capital Partners和Tiger Global Management领投的3亿美金C轮融资,Alumni Ventures、Castor Ventures、Addition等跟投。
2024年3月,Groq Inc. 获得 Firestreak Ventures 独家风险投资资金。
2024年6月,Groq Inc. 获得Opus和Seven Rivers Capital LTD共同参与的二级市场投资。
2024年8月,Groq Inc. 完成BlackRock领投的6.4亿美金D轮融资,Global Brain Corporation、Cisco Investments、Neuberger Berman、Samsung Catalyst Fund跟投。
评论