ChatGPTを10倍以上高速化、秒速1,000兆回の演算ができるAIチップを開発 シリコンバレーで注目されるAIスタートアップGroqとは
ARANK

NVIDIAに対抗するAIスタートアップGroqとは?ChatGPTも爆速になるGroqのLPU、その特徴、GPUとの違い最新機能GroqCloudとは?爆速AIチップがクラウドで利用可能にNVIDIAに対抗するAIスタートアップGroqとは?NVIDIAが驚異的な決算を記録する中、シリコンバレーで密かに注目を集めているスタートアップがある。大規模言語モデル(LLM)の推論に特化したAIチップ「言語処理ユニット(LPU)」を開発するGroqだ。VentureBeat(2024年2月23日)の報道によると、Groqは「年末までに、(同社のAIチップが)LLMスタートアップの主要インフラとして広く使用されることになるだろう」と予測されており、NVIDIAが圧倒的なシェアを占める市場で一石を投じる構えを見せている。Groqの創業者でCEOを務めるジョナサン・ロス氏は、CNNのインタビューで同社のオーディオチャットインターフェースを披露し、「スピード記録を打ち破る」と自信を見せた。実際、Groqのチャットアプリのデモ版では、ユーザーが選択した「Llama」や「Mistral」モデルの出力を、ほぼ瞬時に生成できることが示された。ロス氏は、推論にかかる莫大なコストを考えれば、Groqの超高速かつ低コストのソリューションは、LLM…

ampmedia.jp
Related Topics: AI AI Text Generator Startup