わずか数週間前に、チップメーカーのTenstorrentが約7億ドルの資金調達を行った直後、開発者は今やKoyebでTenstorrentのAIアクセラレータを試すことができます。 Tenstorrentは、RISC-V命令セットアーキテクチャをベースに構築されたAIプロセッサを販売しており、独自のオープンソースニューラルネットワークライブラリであるTT-NNやオープンソースの低レベルプログラミングモデルであるTT-Metaliumを開発しています。
Tenstorrentは、NvidiaのGPUや同社のCUDAライブラリに代替案を構築しようとする企業グループの一部です。 Axelera、Etched、Groqなどと競合しています。
Koyebは、元Scaleway幹部によって設立され、クラウドインフラストラクチャレベルでの抽象化レイヤーを求めている開発者向けにサーバーレスクラウドプラットフォームを開発しています。 Fly.io、Railway、Renderなどと競合しています。
Koyebは、コードリポジトリと統合した後、コマンドラインインターフェースまたはgit pushを使用して、複数の仮想マシン上にアプリケーションを展開できるようにします。 Dockerコンテナと多くの人気のある言語をサポートしています。
Koyebの主な特徴の1つは、必要に応じてアプリケーションを数百台のサーバーに自動的に拡張し、トラフィックが少ない場合は、サーバーインフラを自動的に縮小できることです。
最近、Koyebは特にAIアプリに焦点を当てています。そのプラットフォームのサーバーレス性質のため、AIワークロードに低遅延の体験を提供できます。
ハードウェア面では、Koyebは自身のデータセンターにTenstorrentのPCIeボードを展開しています。開発者は、ホストとカーネルプログラムを書くためのTenstorrentの低レベルTT-Metalium SDKにアクセスできます。
開発者は、Koyebのドキュメントと管理パネルに2つの新しいインスタンスタイプを見つけることができます：
- TT-N300Sインスタンスには、24GBのGDDR6メモリ、192MBのSRAM、最大466 FP8 TFLOPSがあります。これには64GBのRAMと4つのvCPUがペアになっています。
- TT-Loudboxインスタンスには、4つのN300Sが含まれています。開発者は96GBのGDDR6、768MBのSRAM、最大1,864 FP8 TFLOPSを手に入れます。 256GBのRAMと16つのvCPUが搭載されています。
このリリースにより、Koyebはハードウェアに依存しないクラウドプラットフォームとして位置付けています。「これは、高性能チップでサーバーマーケットにARMのデビューを果たしたことを思い出させるものです」とKoyebの共同創設者兼CEOであるYann LegerはTechCrunchに語りました。
「ScalewayでARMを市場に導入した経験があり、2013年から2014年にかけて完全にカスタマイズされたサーバーを提供してきたため、さまざまなアーキテクチャを展開し、異なるハードウェアを運用する経験を持っています」と彼は付け加えました。
一方、Tenstorrentは、オープンソースのプログラミングモデルを中心に、開発者エコシステムを構築するパートナーを探しています。 NvidiaのAIスタックに対抗するためには、多くの人々の協力が必要です。
