あなたのデータを読めないクラウド GPU。
医療記録、法的文書、顧客の PII など、クラウド AI プロバイダーに送れないデータがあります。Confidential Computing はその壁を取り除きます。推論と学習はマネージドなクラウド GPU 上で実行されますが、データは最後まで暗号化されたままで、Arkor でさえ読むことができません。
近日公開
仕組み。
技術基盤は NVIDIA Confidential Computing。データが復号されるのは GPU チップの内部だけで、それも、何が実行されているかをハードウェアが証明したあとに限られます。
GPU 内部のセキュアエンクレーブ
ワークロードは、GPU チップ自体の上にある Trusted Execution Environment の内側で実行されます。プロンプト、データセット、重みが平文で存在するのはそこだけで、ホストメモリには決して現れません。
エンドツーエンド暗号化
暗号鍵は、あなたのデバイスとエンクレーブのあいだで直接ネゴシエートされます。Arkor 自身のインフラを含め、その間にあるすべてが目にするのは暗号文だけです。
ハードウェアアテステーション
鍵が渡される前に、GPU はどのコードが実行されているかをハードウェア署名で証明します。信頼のよりどころは約束ではなく、シリコンです。
近日公開。
Confidential Computing は現在開発中です。ローンチまでのあいだも、Arkor を使えば、マネージド GPU でのモデルの学習と提供を今すぐ始められます。