GenKaKuの仕組み
フロー
ユーザー → オーケストレーター → ワーカー → トークンがストリーミング → ユーザー
- genkaku.appのチャットインターフェースからメッセージを送信します
- オーケストレーターはリクエストを受信し、必要なモデルを提供するワーカーを見つけます
- ワーカーはGPUで推論を実行し、オーケストレーターを通じてトークンをストリーミングします
- リアルタイムで1語ずつレスポンスが表示されます
オーケストレーター
オーケストレーターはSocket.ioを使用したリアルタイム通信のNode.jsサーバーです。以下の機能を処理します:
- 認証 — Privyを通じてユーザーとワーカーを検証
- ジョブキュー — 受信リクエストを管理し、利用可能なワーカーにマッチング
- ワーカーレジストリ — オンラインのワーカー、その能力、現在の負荷を追跡
- ルーティング — 要求されたモデル用に正しいワーカータイプにジョブを指示
- ワーカー選択 — アイドル状態のワーカーからジョブを割り当て(測定されたトークン/秒に基づく加重ランダム)
- ツールコール — モデルが要求した場合にWeb検索を実行し、結果をフィードバック
- 統計 — 5秒ごとにリアルタイムネットワーク統計をブロードキャスト
オーケストレーターは会話を保存しません。トラフィックをルーティングして次に進みます。
ワーカー
ワーカーはマシン上で実行され、GenKaKu ネットワークに推論ジョブを提供するデスクトップアプリケーションです。GenKaKu Worker アプリをダウンロードしてサインインするだけで、GPU が収益を上げ始めます — コマンドラインセットアップは不要です。
ワーカーはモデルサービングに内部的に Ollama を使用し、CUDA(NVIDIA)、Metal(Apple Silicon)、Vulkan(AMD/Intel)アクセラレーションをサポートします。ネットワークの主要テキストモデルである Qwen3.8 27B Uncensored を実行し、ルーティングされるすべてのチャットメッセージと API リクエストを処理します。
ハードウェア要件:16GB 以上の NVIDIA GPU(24GB 推奨)、24GB 以上の AMD カード、または 32GB 以上の Apple Silicon Mac。ハードウェアによって性能は異なりますが、適切な GPU では毎秒 25 以上のトークンを期待できます。
ジョブを提供していない間、ワーカーはバックグラウンドでアイドル状態で実行されます。ウィジェットモードでも実行できます — GPU 使用率、USDC 収入、$GENKAKU 収益を一目で表示するコンパクトなオーバーレイ。ローカル Ollama モデルによって駆動される組み込みティーチングアシスタントが、アプリを離れずにトラブルシューティングを支援します。
接続方法
- GenKaKu Worker アプリを開き、GenKaKu アカウントでサインインします
- アプリがオーケストレーターに登録し、GPU の能力を通知します
- ワーカーがアイドル状態でモデルがリクエストと一致する場合、オーケストレーターがジョブをルーティングします
- GPU が推論を実行し、オーケストレーターを通じてトークンをストリーミングします
- 完了した各ジョブに対して USDC を獲得します — アプリのダッシュボードで確認できます
収益
ワーカーは完了した作業量に応じて USDC を獲得します。レートは提供されるモデルと現在のネットワーク需要によって異なります。収益はリアルタイムで蓄積され、デスクトップアプリと GenKaKu アカウントダッシュボードの両方で表示されます。
報酬
USDC の収益に加えて、ワーカーはサービス品質に基づいて $GENKAKU 報酬を獲得します。報酬フォーミュラはいくつかのパフォーマンス要素を考慮します:
報酬を増加させるパフォーマンス指標:
- 一秒あたりのトークン数 — 高速な GPU はより多くのトークンを生成し、より高い報酬を獲得
- 低レイテンシー — ワーカーとオーケストレーター間の迅速な応答時間
- アップタイム — オンラインで利用可能な時間が長ければ長いほど、より多く稼げる
- ジョブ完了率 — エラーやタイムアウトなしにジョブを成功裏に完了
- 接続安定性 — 一貫した信頼性の高いネットワーク接続
- 一貫性 — スポラディックなバーストではなく、一定の安定したパフォーマンス
報酬を減少させる要素:
- ジョブ中の接続切断
- 遅いトークン生成
- 高レイテンシーまたは不安定なネットワーク
- 失敗またはタイムアウトしたジョブ
- 頻繁な切断
アイドル報酬: ジョブが割り当てられなくても、オンラインのままでいれば少量の $GENKAKU ボーナスを獲得 — ネットワークは容量を維持し、サービスの準備ができているワーカーに報酬を与えます。
画像ワーカー
画像ワーカーは別のワーカータイプです。画像生成用のComfyUIを実行する独立したGPUです。テキストモデルが画像を要求したときに呼び出すgenerate_imageツールとして、および画像APIとして公開されています。どちらの場合も画像ワーカーが結果をレンダリングします。
ジョブラウーティング
| レーン | ワーカータイプ | モデル |
|---|---|---|
チャット + qwen3.8-27b-uncensored | デスクトップワーカー(Ollama) | Qwen3.8 27B Uncensored |
| 画像生成 | ComfyUI | Chroma1-HD |
ワーカー選択
ジョブの準備が整うと、オーケストレーターは要求されたモデルを提供するアイドル状態のワーカーを確認し、加重ランダム選択で1つを選びます。各ワーカーの重みは、測定された平均トークン/秒です(最遅のワーカーも少しトラフィックを得るようにフロアが設定されています)。高速なワーカーはより多くのジョブを获得しますが、常に最速のワーカーに配信されるのではなく、ワーカープール全体にワーと収益が分散されます。
Web検索
Web検索はモデル駆動です。モデル自体がweb_searchツールを呼び出すかどうかを決定します。呼び出した場合、オーケストレーターは検索を実行し(Brave Search API)、結果をツール結果としてモデルにフィードバックし、モデルはそこから継続します。これはプリフェッチではなくラウンドトリップです。その後、モデルは実際の最新のWebコンテンツに基づいた情報で応答し、出典を引用します。
トークンストリーミング
レスポンスはリアルタイムでストリーミングされます。ワーカーが各トークンを生成するたびに、オーケストレーターを通じてユーザーに即座に送信されます。完全なレスポンスを待つ必要はありません。他のチャットAIと同様にライブで書き込まれる様子が見えますが、コンピューティングはネットワーク上の誰かのGPUで行われています。