メインコンテンツまでスキップ

GenKaKuの仕組み

フロー

ユーザー → オーケストレーター → ワーカー → トークンがストリーミング → ユーザー
  1. genkaku.appのチャットインターフェースからメッセージを送信します
  2. オーケストレーターはリクエストを受信し、必要なモデルを提供するワーカーを見つけます
  3. ワーカーはGPUで推論を実行し、オーケストレーターを通じてトークンをストリーミングします
  4. リアルタイムで1語ずつレスポンスが表示されます

オーケストレーター

オーケストレーターはSocket.ioを使用したリアルタイム通信のNode.jsサーバーです。以下の機能を処理します:

  • 認証 — Privyを通じてユーザーとワーカーを検証
  • ジョブキュー — 受信リクエストを管理し、利用可能なワーカーにマッチング
  • ワーカーレジストリ — オンラインのワーカー、その能力、現在の負荷を追跡
  • ルーティング — 要求されたモデル用に正しいワーカータイプにジョブを指示
  • ワーカー選択 — アイドル状態のワーカーからジョブを割り当て(測定されたトークン/秒に基づく加重ランダム)
  • ツールコール — モデルが要求した場合にWeb検索を実行し、結果をフィードバック
  • 統計 — 5秒ごとにリアルタイムネットワーク統計をブロードキャスト

オーケストレーターは会話を保存しません。トラフィックをルーティングして次に進みます。

ワーカー

ワーカーはマシン上で実行され、GenKaKu ネットワークに推論ジョブを提供するデスクトップアプリケーションです。GenKaKu Worker アプリをダウンロードしてサインインするだけで、GPU が収益を上げ始めます — コマンドラインセットアップは不要です。

ワーカーはモデルサービングに内部的に Ollama を使用し、CUDA(NVIDIA)、Metal(Apple Silicon)、Vulkan(AMD/Intel)アクセラレーションをサポートします。ネットワークの主要テキストモデルである Qwen3.8 27B Uncensored を実行し、ルーティングされるすべてのチャットメッセージと API リクエストを処理します。

ハードウェア要件:16GB 以上の NVIDIA GPU(24GB 推奨)、24GB 以上の AMD カード、または 32GB 以上の Apple Silicon Mac。ハードウェアによって性能は異なりますが、適切な GPU では毎秒 25 以上のトークンを期待できます。

ジョブを提供していない間、ワーカーはバックグラウンドでアイドル状態で実行されます。ウィジェットモードでも実行できます — GPU 使用率、USDC 収入、$GENKAKU 収益を一目で表示するコンパクトなオーバーレイ。ローカル Ollama モデルによって駆動される組み込みティーチングアシスタントが、アプリを離れずにトラブルシューティングを支援します。

接続方法

  1. GenKaKu Worker アプリを開き、GenKaKu アカウントでサインインします
  2. アプリがオーケストレーターに登録し、GPU の能力を通知します
  3. ワーカーがアイドル状態でモデルがリクエストと一致する場合、オーケストレーターがジョブをルーティングします
  4. GPU が推論を実行し、オーケストレーターを通じてトークンをストリーミングします
  5. 完了した各ジョブに対して USDC を獲得します — アプリのダッシュボードで確認できます

収益

ワーカーは完了した作業量に応じて USDC を獲得します。レートは提供されるモデルと現在のネットワーク需要によって異なります。収益はリアルタイムで蓄積され、デスクトップアプリと GenKaKu アカウントダッシュボードの両方で表示されます。

報酬

USDC の収益に加えて、ワーカーはサービス品質に基づいて $GENKAKU 報酬を獲得します。報酬フォーミュラはいくつかのパフォーマンス要素を考慮します:

報酬を増加させるパフォーマンス指標:

  • 一秒あたりのトークン数 — 高速な GPU はより多くのトークンを生成し、より高い報酬を獲得
  • 低レイテンシー — ワーカーとオーケストレーター間の迅速な応答時間
  • アップタイム — オンラインで利用可能な時間が長ければ長いほど、より多く稼げる
  • ジョブ完了率 — エラーやタイムアウトなしにジョブを成功裏に完了
  • 接続安定性 — 一貫した信頼性の高いネットワーク接続
  • 一貫性 — スポラディックなバーストではなく、一定の安定したパフォーマンス

報酬を減少させる要素:

  • ジョブ中の接続切断
  • 遅いトークン生成
  • 高レイテンシーまたは不安定なネットワーク
  • 失敗またはタイムアウトしたジョブ
  • 頻繁な切断

アイドル報酬: ジョブが割り当てられなくても、オンラインのままでいれば少量の $GENKAKU ボーナスを獲得 — ネットワークは容量を維持し、サービスの準備ができているワーカーに報酬を与えます。

画像ワーカー

画像ワーカーは別のワーカータイプです。画像生成用のComfyUIを実行する独立したGPUです。テキストモデルが画像を要求したときに呼び出すgenerate_imageツールとして、および画像APIとして公開されています。どちらの場合も画像ワーカーが結果をレンダリングします。

ジョブラウーティング

レーンワーカータイプモデル
チャット + qwen3.8-27b-uncensoredデスクトップワーカー(Ollama)Qwen3.8 27B Uncensored
画像生成ComfyUIChroma1-HD

ワーカー選択

ジョブの準備が整うと、オーケストレーターは要求されたモデルを提供するアイドル状態のワーカーを確認し、加重ランダム選択で1つを選びます。各ワーカーの重みは、測定された平均トークン/秒です(最遅のワーカーも少しトラフィックを得るようにフロアが設定されています)。高速なワーカーはより多くのジョブを获得しますが、常に最速のワーカーに配信されるのではなく、ワーカープール全体にワーと収益が分散されます。

Web検索

Web検索はモデル駆動です。モデル自体がweb_searchツールを呼び出すかどうかを決定します。呼び出した場合、オーケストレーターは検索を実行し(Brave Search API)、結果をツール結果としてモデルにフィードバックし、モデルはそこから継続します。これはプリフェッチではなくラウンドトリップです。その後、モデルは実際の最新のWebコンテンツに基づいた情報で応答し、出典を引用します。

トークンストリーミング

レスポンスはリアルタイムでストリーミングされます。ワーカーが各トークンを生成するたびに、オーケストレーターを通じてユーザーに即座に送信されます。完全なレスポンスを待つ必要はありません。他のチャットAIと同様にライブで書き込まれる様子が見えますが、コンピューティングはネットワーク上の誰かのGPUで行われています。