読者 @rain落在鱼儿下 さんからの投稿です。内容は投稿者個人の見解です。
いまの大規模モデル起業ブームの中で、小銭まで切り詰めて使おうとするスタートアップなら、ほぼどのチームも「API 中継サービス」の名前をこっそり耳にしたことがあるはずです。Telegram のグループには毎日のように「公式の 9 割引」「1,000 チャージで 1,000 プレゼント」「高並列でも制限ゼロ」といった投稿が流れ、つい心が揺らぎます。
しかし、棚からぼた餅のようなうまい話が、この世にあるはずがありません。大規模モデルのエコシステムの裏で暗流が渦巻くグレーな地下チェーンでは、多くのチームが一気に追い抜くための近道を見つけたと思い込みます。ところが足を踏み入れてみると、そこは周到に仕掛けられた深い落とし穴ばかりなのです。
1. 晴れた午後と、こっそりすり替える「泥棒」
深圳・南山のとあるメイカースペースの窓辺。その日の午後は、よく晴れていました。張弛（仮名）はアイスアメリカーノを手に画面を見つめながら、壮大な未来図を思い描いていました。次の華南メイカーコンテストで優勝できれば、50 万の現金補助に加えて、パーク内で丸 3 年間の免税枠も手に入ります。5 人の小さなチームが、いちばん苦しいプロトタイプ期を乗り切るには十分な額でした。
製品デモでのレスポンスを速くし、コストも抑えるため、張弛は業界で評判になっていたある中継サービスを導入することにしました。彼らが開発していたのは、企業のデータアナリスト向けの AI データ探索コラボレーションワークベンチ（AI Data Workbench） です。マルチモーダルなデータ理解と、複雑な業務ロジックに適応する Reasoning を売りにした硬派な設計で、あとはコンテストで華々しくお披露目するのを待つばかりでした。
「最初は本当に快適だったんです。本番直前に、ワークベンチで部門横断の業務ダッシュボードと要因分析レポートを全自動で生成しようとするまでは」と張弛は苦笑します。システムは何の前触れもなく、致命的なフォーマット解析エラーを吐き出しました。それから丸 3 日間、チームの中核を担うバックエンドエンジニア 2 人が目を真っ赤にして、プロンプトを洗い直し、メモリリークを調べ、データ構造を何度も作り直しました。工数だけで、1 万人民元を超えるコストが消えました。
3 日目の深夜、張弛はとうとう我慢できなくなりました。中継サービスの管理画面を飛ばしてパケットキャプチャツールをつなぎ、HTTP レスポンスヘッダーを 1 バイトずつ比較したのです。
データを展開した瞬間、オフィスはマシンのファンの音しか聞こえないほど静まり返りました。返ってくるトークンの生成速度も、ストリーミングの揺らぎの特徴も、すべてが別の低コストなオープンソースモデルを指していたのです。「もう勘弁してくれ！」張弛は机をたたきました。中継サービスの裏側には、ずる賢いルーティングが仕込まれていました。入力プロンプトが少しでも長くなると、利用者に気づかれないまま安価なモデルへリダイレクトし、すり替えていたのです。食費を削って浮かせた計算資源は、すべてアカウント転売業者の「ダウングレードの罠」への授業料になってしまいました。
2. 請求書の上の金融マジック
モデルのすり替えが闇から放たれる矢だとすれば、課金倍率は白昼堂々と弾かれる、そろばん仕掛けの詐欺です。
ベテランアーキテクトの周さん（業界では誰もが親しみを込めてそう呼びます）は、この手口の話になると首を横に振ります。「いまの転売業者は、ただアカウントを売っていた昔の連中とはもう違います。ずっと抜け目がなくて、金融派生商品の数理計算の手法をまるごと持ち込んでいるんです」
深圳からそう遠くない南部の地方都市では、個人開発者の林峰（仮名）が見事にこの罠にはまりました。彼が運営しているのは、エンドツーエンドの AI マーケティングコンテンツ制作ワークベンチ です。毎月の API 支出は数百米ドルにのぼり、懐が痛くてたまりませんでした。ある中継サービスが「1,000 チャージで 1,000 プレゼント」のキャンペーンをしているのを見て、つい頭に血がのぼり、その場で 2,000 人民元を送金しました。
ところが、わずか 5 日後、管理画面に突然アラートが出ました。クレジットが尽きたのです。林峰はわけがわからないまま、過去 120 時間分の呼び出しログを 1 件ずつ精査し、ようやくからくりに気づきました。
- 倍率のこっそり変更：
Claude 5 Fableなどの上位モデルの課金倍率が、ひそかに 2.8 倍 に変えられていました。 - トークンの水増し：トークナイザーを改変し、本来 100 トークンの中国語の段落を 150 個の断片に切り分けて課金していました。
見かけは 5 割引でも、実際には 1 回の呼び出しコストが、公式 API を直接使うより 3 割近く高くなっていました。「お得だと思っているうちに、向こうは管理画面でキーボードをちょっと叩くだけで、こちらのお金を音もなく吸い上げていくんです」と周さんは言います。
3. 途切れた記憶と、月曜 9:01 の惨劇
本番環境に入ると、こうした「低価格」の破壊力は一気に、指数関数的に膨れ上がります。
半年後、深圳のスタートアップコンテストの決勝会場。ステージ中央にスポットライトが当たる中、別のスタートアップが マルチエージェント研究開発自動化ワークベンチ（Multi-Agent Workspace） のデモを行っていました。最初の 3 ラウンドでは複雑な要件の分解を完璧にこなしていましたが、6 ラウンド目でアーキテクチャ設計について深く突っ込まれたとき、エージェントは突然、ひどく機械的な返答を口にしました。「申し訳ありません。アップロードされたドキュメントには、そのデータが含まれていないようです」
会場はざわめき、審査員たちは眉をひそめました。徹夜でパケットをキャプチャして、チームはようやく原因を突き止めました。
- コンテキストの強制切り捨て：中継サービスはゲートウェイの帯域を節約するため、「スライディングウィンドウ」を強制していました。コンテキストが 16k トークンを超えると、最も古い部分を容赦なく切り捨て、エージェントを「記憶喪失の患者」にしてしまったのです。
- キャッシュ割引の横取り：中継サービスは裏でプロンプトキャッシュを有効にし、公式の最大 50%～90% にもなるキャッシュ割引を手にしながら、開発者には全額を請求し続け、両側から利益を得ていました。
ほぼ同じ頃、先ほどの南部の地方都市にある別の企業でも、エンタープライズ向けの AI セールス Copilot ワークフロー自動化エンジン が、月曜朝のピーク時 9:01 に「429 の大惨事」に見舞われました。
その中継サービスは正規のキーなど持っておらず、すべてをリバースエンジニアリングで手に入れた Web 版の不正アカウントのプールに頼っていました。その朝、OpenAI が新世代のボット対策を導入し、アカウントプールは一瞬で全滅しました。その企業の営業プロセスシステムはまる 2 時間停止し、数十人の営業担当者がエラー画面を前に途方に暮れました。潜在的なビジネス損失は見積もりようもありません。
4. データがダークウェブに流れるとき
「節約」をめぐるこの危険な駆け引きの結末は、たいていブラックユーモアのような悲劇の色を帯びています。
公式の規制が厳しくなるにつれ、多くの中継サービスはアカウントの供給が途絶え、赤字に転落しました。ある事業者は Telegram グループに「規制が厳しすぎる。みんな、さよなら」とだけ軽く書き残し、電源を抜いてデータベースを消し、そのまま夜逃げしました。利用者のアカウントに残っていた未使用の残高は、一瞬で跡形もなく消えました。
しかし、これはまだ最悪の事態ではありませんでした。
2 週間後、ダークウェブのフォーラムに、50GB にもなるデータベースの圧縮ファイルがひっそりと出品されました。オープンソースの中継パネルの多くは、何のセキュリティ対策もない格安 VPS にそのままデプロイされており、業者が姿を消した直後にハッカーに脆弱性をスキャンされ、データベースを丸ごと抜き取られたのです。かつてコスト削減のために送られていた企業の社内コード、ビジネスロジックを含むプロンプト、マルチエージェントのフロー設定、さらには十分に匿名化されていない業務データまでもが、こうしてダークウェブの片隅で無防備にさらされることになりました。
周さんは、ある技術勉強会でこんな公式を示しています。
大規模モデル API の本当のコスト = 帳簿上のトークン料金 + ダウングレード後の再試行コスト + 運用の火消しにかかる時間 + データ漏えいのリスク。
タダより高いものはありません。市場の底値を大きく下回る「低価格」は、結局のところ、目に見える請求額を、開発チームの裏側で見積もりようのない運用の悪夢とセキュリティ上の時限爆弾に置き換えているにすぎません。長い目で起業の道を歩もうとする人にとって、グレーな中継サービスから距離を置くのは、少しのお金を節約するためだけではありません。未来へ続く道の途中で、自分の切り札を自らの手で他人に渡してしまわないためなのです。
