Leserbeitrag von @rain落在鱼儿下. Der Text gibt nicht die Meinung der Redaktion wieder.

In der aktuellen Gründungswelle rund um KI-Modelle hat fast jedes Team, das jeden Cent zweimal umdreht, schon einmal heimlich von „API-Relays“ gehört. In Telegram-Gruppen werben täglich Beiträge mit „10 % des offiziellen Preises“, „1.000 aufladen, 1.000 geschenkt“ und „hohe Parallelität, null Risikokontrolle“. Da juckt es manchen in den Fingern.

Aber gebratene Tauben fliegen einem nicht in den Mund. In der grauen Kette unter dem Modell-Ökosystem glauben viele Teams, sie hätten eine Abkürzung gefunden, und tappen in eine sorgfältig vorbereitete Grube.

1. Ein sonniger Nachmittag und ein heimlicher Tausch

In einem Maker-Space in Nanshan, Shenzhen, war es ein sonniger Nachmittag. Zhang Chi (Name geändert) hielt einen Iced Americano in der Hand, blickte auf den Bildschirm und schmiedete Pläne. Ein Sieg beim südchinesischen Maker-Wettbewerb hätte Barzuschüsse von 500.000 und drei volle Jahre Steuerbefreiung im Gewerbepark bedeutet. Genug, so dachte er, damit sein fünfköpfiges Team die härteste Phase bis zum Prototyp übersteht.

Damit die Demo schneller und billiger lief, band er ein Relay an, über das in der Szene viel gesprochen wurde. Das Produkt war eine kollaborative KI-Workbench zur Datenexploration für Datenanalysten in Unternehmen, ausgelegt auf multimodales Datenverständnis und adaptives Reasoning über komplexe Geschäftslogik. Beim Wettbewerb sollte sie glänzen.

„Am Anfang lief es wirklich super, bis wir kurz vor dem Wettbewerb versucht haben, abteilungsübergreifende Dashboards und Attributionsberichte vollautomatisch zu erzeugen“, sagt Zhang Chi mit einem bitteren Lächeln. Ohne jede Vorwarnung warf das System einen fatalen Fehler beim Parsen des Formats. Drei volle Tage lang gingen zwei zentrale Backend-Entwickler mit roten Augen Prompts, Speicherlecks und Datenstrukturen durch. Allein die Arbeitszeit kostete mehr als 10.000 Yuan.

In der dritten Nacht hielt es Zhang Chi nicht mehr aus. Er umging die Konsole des Relays, schaltete einen Paketmitschnitt dazwischen und verglich die HTTP-Antwort-Header Byte für Byte.

Als die Daten entpackt waren, war im Büro nur noch das Summen der Lüfter zu hören. Die Geschwindigkeit der zurückgegebenen Token und das Jitter-Muster des Streams deuteten auf ein anderes, billigeres Open-Source-Modell. „Ich fass es nicht!“ Zhang Chi schlug auf den Tisch. Der Router des Relays war ebenso simpel wie dreist: Sobald der Prompt etwas länger wurde, leitete er die Anfrage stillschweigend auf das billige Modell um. Die Rechenleistung, die sich das Team vom Essensgeld abgespart hatte, war als Lehrgeld in die Downgrade-Falle eines Account-Händlers geflossen.

2. Finanztricks auf der Rechnung

Ist der Modelltausch ein Pfeil aus dem Hinterhalt, dann ist der Abrechnungsmultiplikator ein Betrug am offen liegenden Rechenbrett.

Der erfahrene Architekt, den in der Branche alle nur Zhou Ge nennen, schüttelt über diese Masche den Kopf. Die heutigen Account-Händler seien längst nicht mehr die Leute, die einfach nur Konten verkauften. Sie hätten die Rechenkunst der Finanzderivate gleich mitgebracht.

In einer südchinesischen Großstadt der zweiten Reihe, nicht weit von Shenzhen, lief der unabhängige Entwickler Lin Feng (Name geändert) voll gegen diese Wand. Er betreibt eine durchgängige KI-Workbench für Marketing-Inhalte. Die API-Kosten lagen bei mehreren Hundert US-Dollar im Monat, und das tat weh. Als ein Relay mit „1.000 aufladen, 1.000 geschenkt“ warb, überwies er kurzerhand 2.000 Yuan.

Nur fünf Tage später schlug das Backend Alarm: Das Guthaben war weg. Lin Feng rechnete die Aufruf-Logs der vergangenen 120 Stunden Zeile für Zeile nach und entdeckte den Trick:

  • Ein versteckter Multiplikator. Der Abrechnungsmultiplikator für höherwertige Modelle wie Claude 5 Fable war heimlich auf das 2,8-Fache gesetzt worden.
  • Aufgeblähte Token. Der Tokenizer war so verändert, dass ein chinesischer Absatz mit 100 Token als 150 Fragmente abgerechnet wurde.

Auf dem Papier stand 50 % Rabatt. Tatsächlich kostete ein einzelner Aufruf fast 30 % mehr als über die offizielle API. „Sie glauben, ein Schnäppchen gemacht zu haben, dabei tippt jemand im Hintergrund ein paar Tasten, und Ihr Guthaben ist lautlos leergesaugt“, sagt Zhou Ge.

3. Verlorenes Gedächtnis und Montag, 9:01 Uhr

Im Produktivbetrieb vervielfacht sich der Schaden dieses „niedrigen Preises“.

Ein halbes Jahr später, im Finale eines Start-up-Wettbewerbs in Shenzhen, stand ein anderes junges Team im Scheinwerferlicht und führte seine Multi-Agent-Workbench zur Automatisierung der Entwicklung vor. Die ersten drei Runden, in denen komplexe Anforderungen zerlegt wurden, liefen tadellos. In der sechsten Runde, bei einer tiefgehenden Frage zur Architektur, antwortete der Agent plötzlich völlig mechanisch: „Entschuldigung, das hochgeladene Dokument scheint diese Daten nicht zu enthalten.“

Im Saal ging ein Raunen durch die Reihen, die Jury runzelte die Stirn. Erst nach einer Nacht mit Paketmitschnitten fand das Team zwei Ursachen:

  1. Erzwungen abgeschnittener Kontext. Um Bandbreite am Gateway zu sparen, nutzte das Relay ein gleitendes Fenster. Sobald der Kontext 16.000 Token überschritt, schnitt es den ältesten Teil einfach ab, und der Agent verlor sein Gedächtnis.
  2. Einbehaltene Cache-Ersparnis. Das Relay schaltete im Hintergrund Prompt-Caching ein und kassierte den offiziellen Cache-Rabatt, hier mit 50–90 % angegeben, während es dem Entwickler weiterhin den vollen Betrag berechnete.

Fast zur gleichen Zeit traf es in derselben Großstadt der zweiten Reihe eine Automatisierungs-Engine für einen KI-Vertriebs-Copiloten eines Unternehmens: Am Montagmorgen um 9:01 Uhr, mitten im Ansturm, kam das „429-Desaster“.

Das Relay hatte gar keine regulären Schlüssel. Sein Pool bestand aus Zugangsdaten für Web-Sitzungen, die per Reverse Engineering abgegriffen worden waren. An diesem Morgen führte OpenAI eine neue Generation von Anti-Bot-Kontrollen ein, und der Pool brach auf einen Schlag zusammen. Das Vertriebssystem lag volle zwei Stunden still. Dutzende Vertriebsmitarbeiter starrten auf eine Fehlerseite. Der geschäftliche Schaden ließ sich nicht beziffern.

4. Wenn die Daten in einem Darknet-Forum landen

Der letzte Akt dieses „Spar“-Spiels hat oft etwas von schwarzem Humor.

Als die offiziellen Kontrollen immer strenger wurden, gingen mehreren Relays die Konten als Nachschub aus, und sie machten Verluste. Ein Betreiber hinterließ in einer Telegram-Gruppe ein beiläufiges „Die Kontrollen sind zu streng, Leute, auf Wiedersehen“, zog den Stecker, löschte die Datenbank und setzte sich ab. Das ungenutzte Guthaben aller Nutzer war von einem Moment auf den anderen verschwunden.

Zwei Wochen später tauchte in einem Darknet-Forum ein Datenbankarchiv von 50 GB auf. Viele Open-Source-Relay-Panels liefen auf billigen VPS-Hosts ohne echten Schutz. Nachdem sich die Betreiber abgesetzt hatten, wurden die Hosts nach Schwachstellen gescannt und die Datenbanken abgezogen. Interner Unternehmenscode, geschäftliche Prompts, Konfigurationen von Multi-Agent-Abläufen und sogar Geschäftsdaten, die nie gründlich anonymisiert worden waren, lagen nun offen im Netz.

Auf einem Tech-Meetup brachte Zhou Ge es auf eine Formel:

Echte Kosten einer Modell-API = ausgewiesene Token-Gebühren + Kosten für Wiederholungen nach einem Downgrade + Zeit für die Feuerwehreinsätze im Betrieb + Risiko eines Datenlecks.

Es gibt nichts geschenkt. Ein Preis weit unter der Marktuntergrenze verwandelt die sichtbare Rechnung nur in einen Betriebsalbtraum und eine Sicherheitsbombe, deren Ausmaß das Team nicht vorhersehen kann. Wer ein Unternehmen auf lange Sicht aufbauen will, hält sich von Grauzonen-Relays nicht fern, um ein paar Münzen zu sparen, sondern damit er seine Trümpfe nicht selbst aus der Hand gibt.