Rand Hindi (Zama): "Der Agenten-Boom ist die Rache des Produktmanagers am Entwickler"

The Big Whale: Sie leiten ein Tech-Unicorn. Was hat KI konkret an der Art und Weise verändert, wie Sie Zama führen?

Rand Hindi: Die sichtbarste Entscheidung betrifft die Personalplanung. Wir haben die Neueinstellungen gestoppt, bis jedes Team KI in seine tägliche Arbeit integriert hat. Wenn mir jemand sagt, es fehle an Ingenieuren, lautet meine Antwort jetzt: Zeigen Sie mir zuerst, was Sie automatisiert haben. Nehmen Sie Ihren Workflow, versuchen Sie, ihn mit KI zu replizieren, und dann sehen wir, was übrig bleibt. Es darf kein einziges Team – intern oder extern – geben, das diese Übung auslässt. Sobald das erledigt ist, können wir über Neueinstellungen sprechen.

Für welche Rollen stellen Sie trotzdem noch ein, komme was wolle?

Zwei. Vertrieb und Cybersicherheit.

Vertrieb, weil der Abschluss von Enterprise-Deals grundlegend auf menschlichem Kontakt und Beziehungen basiert. Es gibt eine relationale Dimension im kommerziellen Prozess, die niemals automatisiert werden kann. KI kann einen SaaS-Marketing-Funnel verwalten. Sie wird niemals Ihre Enterprise-Deals abschließen, sie wird niemals Ihre strategischen Partnerschaften aufbauen.

Cybersicherheit, weil wir uns in einem Wettrüsten befinden. Wir sind zurück in den frühen 1990er Jahren der Computerviren, nur dass die Angreifer jetzt KI haben – und Sie auch. Die Verteidigung gegen KI-gestützte Angreifer erfordert ein Sicherheitsteam, das selbst weiß, wie man KI einsetzt. Ein guter Sicherheitsingenieur ist schwer zu finden, und die Arbeitsbelastung ist brutal: 50 Dienste parallel überwachen, alle Signale, alles, was im Netzwerk passiert. KI ermöglicht es Ihnen, diese Kapazität zu vervielfachen. Mit der richtigen Architektur kann ein Startup heute die Sicherheitsabdeckung einer Großbank haben. Und das gilt für jeden Sektor.

Wo ziehen Sie die Grenze zwischen dem, was KI produziert, und dem, was ein Mensch abzeichnet?

Wir finden es noch heraus. Die Regel, die ich vorerst aufgestellt habe: Keine einzige Codezeile geht in die Produktion, ohne von einem Menschen überprüft worden zu sein. Der Deploy-Button wird von einer Person gedrückt. Das ist nicht unbedingt eine Linie, an der wir für immer festhalten werden, aber es ist unser aktueller Stand – und es ist sinnvoll.

Brian Armstrong kündigte an, dass Coinbase 14 % seiner Belegschaft abbaut und dass nicht-technische Mitarbeiter Code in die Produktion bringen können sollten. Teilen Sie diese Ansicht?

Nicht-technische Personen, die Code schreiben – in Ordnung. Ihn nach menschlicher Überprüfung in die Produktion bringen – auch in Ordnung. Aber man braucht Leitplanken. Modelle entwickeln sich so schnell, dass das, was man gestern bekommen hat, nicht das ist, was man morgen bekommen wird. Determinismus bei KI-Outputs ist derzeit ein echtes Problem. Man braucht einen Prozess mit Filtern und Prüfungen, um sicherzustellen, dass das Modell keinen Fehler eingeführt, keine Kreditkartennummer eingefügt oder etwas Unvorsichtiges getan hat. Solange wir keinen stabilen Rahmen für die Einführung von KI-generiertem Code in die Produktion haben, ist es nicht verhandelbar, einen Menschen in der Schleife zu behalten.

„Der Deploy-Button wird von einer Person gedrückt. Das ist nicht unbedingt eine Linie, an der wir für immer festhalten werden, aber es ist unser aktueller Stand.“

Mehrere Tech-CEOs argumentieren, dass die KI- und agentische Welle zuerst Junior-Profile treffen wird. Stimmen Sie zu?

Ich sage es nicht gerne, aber ja. Der Kosten-Nutzen-Vergleich, jemanden auszubilden versus direkt ein erfahrenes Profil einzustellen – selbst ein viel teureres –, das bereits weiß, wie man KI-Tools einsetzt: Für mich gibt es da keinen Wettbewerb. Ein Senior mit zehn Jahren Erfahrung, der weiß, wie man ein Projekt leitet und eine Armee von Agenten und LLMs führt, erledigt das, was früher eine Armee von Juniors getan hat. Das gilt für Marketing, Engineering, Produktentwicklung und Business Development.

Vor drei Jahren habe ich meinen Teams gesagt, sie sollen keine Praktikanten mehr nehmen. Sie kommen für sechs Monate, man bildet sie aus, sie gehen wieder. Kein Interesse.

Was passiert also mit Juniors auf dem Arbeitsmarkt?

Sie werden Gründer. Das ist meine These. Eine ganze Kohorte von Absolventen wird keine Jobs finden, und die Konsequenz ist eine Welle von Startups, die von 20-Jährigen gegründet werden, die mit diesen Tools aufgewachsen sind und Unternehmen schneller aufbauen können, als meine Generation (Rand wurde in den 1980ern geboren, Anm. d. Red.) es in diesem Alter je konnte. Im letzten Jahrzehnt wurden die meisten Startups von Menschen in ihren Dreißigern und Vierzigern gegründet – der Markt war gesättigter, SaaS-lastiger geworden, man brauchte angesammeltes „Narbengewebe“. Das ändert sich.

Meine Prognose: Zuerst gibt es ein Tal, in dem Juniors Schwierigkeiten haben, Arbeit zu finden. Seniors werden außergewöhnlich gut bezahlt, weil sie wissen, wie man eine Armee von Agenten führt. Und Juniors werden zu Unternehmern. Am Ende hat man eine neue Kategorie von Startups – schneller, billiger, effizienter als das, was wir heute haben. Die meisten Ein-Personen-Unicorns werden von jungen Leuten aufgebaut, nicht von erfahrenen.

Ist das eine Umgestaltung, die über den Tech-Sektor hinausgeht?

Absolut. Stellen Sie sich Millionen von Kleinstunternehmen vor – das Äquivalent zum Friseursalon Ihrer Eltern, aber im Tech-Bereich. Ihr kleines Unternehmen erwirtschaftet ein paar Hunderttausend Euro im Jahr, Sie arbeiten mit einem Partner oder Ihrer Familie zusammen, ein oder zwei Angestellte. Das wird in einer riesigen Anzahl von Sektoren existieren. Sie werden ein E-Commerce-Geschäft alleine starten. Sie werden eine mobile App alleine starten. Sie werden wahrscheinlich keinen Konkurrenten zu Anthropic im Alleingang aufbauen, aber einen großen Teil dessen, wofür früher ein hundertköpfiges Startup nötig war, können Sie jetzt mit einer Handvoll Leute erledigen.

Welches Profil suchen Sie in diesem Kontext bei Zama?

Das hat sich stark verändert. Früher haben wir Kandidaten einen Coding-Test geschickt. Heute konzentriert sich der Prozess auf Ihre Fähigkeit, ein Projekt zu leiten und qualitativ hochwertige Arbeit abzuliefern, anstatt auf Ihre Fähigkeit, Code am Fließband zu produzieren.

Produktmanagement, Projektmanagement – das sind plötzlich hochgeschätzte Fähigkeiten. Der Agenten-Boom ist die Rache des Produktmanagers am Entwickler, was die Wertschöpfung angeht. Die besten Profile, die wir gesehen haben, sind Ingenieure, die Manager wurden. Diese doppelte Fähigkeit – Manager und Ingenieur – ist genau das, was man braucht, um Agenten zu orchestrieren.

„Die besten Profile sind Ingenieure, die Manager wurden. Diese doppelte Fähigkeit ist genau das, was man braucht, um Agenten zu orchestrieren.“

Hat KI zumindest die Kluft zwischen einem durchschnittlichen und einem außergewöhnlichen Ingenieur verringert?

Das Gegenteil ist der Fall. Die Kluft wird größer. Ingenieure, die vorher schon Stars waren, sind es mit KI noch mehr. Jemand, der mit KI durchschnittlich ist, bleibt durchschnittlich. Jemand, der mit KI außergewöhnlich ist, erledigt die Arbeit von fünfzehn Leuten. Und die außergewöhnlichen werden viel mehr bezahlt als zuvor, weil ihre Produktivität offen gesagt absurd ist.

Um diese Tools effektiv zu nutzen, braucht man immer noch eine Ingenieursmentalität, auch wenn man nicht täglich Code schreibt. Man muss ein guter Manager sein, genau spezifizieren, was man will, Probleme präzise formulieren. Managementfähigkeiten, Projektmanagement, ein Gespür für Systemarchitektur – all das macht einen enormen Unterschied bei dem, was am Ende herauskommt.

Die Einnahmen der großen KI-Labore wachsen parabolisch. Ist die Agenten-Ökonomie tatsächlich nachhaltig, oder werden wir am Ende innerhalb von drei Jahren mehr für Agenten als für Menschen bezahlen?

Das ist im Moment leicht der Fall, weil es noch keinen echten, messbaren ROI für diese Investitionswelle gab. Die wahre Antwort wird in etwa einem Jahr kommen, sobald Unternehmen diese Prozesse wirklich integriert haben und die Auswirkungen auf ihre Einnahmen messen können.

Im Grunde ist es eine mathematische Gleichung. Im Geschäftsleben steckt man X Euro in die Maschine und Y Euro kommen heraus. Ob man das für Personal, Infrastruktur, Softwareanbieter oder Tokens bei Anthropic oder OpenAI ausgibt – das spielt keine Rolle. Es ist messbar. Unternehmen werden keine zig Milliarden ausgeben, wenn sie nicht einen entsprechenden Umsatzanstieg oder zumindest eine Verbesserung der Margen sehen. Entweder es senkt Kosten, oder es generiert Geschäft. Es kann nicht nichts tun.

Ich bin überzeugt, dass wir innerhalb eines Jahres die Antwort haben werden. Und ich bin überzeugt, dass sie positiv sein wird.

Das ist auch die Wette, die Sie auf Ihre eigene Technologie eingehen. Erklären Sie uns FHE für jemanden, der noch nie davon gehört hat.

Vollständig homomorphe Verschlüsselung (FHE) ermöglicht es, Berechnungen auf verschlüsselten Daten durchzuführen, ohne diese jemals zu entschlüsseln. Stellen Sie es sich wie eine Ende-zu-Ende-Verschlüsselung vor – die Art, die Sie bei Signal oder Telegram haben – aber erweitert auf jeden Dienst, den Sie online nutzen. Wenn Sie heute Claude abfragen, sieht Anthropic Ihren Prompt, um das Modell auszuführen, und gibt dann eine Antwort zurück. Die Daten sind während der Übertragung verschlüsselt, aber nicht während der Berechnung. Mit FHE bleiben die Daten auch während der Berechnung verschlüsselt. Der Anbieter sieht niemals Ihren Prompt und niemals die Antwort.

„Entweder es senkt Kosten, oder es generiert Geschäft. Es kann nicht nichts tun.“

Die ideale Datenschutzschicht für Unternehmens-KI, so scheint es. Doch Sie sagen, dass Ihr Geschäft eigentlich nicht dort liegt.

Das ist richtig. Der Anwendungsfall Datenschutz für Unternehmens-KI klingt auf dem Papier überzeugend, aber in der Praxis kümmert es niemanden wirklich. Die Leute senden ihre Prompts ohne Bedenken an Anthropic. Es gibt ein etabliertes Vertrauen in seriöse Anbieter. Niemand weigert sich, Claude aus Datenschutzgründen zu nutzen. Das ist dasselbe wie bei Google und E-Mail.

Es gibt auch eine vertragliche Realität. Wenn Zama einen Unternehmensvertrag mit Anthropic unterzeichnet, damit unsere Mitarbeiter Claude nutzen können, ist es Anthropic vertraglich untersagt, unsere Daten zum Trainieren ihrer Modelle zu verwenden. Das ist bereits geklärt. Das einzige Restrisiko ist eine Sicherheitsverletzung – jemand, der Daten von Anthropic-Servern exfiltriert. FHE löst das. Aber das ist ein Cybersicherheitsproblem, kein Datenschutzproblem. Und es ist nicht das, was Führungsteams nachts wachhält.

Wo liegt also der eigentliche Anwendungsfall?

Blockchain. Auf Ethereum oder Solana wird jede Transaktion öffentlich übertragen. Man kann den Kontostand einer Person sehen, was sie gekauft, was sie verkauft hat, ihre Portfolio-Positionen. Man hat überhaupt keine Privatsphäre. Mit FHE können wir eine Datenschutzschicht über öffentliche Blockchains legen, ohne Vermögenswerte auf ein anderes Ledger zu verschieben. Ihr Geld bleibt auf Ethereum, Sie können es weiterhin übertragen, weiterhin handeln, Sie behalten alle Vorteile einer öffentlichen Kette – aber Beobachter können nicht mehr sehen, was Sie tun.

Im Kontext des agentengesteuerten Finanzwesens, wo Agenten Transaktionen autonom ausführen, was ändert das?

Das ändert alles für den Strategenschutz. Bei On-Chain-Finanztransaktionen, egal ob der Akteur ein Mensch oder ein Agent ist, müssen Ihre Strategie, Ihre Vermögenswerte, Ihre Positionen verschlüsselt sein, wenn Sie sie schützen wollen. Ob ein Agent eine Zahlung vornimmt oder ein Mensch ein Portfolio verwaltet, die Anforderung an die Privatsphäre ist dieselbe.

Es gibt eine separate Frage bezüglich der vorgelagerten Vertraulichkeit von Agenten – vis-à-vis dem Modellanbieter, der den Agenten betreibt – und das ist technisch mit FHE machbar, aber wie gesagt, heute kümmert sich niemand wirklich darum. Die interessante Ebene ist, was der Agent tut, sobald er die Umgebung von Anthropic verlässt: Zahlungen, Trades, Kommunikation mit einem anderen Agenten. Dort sind Sie zurück in der realen Welt, und hier spielen Zama und der Blockchain-Stack eine Rolle.

Zama ist ein europäisches Unternehmen. Welchen Anteil Ihres Geschäfts macht Europa aus?

So gut wie keiner. Rund 95 % unserer Blockchain-Kunden befinden sich in den Vereinigten Staaten, Asien und der Schweiz. Die Schweiz ist technisch gesehen in Europa, aber nicht in der EU.

Es ist nicht so, dass es in Europa kein Interesse gäbe. Es ist vielmehr so, dass Europa als politische Einheit die Blockchain-Einführung nicht fördert. Man denke an Christine Lagarde, die sagt, Stablecoins seien nutzlos, um den Euro global zu fördern. Wenn das institutionelle Ökosystem nicht will, dass Blockchain gewinnt, dann ist dort zwangsläufig kein Geschäft.

Im Bereich KI mag es einen etwas stärkeren strategischen Fall für Europa geben, aber ehrlich gesagt: Ich habe noch nie ein Unternehmen gesehen, das ein minderwertiges Produkt verwendet, nur weil es europäisch ist. Das KI-Rennen ist zu wichtig.

Wenn man wettbewerbsfähig sein will, muss man die besten Tools nutzen, und im Moment sind das größtenteils amerikanische. Sie haben Hunderte von Milliarden Dollar investiert. Europa hat ein paar Hundert Millionen investiert. Die Amerikaner verfügen über jahrzehntelange gesammelte Expertise im Skalieren von Software und Technologie. Siebzig Jahre Unternehmertums- und Venture-Kultur spielen sich gerade in der KI ab. Das ist keine Frage der Privatsphäre.