Rand Hindi (Zama): "De agent-boom is de wraak van de productmanager op de ontwikkelaar"

The Big Whale: U leidt een tech-eenhoorn. Wat heeft AI concreet veranderd in de manier waarop u Zama beheert?

Rand Hindi: De meest zichtbare beslissing betreft ons personeelsbeleid. We zijn gestopt met aannemen totdat elk team AI heeft geïntegreerd in hun dagelijkse werk. Als iemand me vertelt dat ze een tekort aan ingenieurs hebben, is mijn antwoord nu: laat me eerst zien wat je hebt geautomatiseerd. Neem je workflow, probeer deze te repliceren met AI, en laten we kijken wat er overblijft. Er kan geen enkel team – intern of extern – zijn dat deze oefening overslaat. Zodra dat is gebeurd, kunnen we het over aannemen hebben.

Voor welke functies neemt u nog steeds mensen aan, hoe dan ook?

Twee. Verkoop en cybersecurity.

Verkoop, omdat het sluiten van zakelijke deals fundamenteel draait om menselijk contact en relaties. Er is een relationele dimensie aan het commerciële proces die nooit geautomatiseerd zal worden. AI kan een SaaS-marketingtrechter beheren. Het zal nooit uw zakelijke deals sluiten, het zal nooit uw strategische partnerschappen opbouwen.

Cybersecurity, omdat we een wapenwedloop ingaan. We zijn terug in de vroege jaren 90 van computervirussen, behalve dat de aanvallers nu AI hebben – en u ook. Verdedigen tegen door AI aangedreven aanvallers vereist een beveiligingsteam dat zelf weet hoe AI te gebruiken. Een goede beveiligingsingenieur is moeilijk te vinden, en de werkdruk is enorm: 50 services parallel monitoren, alle signalen, alles wat er in het netwerk gebeurt. AI stelt u in staat die capaciteit te vermenigvuldigen. Met de juiste architectuur kan een startup vandaag de beveiligingsdekking hebben van een grote bank. En dat geldt voor elke sector.

Waar trekt u de grens tussen wat AI produceert en waar een mens zijn goedkeuring aan geeft?

We zijn het nog aan het uitzoeken. De regel die ik voor nu heb ingesteld: geen enkele coderegel gaat naar productie zonder door een mens te zijn gecontroleerd. De deploy-knop wordt door een persoon ingedrukt. Dat is niet per se een lijn die we voor altijd zullen aanhouden, maar het is waar we nu staan – en het is logisch.

Brian Armstrong kondigde aan dat Coinbase 14% van zijn personeelsbestand schrapt en dat niet-technisch personeel code naar productie zou moeten kunnen pushen. Deelt u die mening?

Niet-technische mensen die code schrijven – prima. Het naar productie pushen nadat een mens het heeft beoordeeld – ook prima. Maar u heeft vangrails nodig. Modellen evolueren zo snel dat wat u gisteren kreeg, niet is wat u morgen zult krijgen. Determinisme in AI-outputs is momenteel een echt probleem. U heeft een proces nodig met filters en controles om er zeker van te zijn dat het model geen bug heeft geïntroduceerd, geen creditcardnummer heeft geplakt, niets onzorgvuldigs heeft gedaan. Totdat we een stabiel raamwerk hebben voor het in productie brengen van door AI gegenereerde code, is het behouden van een mens in de lus niet onderhandelbaar.

"De deploy-knop wordt door een persoon ingedrukt. Dat is niet per se een lijn die we voor altijd zullen aanhouden, maar het is waar we nu staan."

Verschillende tech-CEO's beweren dat de AI- en agent-golf eerst de junior profielen zal treffen. Bent u het daarmee eens?

Ik zeg het niet graag, maar ja. De kosten-batenanalyse van iemand opleiden versus direct een ervaren profiel aannemen – zelfs een veel duurder profiel – die al weet hoe AI-tools te gebruiken: voor mij is er geen discussie. Een senior met tien jaar ervaring die weet hoe een project te leiden, een leger van agenten en LLM's aanstuurt, doet wat een leger van juniors vroeger deed. Dat geldt voor marketing, engineering, productontwikkeling en business development.

Drie jaar geleden heb ik mijn teams gezegd te stoppen met het aannemen van stagiairs. Ze komen zes maanden, u leidt ze op, ze vertrekken. Niet interessant.

Dus wat gebeurt er met juniors op de arbeidsmarkt?

Ze worden oprichters. Dat is mijn stelling. Een hele cohort afgestudeerden zal geen baan vinden, en het gevolg is een golf van startups gebouwd door 20-jarigen die zijn opgegroeid met deze tools en bedrijven sneller kunnen bouwen dan mijn generatie (Rand is geboren in de jaren 80, red.) ooit kon op die leeftijd. Het afgelopen decennium werden de meeste startups opgericht door mensen van in de dertig en veertig – de markt was verzadigder geworden, meer SaaS-gericht, je had opgebouwde ervaring nodig. Dat verandert nu.

Mijn voorspelling: er is eerst een dal waarin juniors moeite hebben om werk te vinden. Senioren worden buitengewoon goed betaald omdat ze weten hoe ze een leger van agenten moeten aansturen. En juniors worden ondernemers. U krijgt een nieuwe categorie startups – sneller, goedkoper, efficiënter dan wat we vandaag hebben. De meeste eenpersoons-eenhoorns zullen worden gebouwd door jonge mensen, niet door ervaren mensen.

Is dit een hervorming die verder gaat dan de techsector?

Absoluut. Denk aan miljoenen micro-ondernemingen – het equivalent van de kapsalon van je ouders, maar dan in de tech. Je kleine bedrijfje draait een paar honderdduizend euro per jaar, je werkt met een partner of je familie, één of twee werknemers. Dat zal in een enorm aantal sectoren bestaan. Je lanceert in je eentje een e-commercebedrijf. Je lanceert in je eentje een mobiele app. Je zult waarschijnlijk niet in je eentje een concurrent voor Anthropic bouwen, maar een groot deel van wat vroeger een startup van honderd mensen vereiste, kun je nu met een handvol mensen doen.

Naar welk profiel zijn jullie op zoek bij Zama in deze context?

Het is veel veranderd. Vroeger stuurden we kandidaten een codetest. Vandaag de dag richt het proces zich op je vermogen om een project te leiden en kwaliteitswerk te leveren, in plaats van op je vermogen om code te produceren.

Productmanagement, projectmanagement – dat zijn plotseling zeer gewaardeerde vaardigheden. De 'agentic boom' is de wraak van de productmanager op de ontwikkelaar, wat betreft waardecreatie. De beste profielen die we hebben gezien, zijn ingenieurs die managers zijn geworden. Die dubbele vaardigheid – manager en ingenieur – is precies wat je nodig hebt om agents te orkestreren.

"De beste profielen zijn ingenieurs die managers zijn geworden. Die dubbele vaardigheid is precies wat je nodig hebt om agents te orkestreren."

Heeft AI de kloof tenminste verkleind tussen een gemiddelde ingenieur en een uitzonderlijke?

Het tegenovergestelde. De kloof wordt groter. Ingenieurs die voorheen al uitblonken, doen dat met AI nog meer. Iemand die gemiddeld is met AI, blijft gemiddeld. Iemand die uitzonderlijk is met AI, doet het werk van vijftien mensen. En de uitzonderlijke zullen veel meer betaald krijgen dan voorheen, omdat hun productiviteit ronduit absurd is.

Om deze tools effectief te gebruiken, heb je nog steeds een technische mindset nodig, zelfs als je niet dagelijks code schrijft. Je moet een goede manager zijn, precies specificeren wat je wilt, problemen met precisie formuleren. Managementvaardigheden, projectmanagement, een gevoel voor systeemarchitectuur – dat alles maakt een enorm verschil in het eindresultaat.

De inkomsten bij de grote AI-labs groeien parabolisch. Is de 'agentic economy' eigenlijk duurzaam, of gaan we binnen drie jaar meer betalen voor agents dan voor mensen?

Dat is nu enigszins het geval, omdat er nog geen echte, meetbare ROI is geweest op deze investeringsgolf. Het echte antwoord zal over ongeveer een jaar komen, zodra bedrijven deze processen echt hebben geïntegreerd en de impact op hun inkomsten kunnen meten.

In de kern is het een wiskundige vergelijking. In het bedrijfsleven stop je X euro in de machine en komen er Y euro's uit. Of je dat nu uitgeeft aan personeel, infrastructuur, softwareleveranciers, of tokens bij Anthropic of OpenAI – het maakt niet uit. Het is meetbaar. Bedrijven gaan geen tientallen miljarden uitgeven als ze geen overeenkomstige omzetstijging zien, of op zijn minst een verbetering van de marges. Of het bespaart kosten, of het genereert business. Het kan niet niets doen.

Ik ben ervan overtuigd dat we binnen een jaar het antwoord zullen hebben. En ik ben ervan overtuigd dat het een positief antwoord zal zijn.

Dat is ook de inzet die jullie nemen met jullie eigen technologie. Leg FHE uit aan iemand die er nog nooit van heeft gehoord.

Volledig Homomorfe Encryptie (FHE) stelt je in staat om berekeningen uit te voeren op versleutelde gegevens zonder deze ooit te ontsleutelen. Zie het als end-to-end-encryptie – het soort dat je hebt op Signal of Telegram – maar dan uitgebreid naar elke dienst die je online gebruikt. Vandaag de dag, wanneer je een query naar Claude stuurt, ziet Anthropic je prompt om het model uit te voeren, en geeft vervolgens een antwoord terug. De gegevens zijn versleuteld tijdens de overdracht, maar niet tijdens de berekening. Met FHE blijven de gegevens versleuteld, zelfs tijdens de berekening. De provider ziet je prompt nooit, en ziet ook het antwoord nooit.

"Of het bespaart kosten, of het genereert business. Het kan niet niets doen."

De ideale privacy-laag voor enterprise AI, zo lijkt het. Toch zeggen jullie dat dat niet is waar jullie business zich bevindt.

Dat klopt. De use case voor privacy in enterprise AI klinkt op papier overtuigend, maar in de praktijk geeft niemand er echt om. Mensen sturen hun prompts zonder erbij na te denken naar Anthropic. Er is een gevestigd niveau van vertrouwen in serieuze leveranciers. Niemand weigert Claude te gebruiken om privacyredenen. Het is hetzelfde met Google en e-mail.

Er is ook een contractuele realiteit. Wanneer Zama een enterprise-contract tekent met Anthropic voor het gebruik van Claude door ons personeel, is het Anthropic contractueel verboden om onze gegevens te gebruiken om hun modellen te trainen. Dat is al geregeld. Het enige resterende risico is een datalek – iemand die gegevens van de servers van Anthropic exfiltreert. FHE lost dat op. Maar dat is een cybersecurityprobleem, geen privacyprobleem. En dat is niet wat directieteams 's nachts wakker houdt.

Dus, waar is de echte use case?

Blockchain. Op Ethereum of Solana wordt elke transactie openbaar uitgezonden. Je kunt iemands saldo zien, wat ze hebben gekocht, wat ze hebben verkocht, hun portefeuilleposities. Je hebt helemaal geen privacy. Met FHE kunnen we een privacy-laag toevoegen bovenop openbare blockchains zonder activa naar een andere ledger te verplaatsen. Je geld blijft op Ethereum, je kunt het nog steeds overmaken, nog steeds verhandelen, je behoudt alle voordelen van een openbare keten – maar waarnemers kunnen niet langer zien wat je doet.

In de context van agent-gebaseerde financiën, waar agenten transacties autonoom uitvoeren, wat verandert dat?

Het verandert alles voor de bescherming van strategieën. Bij on-chain financiële transacties, of de actor nu een mens of een agent is, als je je strategie, je activa, je posities wilt beschermen, moeten ze versleuteld zijn. Of een agent nu een betaling doet of een mens een portefeuille beheert, de privacyvereiste is hetzelfde.

Er is een aparte vraag over upstream agent-vertrouwelijkheid – ten opzichte van de modelaanbieder die de agent beheert – en dat is technisch haalbaar met FHE, maar zoals ik al zei, niemand geeft er vandaag echt om. De interessante laag is wat de agent doet zodra deze de omgeving van Anthropic verlaat: betalingen, transacties, communicatie met een andere agent. Daar ben je terug in de echte wereld, en dat is waar Zama en de blockchain-stack een rol te spelen hebben.

Zama is een Europees bedrijf. Welk deel van jullie activiteiten is Europees?

Bijna geen. Ongeveer 95% van onze blockchain-klanten bevindt zich in de Verenigde Staten, Azië en Zwitserland. Zwitserland ligt technisch gezien in Europa, maar niet in de EU.

Het is niet dat er geen interesse is in Europa. Het is dat Europa als politieke entiteit de adoptie van blockchain niet bevordert. Kijk naar Christine Lagarde die zegt dat stablecoins nutteloos zijn voor het wereldwijd promoten van de euro. Wanneer het institutionele ecosysteem niet wil dat blockchain succesvol is, dan is daar automatisch geen business te vinden.

In AI is er misschien een iets sterkere strategische reden voor Europa, maar eerlijk gezegd: ik heb nog nooit een bedrijf een inferieur product zien gebruiken omdat het Europees is. De AI-race is te belangrijk.

Als je competitief wilt zijn, moet je de beste tools gebruiken, en die zijn op dit moment voornamelijk Amerikaans. Zij hebben honderden miljarden dollars geïnvesteerd. Europa heeft een paar honderd miljoen geïnvesteerd. De Amerikanen hebben tientallen jaren aan opgebouwde expertise in het schalen van software en technologie. Zeventig jaar ondernemers- en durfkapitaalcultuur komt nu tot uiting in AI. Dit is geen privacykwestie.