De Anthropic-IPO en het risico van het einde der mensheid

Eind september werd bekend dat het Anthropic-prospectus – voor mogelijk de grootste beursgang ooit – de moeder van alle risico’s bevat: AI kan “catastrofale of existentiële risico’s voor de mensheid”betekenen. (Hoe) waardeer je een bedrijf met zo’n groot risico?

Nu staan er in elk prospectus veel risico’s, al was het maar om het bedrijf in te dekken als er iets fout gaat. Maar waarschuwen voor het einde van de mensheid is wel next level.

Sommigen zien dit als een verhulde oproep voor meer regulering, wat grote, bestaande AI-ontwikkelaars bevoordeelt. Anderen denken dat dit gewoon verkapte marketing is: ons model is zo goed, het kan misschien de mensheid vernietigen! En weer anderen denken dat het wel los zal lopen, dat zelfregulering volstaat of dat een paar ongelukjes een kleine prijs zijn om de AI-race te winnen.

Verplichte kost

Na meerdere gevallen van losgeslagen agenten, waaronder de hack van Hugging Face (door losgeslagen OpenAI-agenten die uit een afgesloten testomgeving waren ontsnapt), en de inschatting van een Anthropic-onderzoeker dat de kans dat AI binnen tien jaar alle mensen doodt groter is dan 10%, dringt nu bij een breed publiek door dat er grote risico’s aan AI kleven. Hoe groot precies, dat weet niemand. En hoe prijs je deze risico’s in? En wie dekt de verzekeringen?

Sam Lessin, partner bij Slow Ventures, schat tegenover Bloomberg dat de aansprakelijkheden van AI een risico van 2 à 4 biljoen dollar vormen (los van dat vervelende uitsterven). Hij stelt voor dat de Amerikaanse overheid AI-labs verplicht om $1 biljoen in een fonds te storten voor toekomstige schades. Voor massaal uitsterven lijkt dat te weinig. Aan de andere kant: aan wie zou je dan moeten uitkeren?

Uitsterven is speculatief

Vorige week kwam de eerste kredietrating van Anthropic naar buiten (uit juni): BB+ van het minder bekende Kroll Bond Rating Agency (KBRA). BB staat bij KBRA voor een “moderate risk of loss due to credit-related events”.

Jammer genoeg voor Anthropic is BB+ “speculative grade” (ook “junk” genoemd) en geen “investment grade”. Bij investment grade mogen ook pensioenfondsen en andere institutionele investeerders het schuldpapier kopen, wat meer vraag en dus een lagere rente kan betekenen.

Toch is een “moderate risk of loss” nog vrij mild, gezien het risico dat de mensheid uitsterft. Zou KBRA denken dat het einde van de mensheid technisch gezien geen default is, of dat Anthropic dan juist als enige overeind blijft? In dat laatste geval zou elk ander bedrijf nu 10% meer kans op een default hebben en een lagere rating moeten krijgen.

Ander onderwerp

Op de Investor Day vorige week benadrukte topman Amodei volgens een aanwezige opnieuw de focus op veiligheid, maar over uitsterven had hij het niet meer. De cijfers vielen wel een beetje tegen: de omzet groeide in Q3 met “maar” 45% naar $16,8 miljard, na meer dan 100% groei in Q1 en Q2. Daardoor komt de IPO-waardering mogelijk eerder uit op $1,5 biljoen dan op de eerder genoemde $2 biljoen.

Zelfs dat is veel te hoog volgens onderzoeksbureau New Constructs. Het noemt Anthropic de “most ridiculous IPO of 2026” en waardeert het op misschien maar $144 miljard (bron). Voor $2 biljoen zou de omzet dit jaar met 1.000% moeten groeien, in 2027 met 100% en daarna tot 2035 met 56% per jaar. Met de concurrentie van goedkopere modellen ziet het bureau dat niet gebeuren.

Milder is PitchBook (via Morningstar). Op $2 biljoen zou Anthropic zo’n 435 keer de omzet van 2025 kosten, maar op basis van de huidige run rate is dat nog maar zo’n 31 keer de omzet. Snelle groei dus, maar ook volgens PitchBook kom je dan nog niet op een waardering van $2 biljoen.

Hoe dit afloopt mag AI weten, maar het lijkt steeds waarschijnlijker dat ook Anthropic zijn IPO uitstelt. Voor een toch al zenuwachtige markt is dat slecht nieuws. Voor de mensheid hopelijk goed nieuws.