Washington schrijft AI-regelgeving met Anthropic, OpenAI en Google aan tafel en noemt dat onafhankelijk toezicht

Anthropic beweert het gevaarlijkste AI-systeem ter wereld te hebben gebouwd, maar of dat klopt of gewoon een goede marketingpitch is maakt niet uit, want het bedrijf nodigde vervolgens de overheid uit aan tafel, er lag toevallig nog een federaal contract open dus dat konden ze er ook bij bespreken, en schrijft nu mee aan de wet die bepaalt of zoiets nog een keer mag gebeuren. Een urgentie die volledig wordt beheerd door de partij die hem creëerde is geen urgentie met een geconstrueerd verhaal eromheen; het is de constructie zelf. Anthropic maakte het gevaar, gaf het een naam en controleerde de toegang ertoe via veertig handmatig geselecteerde bedrijven. Het gevaar is het product, de regelgeving is distributiecontrole, en het overheidscontract dekt de ontwikkelkosten.

Hoe AI-veiligheid werkt als Anthropic bepaalt wie toegang krijgt tot het gevaar dat Anthropic creëerde

Project Glasswing: veertig bedrijven, exclusieve toegang tot de kwetsbaarheidsinformatie die Mythos blootlegde. Google op de lijst, Microsoft op de lijst, xAI op de lijst; de centrale bank van Mozambique niet. De partijen die die informatie het hardst nodig hebben krijgen hem, en Anthropic noemt dit verantwoord rentmeesterschap. Het FDA-raamwerk gaat ervan uit dat je weet waar je naar test; Mythos is emergent, niemand begrijpt volledig wat het kan totdat het het doet. Een raamwerk dat structureel niet kan evalueren wat het beweert te evalueren beschermt nog steeds het bedrijf dat meewerkte, aftekende en “verantwoordelijkheid toonde.” De EPA reguleerde jarenlang loodvervuiling met normen die de loodindustrie hielp schrijven. Dat is geen precedent. Dat is een instructiehandleiding.

Hoe AI-veiligheid een markttoetredingsbarrière werd en waarom dat altijd al het doel was

Drie maanden geleden noemde de vicepresident AI-veiligheidszorgen angst; nu verschijnt “veiligheid” drie keer in één Witte Huis-post. Dat is geen beleidskoerswijziging, het is een woordenschuif door mensen die weten dat woorden goedkoper zijn dan toezicht. Veiligheid betekent nu wat Anthropic, OpenAI en Google bedoelen als ze het zeggen: hun normen, hun definities, hun oplossingen. Kleinere labs zullen binnenkort een goedkeuringsproces moeten doorlopen dat is gebouwd op normen geschreven door de bedrijven waarmee ze concurreren; veiligheidseisen als markttoetredingsbarrières zijn zo oud als de farmaceutische industrie. De structuur die het moment moet afhandelen waarop een frontierlab iets wil uitbrengen dat de overheid gevaarlijk vindt bestaat al, en hij is gebouwd door de mensen die dat moment zullen veroorzaken.