De AI-bouwers willen een bruikbare rem

Onderwerp: De AI-bouwers willen een bruikbare rem

Preheader: Meer dan 1.100 werknemers vragen geen algemene stop. Ze willen samen tijd kunnen winnen.

Meer dan 1.100 medewerkers van toonaangevende AI-laboratoria en technologiebedrijven ondertekenden de verklaring Pacing the Frontier. Ze vragen niet om alle AI-ontwikkeling stil te leggen. Ze willen technische en bestuurlijke mechanismen waarmee landen en bedrijven samen kunnen vertragen als geautomatiseerd AI-onderzoek te snel versnelt.

De verklaring vraagt de Amerikaanse overheid om een internationale inspanning te ondersteunen. Ze vertrekt van een praktisch dilemma: één bedrijf kan het verstandig vinden om te vertragen, maar tegelijk vrezen dat een concurrent of een ander land blijft versnellen.

De waarschuwing komt van mensen die de systemen bouwen. Daardoor wordt een abstract veiligheidsdebat een operationele vraag: welke capaciteit moet aanleiding geven tot vertraging, wie beslist daarover en hoe kan iedereen controleren dat dezelfde regel wordt gevolgd?

De ondertekenaars spreken in eigen naam; hun werkgevers verbinden zich niet automatisch aan de verklaring. Er bestaat ook nog geen afdwingbaar mechanisme. Het belang zit in het coördinatieprobleem dat de verklaring zichtbaar maakt, niet in beleid dat al is ingevoerd.

Bepaal voor uw organisatie eigen drempels om een systeem af te remmen: verlies van controle, te ruime toegangsrechten, onomkeerbare acties of niet-geteste mogelijkheden. Leg vooraf vast wie een systeem mag stoppen, welk bewijs daarvoor nodig is en hoe een herstart wordt goedgekeurd.

Een rem heeft pas zin wanneer duidelijk is wie mag ingrijpen, welke signalen tot vertraging leiden en welk bewijs nodig is.