Cloudflare, som står bakom 20 % av världens webbplatser, har tröttnat. Från och med 1 juli blockeras AI-crawlers som standard (för nya kunder) – om de inte betalar. En ny funktion kallad “Pay Per Crawl” införs, där AI-botar måste betala för att få läsa innehåll på nätet. Det kan vara början på ett generationskifte av internet – eller början på slutet för den öppna webben.
I åratal har sökmotorer som Google fått kopiera webbinnehåll i utbyte mot att skicka tillbaka trafik till sajterna. Men AI har kraschat den här modellen. ChatGPT och andra modeller samlar in enorma mängder information utan att generera några klick tillbaka.
Cloudflare har analyserat trafiken: GPTBot skickar 750 gånger mindre trafik än Google, medan Anthropic är hela 30 000 gånger sämre. Det är som att AI käkar upp hela buffén utan att ens diska efter sig.
Cloudflare har nu infört ett nytt standardläge för alla nya kunder: AI-botar blockeras automatiskt. Men varje webbplatsägare kan själva välja:
Det är här “Pay Per Crawl” kommer in – prislapp på innehåll, och låta AI betala för att få använda det.
Tanken är att AI inte bara ska få sno innehåll fritt – utan betala när det är något värdefullt. Cloudflare agerar som mellanhand och hanterar transaktionen.
Istället för att jaga klick och virala hits, kan skapare nu tjäna pengar på att deras information används för att träna AI. Och det utan att behöva fylla sajten med reklam eller klickbeten.
The Atlantic, AP, Reddit, Pinterest och andra stora aktörer har redan anslutit sig till Cloudflares modell. Samtidigt finns en oro: vad händer när AI-bolagen försöker smyga runt spärrarna? Försöker maskera sina bots som vanliga användare?
Cloudflares data visar också hur snett det är: Google skickar i genomsnitt 6 besök per varje crawl. GPT? Ett besök per 250 crawl. Anthropic? Ett klick per 6 000. Inte så konstigt att webbsajtägare tröttnat.
När en AI-bot försöker hämta innehåll, får den ett svar från sajten:
Botten får då möjlighet att försöka igen – men med plånboken redo. Cloudflare hanterar betalningen och släpper in boten när det är klart.
När AI-botar suger åt sig innehåll utan att skicka tillbaka trafik, blir det en dubbel smäll för webbplatserna. För många sajter är varje besök en potentiell inkomst – via annonser, premiuminnehåll eller konverteringar. När trafiken minskar, rasar intäkterna. Och i en tid där världsekonomin redan gungar, inflationen biter och marknadsbudgetar stramas åt, har få råd att driva sajter för glädjens skull.
Många mindre aktörer – bloggare, journalister, småmedier – riskerar att slås ut när intäkterna sinar. Ironiskt nog är det just dessa nischade röster som ofta producerar den mest värdefulla informationen. Om de tystnar, vad ska då AI:n träna på? Det här är inte bara en fråga om teknik – det är en överlevnadsfråga för hela det digitala ekosystemet.
För Cloudflare är detta inte bara en principfråga – det är smart affär. Genom att ta kontroll över hur AI får tillgång till innehåll, positionerar de sig som en nyckelspelare i framtidens digitala ekonomi. De sitter redan i nätets nervsystem, och nu gör de sig själva oumbärliga som grindvakter mellan innehållsskapare och AI-modeller.
Dessutom stärker detta Cloudflares relation till sina kunder – det är ett tydligt budskap: “Vi skyddar ditt innehåll. Vi hjälper dig få betalt.” I en tid där AI hotar att urholka värdet av digitalt innehåll, erbjuder Cloudflare ett konkret verktyg för att återta kontrollen. De skapar en affärsmodell där både AI-företag och innehållsskapare behöver dem – vilket i sin tur ger Cloudflare nya intäktsmöjligheter.
Och om AI ska fortsätta utvecklas, kommer de behöva den här infrastrukturen. Cloudflare vet det. Och de tänker ta betalt därefter.
https://blog.cloudflare.com/introducing-pay-per-crawl
https://www.businessinsider.com/cloudflare-block-ai-crawlers-by-default-payment-for-access-2025-6
https://gizmodo.com/free-lunch-is-over-for-the-ai-that-broke-the-web-2000623837






