cURL – загрузить сайт с защитой CloudFlare

У меня есть сайт, который я хочу загрузить с помощью cURL. Тем не менее, сайт, о котором я говорю, использует защиту от облаков. В то время как на запросе cURL => он говорит: «Проверяя ваш браузер, вы будете перенаправлены через 5 секунд», и я перенаправляюсь на страницу, которая не существует, потому что, как я думаю, я не прошел какой-либо тест защиты.

Я долго искал свой ответ, и я нашел только две полезные ссылки:

Ссылка 1

Ссылка 2

Но все же я не могу понять. Любая помощь для меня?

Это будет CloudFlare's I'm Under Attack Mode -> http://blog.cloudflare.com/introducing-im-under-attack-mode

Если вы являетесь владельцем сайта, вы должны перечислить свой собственный IP-адрес. Если вы посетитель сайта,

1.) Владелец веб-сайта имеет функцию, включенную на их собственном веб-сайте, и в этом случае она является преднамеренной, и нет никакого способа обойти это, поскольку они защищают свой веб-сайт или

2.) Вы загружаете сайт слишком часто – и вы запускаете защиту DDOS CloudFlare.

ps Отказ от ответственности: я работаю в CloudFlare.

Вы можете обойти режим «под атакой», выбрав «Копировать как cUrl» в разделе «Сеть» в разделе инструментов разработчика любого основного браузера.

Это копирует все необходимые файлы cookie, чтобы ваш завиток мог быть «аутентифицирован». Как долго эти куки, которые я бы предположил, были бы облачными.

SideNote: завиток должен выполняться на том же IP-адресе, что и при загрузке сайта. Кроме того, для любой реальной тестовой / развивающей среды я бы предложил селен и / или фантомы, которые намного лучше и легко читаются на сценариях для тестирования веб-сайтов.

curl 'https://ilikeurls.net/ourpage.php?do=command' \ -H 'Host: ilikeurls.net' \ -H 'User-Agent: Mozilla/5.0 (X11; Linux x86_64; rv:33.0) Gecko/20100101 Firefox/33.0' \ -H 'Accept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8' \ -H 'Accept-Language: en-US,en;q=0.5' \ -H 'Accept-Encoding: gzip, deflate' \ #remove this line for readable/greppable formatting -H 'Referer: https://ilikeurls.net/outpage.php' \ -H 'Cookie: all required cookies will appear here' \ -H 'Connection: keep-alive' 

Хотя вам может быть лучше использовать селен или фантомы для написания этих тестов.