Intereting Posts
Найдите три предыдущих рабочих дня с определенной даты Какая простая альтернатива Php для расширения php gettext, которая может поддерживаться всеми видами бесплатного хостинга PHP Неустранимая ошибка: вызов функции-члена fetch_object () в boolean Как вставить несколько строк из одного запроса, используя красноречивый / свободный Исходный код php для генератора файлов PO Отладка проекта Laravel в NetBeans с точками останова с использованием xdebug пример использования fastcgi_finish_request () Отправка XML-данных в webservice с использованием php curl UTF-8 для кодовых точек Юникода Преобразование сложного запроса в Larvel's Eloquent jQuery ajax validate captcha Кнопка Paypal + IPN (имя пользователя плательщика паролей) Как вы находите самый глубокий узел (шаги) – Xpath – php – xml – Как решить «Ошибка вызова неопределенной функции dbase_open ()» в окнах Как создать файл php для отображения изображения типа <img src = "/ img.php? ImageID = 32" />?

Как работает веб-искатель?

Используя некоторые базовые скребки сайта, я пытаюсь подготовить базу данных для сравнения цен, которая облегчит поиск пользователей. Теперь у меня есть несколько вопросов:

Должен ли я использовать file_get_contents() или curl чтобы получить содержимое требуемой веб-страницы?

 $link = "http://xyz.com"; $res55 = curl_init($link); curl_setopt ($res55, CURLOPT_RETURNTRANSFER, 1); curl_setopt($res55, CURLOPT_FOLLOWLOCATION, true); $result = curl_exec($res55); 

Кроме того, каждый раз, когда я просматриваю веб-страницу, я получаю много ссылок для посещения. Это может занять много времени (дни, если вы сканируете большие веб-сайты, такие как Ebay). В этом случае мой PHP-код будет таймаут. Каким должен быть автоматический способ сделать это? Есть ли способ предотвратить синхронизацию PHP с помощью внесения изменений на сервере или есть другое решение?