A
16 грудня 2019 р. 19:39

QT парсинг страницы с автоподгрузкой

QT, GET, POSt

День добрый.
Прошу помочь, каким методом можно подгружать данные с web страницы, которые постоянно обновляются.
Допустим страница: https://ru.investing.com/currencies/single-currency-crosses
Интересуют котировки (наименование, текущий курс).
Данные по текущему курсу постоянно в движении.
Делаю сейчас гет запросом с таймаутом в 10 секунд, иначе блокируется ip.
Но нужно чаще, а точнее в режиме онлайн - изменилось на странице - ловится программой.
Заранее благодарю.

2

Вам це подобається? Поділіться в соціальних мережах!

1
Evgenii Legotckoi
  • 16 грудня 2019 р. 20:46
  • (відредаговано)

Добрый день.

И вот как вы себе представляете парсинг страницы в режиме реального времени когда на ней что-то изменилось? Чтобы понять, изменяется ли что-то на странице, нужно запускать её в браузере, чтобы могли работать скрипты, которые отвечают за изменение, больше никак. Для любого другого вида получения информации онлайн с этого сайта вам нужно иметь доступ к API сайта, и чтобы это API поддерживало какой-либо протокол для обмена сообщениями о изменениях котировок в режиме реального времени. Либо это websocketы, обычные сокеты, либо специализированный протокол поверх тех же сокетов в конечном итоге. В любом случае нужен доступ к API, если оно вообще имеется на сайте. А "онлайн" парсинг, если на этом сайте ещё и блокировка настроена при частых запросах к странице, то это из области фантастики.

Максимум, что вы можете сделать - это использовать WebEngine из библиотеки Qt, запускать внутри порграммы этот браузерный движок и пытаться выполнять javascript на той странице через этот движок, но там скорее всего тоже будут проблемы с защитой сайта от частого парсинга. Так что довольно дурацкая задача.

Найдите лучше сайт, который предоставляет нормальное открытое API для такого функционала. (Хотя найти такой сайт с реалтаймом тоже задача нетривиальная)

    Коментарі

    Only authorized users can post comments.
    Please, Log in or Sign up
    • Останні коментарі
    • Evgenii Legotckoi
      16 квітня 2025 р. 17:08
      Благодарю за отзыв. И вам желаю всяческих успехов!
    • IscanderChe
      12 квітня 2025 р. 17:12
      Добрый день. Спасибо Вам за этот проект и отдельно за ответы на форуме, которые мне очень помогли в некоммерческих пет-проектах. Профессиональным программистом я так и не стал, но узнал мно…
    • AK
      01 квітня 2025 р. 11:41
      Добрый день. В данный момент работаю над проектом, где необходимо выводить звук из программы в определенное аудиоустройство (колонки, наушники, виртуальный кабель и т.д). Пишу на Qt5.12.12 поско…
    • Evgenii Legotckoi
      09 березня 2025 р. 21:02
      К сожалению, я этого подсказать не могу, поскольку у меня нет необходимости в обходе блокировок и т.д. Поэтому я и не задавался решением этой проблемы. Ну выглядит так, что вам действитель…
    • VP
      09 березня 2025 р. 16:14
      Здравствуйте! Я устанавливал Qt6 из исходников а также Qt Creator по отдельности. Все компоненты, связанные с разработкой для Android, установлены. Кроме одного... Когда пытаюсь скомпилиров…