A
Dec. 16, 2019, 7:39 p.m.

QT парсинг страницы с автоподгрузкой

QT, GET, POSt

День добрый.
Прошу помочь, каким методом можно подгружать данные с web страницы, которые постоянно обновляются.
Допустим страница: https://ru.investing.com/currencies/single-currency-crosses
Интересуют котировки (наименование, текущий курс).
Данные по текущему курсу постоянно в движении.
Делаю сейчас гет запросом с таймаутом в 10 секунд, иначе блокируется ip.
Но нужно чаще, а точнее в режиме онлайн - изменилось на странице - ловится программой.
Заранее благодарю.

2

Do you like it? Share on social networks!

1
Evgenii Legotckoi
  • Dec. 16, 2019, 8:46 p.m.
  • (edited)

Добрый день.

И вот как вы себе представляете парсинг страницы в режиме реального времени когда на ней что-то изменилось? Чтобы понять, изменяется ли что-то на странице, нужно запускать её в браузере, чтобы могли работать скрипты, которые отвечают за изменение, больше никак. Для любого другого вида получения информации онлайн с этого сайта вам нужно иметь доступ к API сайта, и чтобы это API поддерживало какой-либо протокол для обмена сообщениями о изменениях котировок в режиме реального времени. Либо это websocketы, обычные сокеты, либо специализированный протокол поверх тех же сокетов в конечном итоге. В любом случае нужен доступ к API, если оно вообще имеется на сайте. А "онлайн" парсинг, если на этом сайте ещё и блокировка настроена при частых запросах к странице, то это из области фантастики.

Максимум, что вы можете сделать - это использовать WebEngine из библиотеки Qt, запускать внутри порграммы этот браузерный движок и пытаться выполнять javascript на той странице через этот движок, но там скорее всего тоже будут проблемы с защитой сайта от частого парсинга. Так что довольно дурацкая задача.

Найдите лучше сайт, который предоставляет нормальное открытое API для такого функционала. (Хотя найти такой сайт с реалтаймом тоже задача нетривиальная)

    Comments

    Only authorized users can post comments.
    Please, Log in or Sign up
    • Last comments
    • AK
      April 1, 2025, 11:41 a.m.
      Добрый день. В данный момент работаю над проектом, где необходимо выводить звук из программы в определенное аудиоустройство (колонки, наушники, виртуальный кабель и т.д). Пишу на Qt5.12.12 поско…
    • Evgenii Legotckoi
      March 9, 2025, 9:02 p.m.
      К сожалению, я этого подсказать не могу, поскольку у меня нет необходимости в обходе блокировок и т.д. Поэтому я и не задавался решением этой проблемы. Ну выглядит так, что вам действитель…
    • VP
      March 9, 2025, 4:14 p.m.
      Здравствуйте! Я устанавливал Qt6 из исходников а также Qt Creator по отдельности. Все компоненты, связанные с разработкой для Android, установлены. Кроме одного... Когда пытаюсь скомпилиров…
    • ИМ
      Nov. 22, 2024, 9:51 p.m.
      Добрый вечер Евгений! Я сделал себе авторизацию аналогичную вашей, все работает, кроме возврата к предидущей странице. Редеректит всегда на главную, хотя в логах сервера вижу запросы на правильн…
    • Evgenii Legotckoi
      Oct. 31, 2024, 11:37 p.m.
      Добрый день. Да, можно. Либо через такие же плагины, либо с постобработкой через python библиотеку Beautiful Soup