Расталкивание квадратов

Копать нужно в сторону обнаружения коллизий. Например, в этой статье есть примеры получения пересекающихся на графической сцене объектов через метод collidingItems().

В том примере, по которому вы задаёте вопрос, можно проверять пересечение с другими объектами в методе mouseMoveEvent . И изменять положение других объектов с которыми у вас есть пересечение так, чтобы они отъезжали от перетаскиваемого объекта.

Но при этом нужно сразу проверять на столкновение и те объекты, которые уже разъехались от перетаскиваемого объекта. Единственной сложностью будет возможное возникновение циклических зависимостей при расталкивании объектов. Но весь масштаб проблемы можно будет понять уже во время тестирования.