Добрый день!
Гораздо продуктивнее показать нам логи, а не пересказывать. Не могли бы вы приложить диагностический архив? Его можно скачать, например, из веб-интерфейса контролелра.
В старых mosquitto были проблемы с похожими симптомами, которые лечились удалением mosquitto.db. Ещё если у вас настроены бриджи в москитто, то при пропадании интернета москитто будет какое-то время хранить сообщения в оперативной памяти, чтобы потом отправить их при восстановлении связи. Возможно дело в этом и ему не хватило памяти? Количество таких сообщений настраивается в конфиге.