Добрый день.
Судя по логу, например:
Jul 04 08:37:44 wirenboard-AKLMMYH3 wb-mqtt-serial[2350066]: WARNING: [modbus] failed to read 1 holding(s) @ 11 of device </dev/ttyRS485-2 9600 8 N 2> modbus:137: Serial protocol error: request timed out
Jul 04 08:37:45 wirenboard-AKLMMYH3 wb-mqtt-serial[2350066]: WARNING: [modbus] failed to read 1 holding(s) @ 120 of device </dev/ttyRS485-2 9600 8 N 2> modbus:137: Serial protocol error: request timed out
Jul 04 08:37:46 wirenboard-AKLMMYH3 wb-mqtt-serial[2350066]: WARNING: [modbus] failed to read 1 holding(s) @ 128 of device </dev/ttyRS485-2 9600 8 N 2> modbus:137: Serial protocol error: malformed response: invalid data size
Устройство отдает (в том случае если они доходят) поврежденные ответы.
Для устранения советую для начала проверить физику шины, особенно качество соединения GND, уровень сигнала.
Максимально приемлемое количество ошибок для шины - одна-две в минуту.
В качестве диагностики рекомендую опросить с помощью modbus_clent в цикле, например так и оценить количество ошибок.