Коротко так:
1. поменял ось и гайку (оставил с таким же шагом 2мм)
2. ослабил крепление гайки к столу
Эффект остался. Улучшение незначительное.
3. поменял мотор оси Z.
эффект воблинга практически ушел.

Видимо мотор давал не ровный поворот на каждый микрошаг. Другого объяснения у меня нет.
Надеюсь, кому то это будет полезным.