Сразу скажу, что я до калибровок еще не дошел. Но почитав форум не мало хочу отметить, что многие действительно рекомендуют не идеально фокусировать проектор, чтобы не получать сетки. Область зрения камеры и проектора должны примерно совпадать, мне кажется, что в вашем случае это условие не выполняется. Конечно отключать надо все геометрические коррекции в самом проекторе. Еще, глядя на вашу калибровочную панель мне кажется, что в середине есть какая-то выпуклость по шву, это так - наблюдение.
Я так понял у вас была камера и интерфейсом GigE и вы поменяли теперь на usb3.0 теперь работает напрямую?