Миграция TensorFlow из SaaS на свой сервер. Реально?

Да легко. TensorFlow сам по себе библиотека, а не SaaS. Если есть сервер с нормальной GPU и настроенной CUDA — просто ставишь окружение через докер или вручную, копируешь модель и инференс. У самого так переезжало с облака на локалку за пару часов. Главное — версии совместимые подобрать.