Améliorez le temps de chargement du modèle TensorFlow d'environ 70 % en utilisant HDF5 au lieu de SavedModel

Dans notre travail en cours sur DeepCell sur Google Batch, nous avons noté qu'il fallait environ 9 secondes pour charger le modèle en mémoire, alors que la prédiction (la partie intéressante du chargement du modèle) prenait environ 3 secondes pour une image 512x512.

L'environnement d'exécution idéal est sans serveur, nous n'avons donc pas de processus de longue durée qui chargeraient le modèle une seule fois, pour prédire plusieurs échantillons sur plusie...
[Courte citation de 8% de l'article original]