Ошибка преобразования файла модели Facenet .pb в формат TFLITE.

Я решил эту проблему здесь, добавив здесь фрагмент кода:

Я смог преобразовать FaceNet .pb в .tflite модель, и следующие инструкции для этого:

Мы проведем количественный анализ предварительно обученной модели Facenet с размером встраивания 512. Размер этой модели до квантования составляет около 95 МБ.

$ ls -l model_pc
total 461248
-rw-rw-r--@ 1 milinddeore  staff   95745767 Apr  9  2018 20180402-114759.pb

создайте файл inference_graph.py со следующим кодом:

import tensorflow as tf
from src.models import inception_resnet_v1
import sys
import click
from pathlib import Path

@click.command()
@click.argument('training_checkpoint_dir', type=click.Path(exists=True, file_okay=False, resolve_path=True))
@click.argument('eval_checkpoint_dir', type=click.Path(exists=True, file_okay=False, resolve_path=True))

def main(training_checkpoint_dir, eval_checkpoint_dir):
    traning_checkpoint = Path(training_checkpoint_dir) / "model-20180402-114759.ckpt-275"
    eval_checkpoint = Path(eval_checkpoint_dir) / "imagenet_facenet.ckpt"
    data_input = tf.placeholder(name='input', dtype=tf.float32, shape=[None, 160, 160, 3])
    output, _ = inception_resnet_v1.inference(data_input, keep_probability=0.8, phase_train=False, bottleneck_layer_size=512)
    label_batch= tf.identity(output, name='label_batch')
    embeddings = tf.identity(output, name='embeddings')
    init = tf.global_variables_initializer()
    with tf.Session() as sess:
        sess.run(init)
        saver = tf.train.Saver()
        saver.restore(sess, traning_checkpoint.as_posix())
        save_path = saver.save(sess, eval_checkpoint.as_posix())
        print("Model saved in file: %s" % save_path)

if __name__ == "__main__":
     main()

Запустите этот файл на предварительно обученной модели, чтобы сгенерировать модель для вывода. Загрузите предварительно обученную модель и распакуйте ее в каталог model_pre_trained /. Убедитесь, что у вас версия python ≥ 3.4.

python3 eval_graph.py model_pre_trained/ model_inference/

FaceNet предоставляет freeze_graph.py файл, который мы будем использовать, чтобы заморозить модель вывода.

python3  src/freeze_graph.py model_inference/  my_facenet.pb

После того, как замороженная модель будет сгенерирована, пора преобразовать ее в .tflite

$ tflite_convert --output_file model_mobile/my_facenet.tflite --graph_def_file my_facenet.pb  --input_arrays "input" --input_shapes "1,160,160,3" --output_arrays embeddings --output_format TFLITE --mean_values 128 --std_dev_values 128 --default_ranges_min 0  --default_ranges_max 6 --inference_type QUANTIZED_UINT8 --inference_input_type QUANTIZED_UINT8

Проверим размер квантованной модели:

$ ls -l model_mobile/
total 47232
-rw-r--r--@ 1 milinddeore  staff  23667888 Feb 25 13:39 my_facenet.tflite

Код интерпретатора:

 import numpy as np
 import tensorflow as tf


 # Load TFLite model and allocate tensors.
 interpreter = tf.lite.Interpreter(model_path="/Users/milinddeore/facenet/model_mobile/my_facenet.tflite")
 interpreter.allocate_tensors()

 # Get input and output tensors.
 input_details = interpreter.get_input_details()
 output_details = interpreter.get_output_details()

 # Test model on random input data.
 input_shape = input_details[0]['shape']
 input_data = np.array(np.random.random_sample(input_shape), dtype=np.uint8)
 interpreter.set_tensor(input_details[0]['index'], input_data)

 interpreter.invoke()
 output_data = interpreter.get_tensor(output_details[0]['index'])

 print('INPUTS: ')
 print(input_details)
 print('OUTPUTS: ')
 print(output_details)

Вывод интерпретатора:

$ python inout.py
INPUTS:
[{'index': 451, 'shape': array([  1, 160, 160,   3], dtype=int32), 'quantization': (0.0078125, 128L), 'name': 'input', 'dtype': <type 'numpy.uint8'>}]
OUTPUTS:
[{'index': 450, 'shape': array([  1, 512], dtype=int32), 'quantization': (0.0235294122248888, 0L), 'name': 'embeddings', 'dtype': <type 'numpy.uint8'>}]

Надеюсь это поможет!

Мне не повезло с предложениями @ milind-deore. Модель действительно уменьшилась до 23 МБ, но растраты вроде бы сломаны.

Я нашел альтернативный способ: TF -> Keras -> TF Lite

Реализацию FaceNet Дэвида Сэндберга можно преобразовать в TensorFlow Lite, сначала преобразуя из TensorFlow в Keras, а затем из Keras в TensorFlow Lite.

Я создал эту Google Colab, которая выполняет преобразование. Большая часть кода была взята отсюда.

Что он делает, так это:

1. Загрузите реализацию Keras FaceNet Хироки Таняй
2. Замените файл inception_resnet_v1.py с помощью моей исправленной версии (который добавляет к модели дополнительный уровень для вывода нормализованных вложений)
3. Загрузите предварительно обученную модель Сэндберга (20180402-114759) с здесь и расстегивает это
4. Извлеките тензоры из файла контрольной точки и запишите веса в несколько массивов на диске, сопоставив имя каждого соответствующего слоя.
5. Создайте новую модель Keras со случайными весами (Важно: используйте 512 классов).
6. Запишите веса для каждого соответствующего слоя, считывающего из массивов numpy.
7. Сохраните модель в формате Keras .h5

8. Преобразуйте Keras в TensorFlow Lite с помощью команды tflite_convert.

   tflite_convert --post_training_quantize --output_file facenet.tflite --keras_model_file /content/keras-facenet/model/keras/model/facenet_keras.h5

Также в моем Colab я привожу код, чтобы показать, что преобразование хорошее и модель TFLite работает.

distance bill vs bill 0.7266881 distance bill vs larry 1.2134411

Таким образом, даже если я не выравниваю лица, порог около 1,2 был бы хорош для распознавания.

Надеюсь, это поможет!