tensorflow-serving

5Ciepło

2Odpowiedz

Obsługa Tensorflow: Używanie ułamka pamięci GPU dla każdego modelu

Mam jeden GPU do dyspozycji do wdrożenia, ale trzeba wdrożyć wiele modeli. Nie chcę przydzielać pełnej pamięci GPU do pierwszego wdrożonego modelu, ponieważ wtedy nie mogę wdrożyć kolejnych modeli. Po

8Ciepło

1Odpowiedz

Czy wątek bezpieczny podczas korzystania z tf.Session w usługach wnioskowania?

Teraz użyliśmy TensorFlow do szkolenia i eksportu modelu. Możemy wdrożyć usługę wnioskowania z tym modelem, podobnie jak robi to tensorflow/serving. Mam pytanie dotyczące tego, czy obiekt tf.Session j

6Ciepło

1Odpowiedz

Jak korzystać z modeli wnioskowania Tensorflow do generowania obrazów podobnych do Deepdreama

Używam niestandardowego zestawu obrazów do trenowania sieci neuronowej przy użyciu interfejsu Tensorflow API. Po udanym treningu otrzymuję pliki punktów kontrolnych zawierające wartości różnych zmienn

5Ciepło

4Odpowiedz

Interfejs API wykrywania obiektów Tensorflow ma wolny czas wnioskowania z tensorflow obsługujących

Nie mogę dopasować czasów wnioskowania zgłoszonych przez Google w przypadku modeli opublikowanych w ich wersjach model zoo. W szczególności wypróbowuję ich model faster_rcnn_resnet101_coco, w którym r

21Ciepło

3Odpowiedz

TensorFlow REST Frontend ale nie TensorFlow Obsługa

Chcę wdrożyć prosty model TensorFlow i uruchomić go w usłudze REST, takiej jak Flask. Nie znalazłem do tej pory dobrego przykładu na github lub tutaj. nie jestem gotowy do użycia TF służąc jako sugero

11Ciepło

2Odpowiedz

Dodaj wstępne przetwarzanie Tensorflow do istniejącego modelu Keras (do użytku w obsłudze Tensorflow)

Chciałbym dołączyć moją niestandardową logikę przetwarzania wstępnego do mojego eksportowanego modelu Keras do użytku w Tensorflow Serving. Moje wstępne przetwarzanie wykonuje ciąg tokenizacja i korzy

5Ciepło

1Odpowiedz

Tensorflow Doręczanie - Stateful LSTM

Czy istnieje kanoniczny sposób na zachowanie stanu LSTM itp. Przy obsłudze Tensorflow? Bezpośrednio za pomocą interfejsu API Tensorflow jest to proste - ale nie mam pewności, jak najlepiej osiągnąć tr

5Ciepło

1Odpowiedz

Używanie komputerów z serwerem tensorflow obsługującym

Zastanawiam się, jak używać mojego modelu wyszkolonego z kerasami na serwerze produkcyjnym. Słyszałem o podawaniu tensorflow, ale nie wiem, jak go używać z moim modelem keras. znalazłem ten link: http

5Ciepło

1Odpowiedz

Jak skonfigurować klastra Tensorflow przy użyciu Google Compute Engine Instances, aby wyszkolić model?

Rozumiem, że można używać obrazów doków, ale czy potrzebuję Kubernetes do stworzenia klastra? Dostępne są instrukcje dotyczące modelowania, ale co z treningiem modelowym na Kubernetes?

13Ciepło

1Odpowiedz

Korzystanie z modeli głębokiego uczenia się z TensorFlow w innych środowiskach językowych

Mam przyzwoitą ilość doświadczenia z TensorFlow, i mam zamiar rozpocząć projekt, który ostatecznie zakończy się wykorzystaniem modelu przeszkolonego przez TensorFlow w środowisku produkcyjnym C#. Zasa