Sisukord:

Kuidas teenindate TensorFlow mudelit?
Kuidas teenindate TensorFlow mudelit?

Video: Kuidas teenindate TensorFlow mudelit?

Video: Kuidas teenindate TensorFlow mudelit?
Video: Как заставить tensorflow сделать хоть что то полезное 2024, November
Anonim

Selleks, et teenindada Tensorflow mudelit , eksportige lihtsalt oma failist SavedModel Tensorflow programmi. SavedModel on keeleneutraalne, taastatav, hermeetiline serialiseerimisvorming, mis võimaldab kõrgema taseme süsteeme ja tööriistu toota, tarbida ja teisendada. TensorFlow mudelid.

Kuidas kasutada TensorFlow mudelit?

Need on sammud, mida me teeme:

  1. Tee näitena loll modell, treeni ja lao.
  2. Hankige oma salvestatud mudelist vajalikud muutujad.
  3. Koostage nende põhjal tenositeave.
  4. Looge mudeli allkiri.
  5. Looge ja salvestage mudeliehitaja.
  6. Laadige alla Dockeri pilt, mille TensorFlow teenus on sellel juba kompileeritud.

Lisaks, mida TensorFlow teenindab? TensorFlow serveerimine on paindlik, suure jõudlusega serveerimine süsteem masinõppemudelite jaoks, mis on loodud tootmiskeskkondade jaoks. TensorFlow serveerimine pakub juba valmis integreerimist TensorFlow mudelid, kuid neid saab hõlpsasti laiendada serveerima muud tüüpi mudelid ja andmed.

Kuidas TensorFlow teenus sellega seoses töötab?

TensorFlow serveerimine võimaldab meil valida, millist mudeli või "esitatava" versiooni tahame järeldustaotluste tegemisel kasutada. Iga versioon eksporditakse antud tee all erinevasse alamkataloogi.

Mis on mudelserver?

Mudelserver Apache MXNet (MMS) on avatud lähtekoodiga komponent, mis on loodud süvaõppe juurutamise ülesande lihtsustamiseks mudelid skaalal järelduste tegemiseks. Kasutuselevõtt mudelid sest järelduste tegemine ei ole tühine ülesanne.

Soovitan: