[sumber: Google Open Source]

Pada tanggal 16 Februari 2016 kemarin, Google merilis layanan untuk meningkatkan praktik terbaik dalam membangun dan mendukung sebuah produk berbasis Machine Learning atau pembelajaran mesin untuk memperkenalkan tantangan yang baru serta menarik. Layanan yang dikembangkan tersebut adalah TensorFlow Serving.

Dikarenakan pembelajaran mesin merupakan sokongan utama dari berbagai fitur dari produk-produk Google, seperti Speech Recognition in The Google App dan Smart Reply in Inbox, maka Google mengembangan TensorFlow Serving untuk mengatasi berbagai tantangan itu.

TensorFlow Serving merupakan sebuah layanan dengan kinerja tinggi untuk model pembelajaran mesin yang bersifat terbuka untuk meningkatkan lingkungan produksi dan mengoptimalkannya. Layanan tersebut memungkinkan untuk menjalankan banyak model secara bersama-sama pada skala yang luas, dan melihat perubahan yang terjadi dari waktu ke waktu berdasarkan data sebenarnya.

Beberapa keuntungan menggunakan layanan tersebut adalah dimungkinkannya untuk mengatur siklus hidup model, bereksperimen menggunakan berbagai macam algoritma, dan melakukan efisiensi dalam menggunakan sumber daya dari GPU.

Layanan ini digunakan untuk melayani TensorFlow, namun dapat digunakan untuk melayani model-model jenis lain. Developer dapat menggunakan model-model baru dengan mempertahankan arsitektur server dan API. TensorFlow Serving akan mempercepat dan mempermudah proses pengambilan model dan memasukannya ke dalam produksi.

Sistem layanan tersebut dapat melakukan prediksi berdasarkan data baru yang disajikan oleh mitranya. TensorFlow Serving menggunakan referensi implementasi front-end berdasarkan gRPC, dengan kinerja tinggi, dan kerangka RPC (Remote Procedure Call) yang bersifat open-source dari Google. Sejak mitra berkomunikasi dengan sistem layanan menggunakan antarmuka RPC.

Google mengembangkan TensorFlow Serving dengan menggunakan struktur bahasa pemrograman C++. Selain itu kemudahan dari TensorFlow dapat dinikmati menggunakan sistem operasi Linux dengan menawarkan sistem dengan Overhead yang minimal.

[via Google Open Source]