Teknologi

AWS dan Facebook meluncurkan server model sumber terbuka untuk PyTorch

AWS dan Facebook meluncurkan server model sumber terbuka untuk PyTorch

AWS dan Facebook meluncurkan server model sumber terbuka untuk PyTorch

 

AWS dan Facebook meluncurkan server model sumber terbuka untuk PyTorch
AWS dan Facebook meluncurkan server model sumber terbuka untuk PyTorch

AWS dan Facebookhari ini mengumumkan dua proyek open-source baru di sekitar PyTorch , kerangka pembelajaran mesin open-source yang populer. Yang pertama adalah TorchServe , kerangka kerja model-melayani untuk PyTorch yang akan memudahkan pengembang untuk menempatkan model mereka ke dalam produksi. Yang lainnya adalah TorchElastic, perpustakaan yang membuatnya lebih mudah bagi pengembang untuk membangun pekerjaan pelatihan yang toleran terhadap kesalahan pada kluster Kubernetes, termasuk instance spot EC2 AWS dan Layanan Kubernetes Elastis.

Dalam banyak hal, kedua perusahaan mengambil apa yang telah mereka pelajari dari menjalankan sistem

pembelajaran mesin mereka sendiri pada skala dan menempatkan ini ke dalam proyek. Untuk AWS, itu sebagian besar SageMaker , platform pembelajaran mesin perusahaan, tetapi seperti Bratin Saha, AWS VP dan GM untuk Layanan Pembelajaran Mesin, mengatakan kepada saya, pekerjaan di PyTorch sebagian besar dimotivasi oleh permintaan dari masyarakat. Dan sementara ada jelas server model lain seperti TensorFlow Serving dan Multi Model Server yang tersedia saat ini, Saha berpendapat bahwa akan sulit untuk mengoptimalkannya untuk PyTorch.

“Jika kami mencoba mengambil beberapa model server lain, kami tidak akan dapat mengutip optimalkan sebanyak itu, serta membuatnya dalam nuansa bagaimana PyTorchpengembang suka melihat ini, ”katanya. AWS memiliki banyak pengalaman dalam menjalankan server modelnya sendiri untuk SageMaker yang dapat menangani banyak kerangka kerja, tetapi masyarakat meminta server model yang disesuaikan dengan cara kerjanya. Itu juga berarti mengadaptasi API server dengan apa yang diharapkan pengembang PyTorch dari kerangka pilihan mereka, misalnya.

Seperti yang dikatakan Saha kepada saya, server yang diluncurkan AWS dan Facebook sekarang sebagai open source mirip dengan apa yang digunakan AWS secara internal. “Cukup dekat,” katanya. “Kami benar-benar mulai dengan apa yang kami miliki secara internal untuk salah satu server model kami dan kemudian menyebarkannya ke komunitas, bekerja sama dengan Facebook, untuk beralih dan mendapatkan umpan balik – dan kemudian memodifikasinya sehingga cukup dekat.”

Bill Jia, Wakil Presiden AI Infrastruktur Facebook, juga mengatakan kepada saya, dia sangat senang tentang

bagaimana timnya dan masyarakat telah mendorong PyTorch maju dalam beberapa tahun terakhir. “Jika Anda melihat seluruh komunitas industri – sejumlah besar peneliti dan pengguna perusahaan menggunakan AWS,” katanya. “Dan kemudian kami menemukan jika kami dapat berkolaborasi dengan AWS dan mendorong PyTorch bersama-sama, maka Facebook dan AWS bisa mendapatkan banyak manfaat, tetapi lebih dari itu, semua pengguna bisa mendapatkan banyak manfaat dari PyTorch. Itulah alasan kami mengapa kami ingin berkolaborasi dengan AWS. ”

Sedangkan untuk TorchElastic, fokusnya di sini adalah memungkinkan pengembang untuk membuat sistem pelatihan yang dapat bekerja pada kelompok Kubernet terdistribusi besar di mana Anda mungkin ingin menggunakan contoh lokasi yang lebih murah. Meskipun demikian, hal tersebut dapat diprioritaskan, sehingga sistem Anda harus dapat mengatasinya, sementara secara tradisional, kerangka kerja pelatihan pembelajaran mesin sering mengharapkan suatu sistem di mana jumlah instance tetap sama di seluruh proses. Itu, juga, sesuatu AWS awalnya dibangun untuk SageMaker. Di sana, itu sepenuhnya dikelola oleh AWS, jadi pengembang tidak perlu memikirkannya. Bagi pengembang yang ingin lebih mengontrol sistem pelatihan dinamis mereka atau tetap sangat dekat dengan logam, TorchElastic sekarang memungkinkan mereka untuk menciptakan kembali pengalaman ini pada kelompok Kubernet mereka sendiri.

AWS memiliki sedikit reputasi dalam hal open source dan keterlibatannya dengan komunitas open-source. Namun,

dalam hal ini, menyenangkan untuk melihat AWS memimpin cara untuk membawa beberapa pekerjaannya sendiri dalam membangun server model, misalnya, ke komunitas PyTorch. Dalam ekosistem pembelajaran mesin, itu sangat diharapkan, dan Saha menekankan bahwa AWS telah lama terlibat dengan komunitas sebagai salah satu kontributor utama untuk MXNet dan melalui kontribusinya untuk proyek-proyek seperti Jupyter, TensorFlow dan perpustakaan seperti NumPy.

Sumber:

https://ekonomija.org/seva-mobil-bekas/