Amazon Elastic Inference, PyTorch makine öğrenimi modelleri için destek ekledi

Amazon Web Services, Amazon Elastic Inference hizmetiyle PyTorch modelleri için destek eklediğini açıkladı.
1 Nisan 2020165

Yeni eklenen destek, geliştiricilerin derin öğrenme çıkarımının maliyetlerini bazı durumlarda %75’e kadar azaltmasına yardımcı olacak.

Amazon Elastic Inference, PyTorch makine öğrenimi modelleri için destek ekledi

Amazon Elastic Inference, 2018’in sonlarında başlatılan ve müşterilerin standart bir Amazon EC2 yönetim ortamına grafik işleme birimi ile güçlendirilen çıkarım hızlandırma eklemelerini sağlayan bir hizmettir. Çıkarım, eğitimli bir derin öğrenme modeli kullanarak tahmin yapma sürecini ifade ediyor.

PyTorch, ilk olarak Facebook tarafından geliştirilen açık kaynaklı bir makine öğrenim kütüphanesidir. Öncelikle bilgisayarla görme ve doğal dil işleme gibi uygulamalar için kullanılır. Son yıllarda dinamik hesaplama grafiklerinin kullanımı sayesinde makine öğrenimi topluluğunda popülerlik kazanmıştır. Topluluk zorunlu ve deyimsel Python koduyla yeni derin öğrenme modellerinin kolayca geliştirilmesini sağlarlar.

Geliştirilmiş ET için PyTorch kitaplıkları varsayılan olarak Amazon SageMaker, AWS Derin Öğrenme AMI’ları ve AWS Derin Öğrenme Kapsayıcıları’nda mevcuttur ve geliştiricilerin PyTorch modellerini minimum kod değişikliği ile üretimde kullanmasına izin verir.

Bir blog gönderisinde Amazon, çıkarımın PyTorch’ta çalışan ortalama derin öğrenme iş yükü için hesaplama maliyetlerinin yaklaşık %90’ını oluşturabildiğini açıkladı. Amazon ancak iş yükleri için doğru örneği seçmenin, her derin öğrenme modelinin optimum miktarda GPU, merkezi işlem birimi ve bellek kaynağı ile ilgili kendi özel gereksinimleri olması nedeniyle zor bir iş olduğunu belirtiyor. Şirket, bu kaynaklardan birini bağımsız bir GPU örneğinde optimize etmenin genellikle diğer kaynakların yetersiz kullanımına yol açacağını söylüyor.

Amazon Elastic Inference, kullanıcıların EC2, Amazon ECS ve Amazon SageMaker örneklerine doğru miktarda GPU destekli çıkarım hızlandırma eklemelerine izin vererek bu sorunu gideriyor. Bu da kaynakları daha verimli kullanmaya olanak sağlarken çıkarım maliyetlerini düşürüyor.


Fatal error: Uncaught wfWAFStorageFileException: Unable to save temporary file for atomic writing. in /var/www/vhosts/isteteknoloji.com.tr/httpdocs/wp-content/plugins/wordfence/vendor/wordfence/wf-waf/src/lib/storage/file.php:35 Stack trace: #0 /var/www/vhosts/isteteknoloji.com.tr/httpdocs/wp-content/plugins/wordfence/vendor/wordfence/wf-waf/src/lib/storage/file.php(659): wfWAFStorageFile::atomicFilePutContents('/var/www/vhosts...', '<?php exit('Acc...') #1 [internal function]: wfWAFStorageFile->saveConfig('livewaf') #2 {main} thrown in /var/www/vhosts/isteteknoloji.com.tr/httpdocs/wp-content/plugins/wordfence/vendor/wordfence/wf-waf/src/lib/storage/file.php on line 35