HaberlerYapay ZekaAI geliştirmede büyük güvenlik, gizlilik ve etik engeller

Yeni araştırmalara göre güvenlik, gizlilik ve etik, geliştiricilerin makine öğrenmesi (ML) çözümlerini modellerken düşük öncelikli konular.
19 Kasım 2019326

O’Reilly’nin İşletmelerde 2019 AI Kabulü araştırması, güvenliğin bir organizasyon içindeki en ciddi kör nokta olduğunu tespit etti.

Beceri açığı ve veri kalitesi en önemli öncelikler

Katılımcıların yaklaşık dörtte üçü (%73), model oluşturma sırasında güvenlik açıklarını kontrol etmediklerini belirtti. Kuruluşların yarısından fazlası da (%59) ML gelişimi sırasında adalet, yanlılık ya da etik sorunları dikkate almadıklarını söyledi. Gizlilik de benzer şekilde göz ardı ediliyor; model oluşturma ve yerleştirme sırasındaki sorunları yalnızca yüzde 35’i kontrol ediliyor.

Raporda ayrıca gelişimsel kaynakların çoğunun yapay zeka (AI) projelerinin doğru ve başarılı olmasını sağlamaya odaklandığı tespit edildi.

Veri kurtarma uzmanı O’Reilly, “AI olgunluğu ve kullanımı geçtiğimiz yıl katlanarak arttı. Ancak kritik kitlelere ulaşmasını engelleyen önemli sorunlar devam ediyor.” diyor. O’Reilly ayrıca AI ve ML’in giderek daha otomatik hale geldiğinde, en önemli organizasyonların güvenliği ve etiği doğru şekilde almak için gerekli zamana ve kaynaklara yatırım yaptığını ekliyor. Bunu yapabilmek için işletmelerin doğru yeteneklere ve en iyi verilere ihtiyacı var. O’Reilly’e göre beceri açığını kapatmak ve veri kalitesine bir kez daha göz atmak, önümüzdeki yıl için en önemli öncelikler olmalı.

Ankete katılanların yüzde 16’sı, gelişim sırasında hiçbir riski kontrol etmediklerini belirtti. O’Reilly, bu durum tespiti eksikliğinin birçok iç zorluk ve faktörden kaynaklanabileceğini belirtti. Ancak gelişimin önündeki en büyük engel, katılımcıların yüzde 23’ü tarafından belirtildiği gibi kültürel direniş.

Araştırma ayrıca kuruluşların yüzde 19’unun veri ve veri kalitesi sorunlarının olmayışının yanı sıra geliştirme için gerekli becerilerin bulunmamasından dolayı AI’yı benimseme konusunda zorlandıklarını gösteriyor. Şimdiye kadarki en kronik beceri eksikliği, ML modelleme ve veri bilimi (%57) etrafında yoğunlaşmıştı. Güvenlik, gizlilik ve etik alanlarında ilerleme kaydetmek için kuruluşların bu yetenek eksikliklerini acilen ele alması gerekiyor.

Makine öğrenmesi, işletmeler tarafından kullanılan AI’ın en popüler şekli olarak ortaya çıkıyor. İşletmelerin neredeyse üçte ikisi (%63) denetimli öğrenme çözümlerini kullanırken, yüzde 55’i derin öğrenme teknolojisini kullanıyor. Model tabanlı yöntemler, katılımcıların yüzde 48’i tarafından kullanılıyor.

TensorFlow (%55) ve scikit-learn (%48), günümüzde kullanılan en popüler AI araçları olarak karşımıza çıkıyor.