Google’ın Explainable AI hizmeti, makine öğrenim modellerinin nasıl karar verdiğine ışık tutuyor

Google, Explainable AI’ın bu modellere daha fazla güven oluşturmaya yardımcı olacağı görüşünde olduğunu söyledi. 

Google’ın Explainable AI hizmeti, makine öğrenim modellerinin nasıl karar verdiğine ışık tutuyor

Google Cloud AI stratejisinin direktörü Tracy Frey bir blog yazısında Explainable AI’ın makine öğrenimi modellerinin yorumlanabilirliğini iyileştirmeyi amaçladığını açıkladı. Yeni hizmetin, her veri faktörünün bir modelin ortaya çıktığı sonuca katkısını ölçerek çalıştığını ve kullanıcıların aldığı kararları neden aldığını anlamalarına yardımcı olduğunu söyledi.

Explainable AI’ın daha fazla kısıtlaması var çünkü ortaya çıkan yorumlar makine öğrenme modelinin doğasına ve onu eğitmek için kullanılan verilere bağlı olacak. 

Herhangi bir açıklama yönteminin sınırlamaları olduğunu söyleyen Tracy Frey, “AI Explainable modelde verilerde bulunan modelleri yansıtır ancak veri örneğinizde, popülasyonunuzda veya uygulamanızdaki temel ilişkileri ortaya çıkarmaz. Sınırlamaları konusunda şeffaf olmakla birlikte, müşterilerimiz için en basit ve kullanışlı açıklama yöntemlerini kullanmaya çalışıyoruz.” diye yazdı. 

Bununla birlikte Explainable AI önemli olabilir çünkü belirli bir makine öğrenim modelinin neden bir sonuçta ulaştığı sonucuna vardığına dair doğru açıklamalar, nihayetinde bu kararlardan sorumlu olan bir kuruluştaki üst düzey yöneticiler için faydalı olacaktır. Bu, özellikle güvenin çok kritik olduğu düzenlenmiş endüstriler için geçerlidir. Google, bu pozisyondaki birçok kuruluş için, herhangi bir yorumlanabilirliği olmayan AI’ın şu anda sınırlarının dışında olduğunu söyledi.

Google aynı zamanda Cloud Vision uygulama programlama arayüzünün Yüz Algılama ve Nesne Algılama özelliklerinin dokümantasyonu olarak kullanılan “model kartları” olarak da adlandırdı.

Model kartları, önceden eğitilmiş bu makine öğrenme modellerinin performans özelliklerini detaylandırıyor ve performansları ve sınırlamaları hakkında pratik bilgiler sağlıyor. Google amacın, geliştiricilerin hangi modellerin nasıl kullanılacağı konusunda daha bilinçli kararlar almalarına yardımcı olmak olduğunu belirtti.