MIT Ekibi, AI modellerine henüz bilmediklerini öğretiyor.
Yapay zekanın (AI) uygulanması hızla büyüyo; günlük hayatımızla ve sağlık hizmetleri, telekom ve enerji gibi yüksek riskli endüstri dallarıyla giderek daha fazla iç içe geçiyor. Ancak büyük güç, büyük sorumluluğu da beraberinde getirir: Yapay zeka sistemleri bazen büyük sonuçlar doğurabilecek hatalar yapar veya belirsiz yanıtlar verir.
Bu neden bu kadar önemli?
Birçok yapay zeka modeli, gelişmiş olanlar bile, bazen ‘halüsinasyon’ olarak adlandırılan durumlar sergileyebilir; yanlış veya temelsiz yanıtlar verirler. Tıbbi teşhis veya otonom sürüş gibi kararların büyük ağırlık taşıdığı sektörlerde bu durum felaketle sonuçlanabilir. Themis AI, belirsizlik kuantifikasyonu (uncertainty quantification) uygulayan bir platform olan Capsa'yı geliştirdi: bu platform, yapay zeka çıktısının belirsizliğini ayrıntılı ve güvenilir bir şekilde ölçer ve sayısallaştırır.
Nasıl çalışır?
Modellere belirsizlik bilinci kazandırarak, çıktılarına bir risk veya güvenilirlik etiketi eklemeleri sağlanabilir. Örneğin; otonom bir araç, bir durumdan emin olmadığını belirterek insan müdahalesini devreye sokabilir. Bu sadece güvenliği değil, aynı zamanda kullanıcıların yapay zeka sistemlerine olan güvenini de artırır.
- PyTorch ile entegrasyonda modelin sarmalanması (wrapping) şu şekilde gerçekleştirilir:
capsa_torch.wrapper()burada çıktı hem tahmini hem de riski içermektedir:
NetCare ve müşterileri için bu teknoloji büyük bir ileri adımı temsil ediyor. Yalnızca akıllı değil, aynı zamanda güvenli, daha öngörülebilir ve daha az halüsinasyon riskine sahip yapay zeka uygulamaları sunabiliriz. Kuruluşların daha iyi gerekçelendirilmiş kararlar almasına ve yapay zekayı iş açısından kritik uygulamalara entegre ederken riskleri azaltmasına yardımcı olur.
Sonuç
MIT ekibi , yapay zekanın geleceğinin sadece daha akıllı hale gelmekle ilgili olmadığını, aynı zamanda daha güvenli ve daha dürüst bir şekilde çalışmakla ilgili olduğunu gösteriyor. NetCare olarak, yapay zekanın ancak kendi sınırları konusunda şeffaf olduğunda gerçekten değerli hale geldiğine inanıyoruz. Capsa gibi gelişmiş belirsizlik kuantifikasyonu araçlarıyla bu vizyonu pratikte de hayata geçirebilirsiniz.
