Tasarımdan Güvenli Yapay Zeka

Güvenilirlik sonradan eklenen bir özellik değil, tasarımın temel bir kısıtıdır. Biyomedikal alandaki tahmin modelleri sessizce başarısız olabilir — eğitim verisindekilere hiç benzemeyen moleküller veya varyantlar karşısında kendinden emin ama yanlış cevaplar üretebilir. Güvenliğin kritik olduğu bağlamlarda, kendinden emin yanlış bir tahmin, hiç tahmin yapmamaktan daha kötüdür.

Kendi yetkinliğinin sınırını tanıyan mimariler tasarlıyoruz. Hibrit modeller, derin öğrenmenin örüntü bulma gücünü klasik yöntemlerin açık ve denetlenebilir belleğiyle birleştirir; veri, eğitim dağılımının dışına çıktığında daha muhafazakâr uzman modele geçiş yapar. Belirsizlik gizlenmez, açıkça ortaya konur.

“‘Bilmiyorum’ diyebilen bir model, kendinden emin ama yanlış olan bir modelden daha güvenlidir.”