Bankadan kredi isteyenleri ilgilendiren araştırma: Yapay zekânın verdiği karar sorgulanacak

Karabük Üniversitesi öncülüğünde yürütülecek TÜBİTAK destekli projede, kredi değerlendirmelerinde kullanılan yapay zekâ sistemlerinin yalnızca verdiği karar değil, o kararı hangi gerekçelerle verdiğinin ne kadar tutarlı olduğu da araştırılacak.

Bankacılıkta yapay zekâ kullanımının yaygınlaşması beraberinde önemli bir soruyu getiriyor: Bir algoritma kredi başvurusu hakkında olumsuz karar verdiğinde, bunun nedenini güvenilir ve tutarlı biçimde açıklayabiliyor mu? Karabük Üniversitesinde başlatılan yeni bilimsel çalışma tam olarak bu soruya odaklanacak. Üniversiteden Doç. Dr. Tülay Yıldırım Turan öncülüğünde yürütülecek TÜBİTAK destekli projede, kredi riski değerlendirmelerinde kullanılan yapay zekâ modellerinin açıklamalarındaki tutarlılık araştırılacak. Yapay zekânın gerekçesi de test edilecek Kredi değerlendirmesinde kullanılan bir yapay zekâ sistemi, elindeki veriler üzerinden bir sonuç üretebilir. Araştırmacıların odaklandığı nokta ise kararın kendisinden çok kararın açıklanabilirliği. Bunun için TÜBİTAK 1002 Hızlı Destek Programı kapsamında yeni bir ölçüm yöntemi geliştirilecek. Araştırma ekibi bu yöntemi “SHAP Stabilite Skoru (SSS)” olarak adlandırıyor. Yeni metrikle, yapay zekânın aynı karar için sunduğu açıklamaların farklı model ve veri koşullarında ne ölçüde değiştiğinin ortaya konulması amaçlanıyor. Başka bir ifadeyle araştırma, algoritmanın yalnızca “kredi verilsin” veya “verilmesin” sonucuna değil, bu sonuca ulaşırken gösterdiği gerekçelerin tutarlı olup olmadığına bakacak. Üç üniversiteden araştırmacılar çalışacak Proje yalnızca Karabük Üniversitesiyle sınırlı değil. Çalışmada Karabük Üniversitesi, Marmara Üniversitesi ve Mudanya Üniversitesinden farklı uzmanlık alanlarına sahip araştırmacılar yer alacak. Lisansüstü öğrencilere burs ve tez desteği sağlanması da projenin hedefleri arasında. Geliştirilecek yöntemin ilerleyen dönemde bankalar ve finans kuruluşlarının yanı sıra denetleyici kurumlar, araştırmacılar ve yazılım geliştiricileri tarafından kullanılabilecek bir yapıya dönüştürülmesi amaçlanıyor. Araştırma, özellikle finans gibi verilen kararların vatandaşın günlük hayatını doğrudan etkilediği alanlarda yapay zekânın “karar veren kara kutu” olmaktan çıkarılması tartışmasına Türkiye'den bilimsel bir katkı sunmayı hedefliyor.