Yapay Zeka ve Yönetişim
Yapay zekanın sosyal fayda amaçlı kullanımı gündemi içerisindeki bir değerlendirme alanı da “yönetişim”. Bu başlığı ele alan Substack içeriğimizde, konuya dair güncel yaklaşımları inceliyoruz.
Akbank LAB ve imece olarak katıldığımız AI for Good Global Summit’in iç görülerini önceki Substack yayınlarımızda aktarırken, yönetişime dair meselelerin, yapay zekanın gelişim süreçleri içerisinde nasıl bir öneme sahip olduğunu da ele almıştık. Yapay zekaya ilişkin yönetişimin nasıl sağlandığının bu alandaki aktörler için bir gündem maddesi olduğunu, parçalı yönetişim uygulamalarının yapay zeka teknolojilerinin sunacağı çözümlerde sınırlamalar getirebileceğini ve bu alanda ilkeler belirlemenin neden önemli olabileceğini aktarmıştık. Şimdi bu alanda yayınlanan diğer yazılardan alıntılarla konuya dair bakış açımızı genişletelim! Ama öncelikle yönetişim kelimesiyle neleri işaret ettiğimize bakalım!
Argüden Yönetişim Akademisi, “yönetim” kelimesini “kurum kaynaklarının, belirlenen yönde etkin kullanımı için karar verilmesi” olarak açıklarken “Yönetişim” kelimesini “iyi yönetim ve paydaşların güvenini kazanmak için uygun kültürün ve iklimin oluşturulması” olarak tanımlıyor. Bu bağlamda da iyi yönetişim için bazı ilkelerin var olması gerektiğine dikkat çekiyor: “Adillik” yani tüm paydaşların beklentilerini gözeterek sistemi oluşturmak, “şeffaflık” yani “topluma karşı performans ve kaynakların kullanımı konusunda aktif açıklık”, “hesap verebilirlik” yani “paydaşlara karşı yapılan işlerin değerlendirmesi”, “katılımcılık” yani “faaliyetlerin oluşturulması ve gerçekleştirilmesinde paydaşların katılım ve desteğini sağlamaya yönelik ortam geliştirmek”, “etkililik” yani “başarı ve sonuç odaklı yaklaşımla kaynakları doğru yönlendirmek”, “tutarlılık” yani “karar almada temel politika ve prensipleri korumak”, “sorumluluk” yani “sorumlulukları yerine getirme anlayışı geliştirmek ve bu yönde temel politika ve prensipleri korumak”. Argüden Yönetişim Akademisi’nin yapay zeka konusunda Yönetim Kurullarına yaptığı çağrı ise “yapay zekayı dönüştürücü güç olarak kullanabilmeleri” yönünde.
İstanbul Teknik Üniversitesi İşletme Mühendisliği Bölümü’nden Doç. Dr. Adnan Veysel Ertemel, “yapay zeka yönetişimi” ifadesini “yapay zeka uygulamalarının geliştirme, kullanım ve yönetim süreçlerinde karşılaşılabilecek sorunları ve riskleri en aza indirmeyi hedefleyen bir yaklaşım olarak” tanımlıyor. Kavramın finans, sağlık, enerji, otomotiv gibi pek çok sektörde önem kazandığını belirten Ertemel, “yapay zeka sistemlerinin güvenli, şeffaf ve doğru bir şekilde kullanımı, müşteri güveni, şirket itibarı ve piyasa rekabeti açısından kritik öneme sahip ve endüstri standartlarının oluşturulmasına ve uygulanmasına yardımcı olabilir” diyor. “Standartların, yapay zeka sistemlerinin geliştirilmesi ve kullanılması için gereken en iyi uygulamaları belirleyeceğine ve yapay zeka sistemlerinin doğru şekilde kullanılmasını sağlayacağına” dikkat çeken Ertemel, “yapay zeka teknolojisinin doğru bir şekilde kullanımının sosyal, etik ve yasal sorunların önüne geçmek açısından önemli olduğunu” belirtiyor.
Birleşmiş Milletler Yapay Zeka Danışma Kurulu da “İnsanlık İçin Yapay Zekayı Yönetmek” başlıklı raporuyla bu alanı ilgilendiren ilkeleri duyurmuştu. Yeni küresel yapay zeka yönetişim kurumlarının oluşumuna rehberlik etmesi beklenen ilkeler, “kapsayıcılık, kamu yararı, veri yönetiminin merkeziliği, evrensellik, çok paydaşlılık ve uluslararası hukuk normlarına dayandırılma” olarak tanımlanmıştı.
Innova’nın blog sayfasında “Başarılı bir yapay zeka yönetişim stratejisi nasıl olmalıdır?” başlığıyla yayınlanan bir yazı da bu alana dair ipuçları sunuyor. Yazıda yapay zeka çözümlerini kullanan ya da geliştiren kurumlar için yapay zeka yönetişim uygulamalarının kritik roller üstlendiği belirtilirken, son dönemde oluşturulmaya başlanan yapay zeka mevzuatlarının etkisi de inceleniyor. “Yapay zekanın nasıl kullanılması veya kullanılmaması gerektiğini ve hangi önlemlerin kullanıcıları ya da üreticiyi koruyabileceğini belirlemek, en önemli yapay zeka yönetişim problemleri arasında” denilen yazıda “Yerel veya ulusal yönetimler, yapay zeka yönetişimine yönelik mevzuat taslakları üzerinde çalıştıkça, işletmeler hem mevcut hem de gelecekteki riskleri azaltmak için doğru bir yönetişim stratejisine daha fazla ihtiyaç duyuyor.” tespitinde bulunuluyor. Bu noktada yazıda “Kurumlarda, yapay zekanın bugün ve gelecekte, hangi noktalarda nasıl kullanılacağına dair net bir anlayışın benimsenmesi gerekiyor.” önerisi sunulurken, denetimin ve eğitim faaliyetlerinin önemi irdeleniyor: “Yapay zeka yönetişim politikaları açık bir şekilde değerlendirilip oluşturulduktan sonra, ekiplerin bu doğrultuda eğitilmesi ve hedeflere uyumun yüksek öncelikli olarak ele alınması, uzun vadeli başarı için anahtar görevi görür.”
Yazıda ayrıca “Yöneticilerin, kurum içi yönetişim politikalarının, tüm yapay zeka ekosistemini kapsadığından emin olmaları gerekiyor. Kurumlar en iyi uygulamaları geliştirseler de, aynı yönetişim kurallarına uymayan bir satıcıdan yapay zeka destekli çözüm almak, hem işletmeyi ve hem de müşterileri zor durumda bırakabilir.” uyarısı yer alıyor. Bu alanda çözümler geliştirmenin bir gelecek stratejisi inşa etmek açısından kritik olduğunun altı çiziliyor.
SPK Başuzmanı Yavuz Akbulak tarafından Legal Blog için yazılan bir yazıda da “yapay zeka yönetişim politikası” geliştirmenin gerekli olduğu alanlara işaret ediliyor. Veri gizliliği, etik hususlar, yasal uyum, risk azaltma, paydaş güveni ve yapay zeka sistemlerinin uyarlanması başlıklarında politika geliştirmenin önemine dikkat çekiliyor.
EY Türkiye Hukuk Hizmetleri Kıdemli Müdürü Efe Zengin’in “yapay zeka odaklı yönetişim yapıları” için önerileri ise şu şekilde: “Güçlü bir yapay zeka yönetişim programı; veriyi, modeli, süreci ve çıktıyı kapsamalı, bununla birlikte inovasyon ile sorumluluk arasında bir denge kurmalıdır. Kurulacak olan yönetişim yapısı; ‘yapay zekanın makul seviyede kullanımı için açık ve net prosedürler belirlemek’, ‘verinin kullanımı ve yönetimi konusunda sorumlu olan tüm paydaşları eğitmek’, ‘yapay zeka ile ilgili herhangi bir karara, gizlilik etkisi değerlendirmeleri ve veri koruma etkisi değerlendirmeleri de dahil olmak üzere, denetlenebilir kayıtlar tutmak’, ‘bir aykırılık durumunun tespit edilmesi halinde bunun yönetilmesi için gerekli prosedürü tanımlamak’ suretiyle yapay zeka sistemleri ile çıktıları için sorumluluk ve hesap verebilirliği sağlamalıdır.”
Eğer bu konu ilginizi çektiyse, bir önceki Substack yazımızda “Yapay Zeka ve Etik” başlığıyla “yönetişim” meselesine de katkı sunabilecek çeşitli değerlendirmeleri derlediğimizi hatırlatırız! Yazıya buradan ulaşabilirsiniz!
(Fotoğraf: Google DeepMind/Pexels)