“Yapay Zeka son yirmi yılın en büyük inovasyon sıçraması, ancak çok artısı olduğu gibi çok riskleri de var.”
Yapay Zeka kuşkusuz son yirmi yılın en büyük inovasyon sıçraması. Ancak aynı zamanda ezberleri bozan bir inovasyon. İnsan yaşantısını, şirketlerin iş yapış biçimini, sosyal örgüyü, ve ülkelerin kaderini derinden etkileyebilecek bir potansiyelde. Çok artısı olduğu gibi çok riskleri de var. Daha önce YZ’nin kuralsız ve bir orman yangını gibi gelişmesi ile ilgili endişeleri içeren bir yazı yazmıştım. Bizzat YZ’nin bugünkü noktaya gelmesine öncülük etmiş bazı kişilerin ortaya koyduğu varoluş kaygılarından önce, güncel tehditlerin varolduğunu söylemiş ve YZ’yi insanlığın yararına odaklamak lazım demiştim. Nitekim AB ilk YZ Yasa Taslağını hazırlayıp tartışmaya açtı.
Bu yasa yalnızca AB içinde yapılan değil, kullanıma sokulan tüm YZ sistemlerini kapsıyor. Bazı uygulamalara çok az dokunurken bazılarını yasaklıyor. Örneğin kamuya açık alanlarda yüz tanıma, sosyal puanlama sistemi gibi uygulamalar yasak. Seçimlerde seçmeni etkilemeye dönük uygulamalara sıkı kısıtlamalar var. Yasayla şeffaflık getiriliyor. YZ ile üretilmiş bir şeyi açıklama zorunluluğu var. Yasaklı işleri yapanlara, hangisi büyükse, 40 milyon Euro’ya kadar veya şirketin global cirosunun %7’sine kadar ceza sözkonusu. Üye ülkelerin, YZ sistemleri devreye alınmadan test edilmesine dönük birer organizasyon kurmaları isteniyor. Amacın bir yandan vatandaşlar korunurken, bir yandan inovasyonu engellememek olduğu söyleniyor.
ŞİRKETLERİ NELER BEKLİYOR?
Ülkeleri YZ’yi regüle etmeye iten güncel tehditler neler? YZ’nin yapabilirliği ve kötü niyetli kişilerin bir araya gelmesi çok tehlikeli bir kombinasyon oluşturuyor. Açıkçası öngörülebilenlerin dışında akla hayale gelmedik problemler yaşanabilir. Telefonla ve maille yapılan sahtekarlıkların çok daha kalitelileri, zararlı yazılım üretimi ve sibersaldırılar, “deepfake”ler ve yanıltıcı bilgi, YZ’nin internette nereden aldığı bilinmeyen içerik ile gelen Fikri Mülkiyet problemleri… Özellikle ChatGPT gibi Üretici YZ uygulamalarının büyüsüne kapılarak içeri atlayan şirketleri büyük riskler bekliyor. Venturebeat’in haberine göre Samsung mühendisleri şirkete has bir yazılımı ChatGPT’ye yükleyerek sorununu çözmeye çalışmışlar. Böylece şirketin gizli bilgileri dışarı sızmış. Profesyoneller için sosyal bir platform olan Fishbowl’un araştırmasına göre ChatGPT’yi iş için kullananların %68’i bunu yöneticilere söylemiyor. Bir başka sorun, Üretici YZ’nin bilmediği konularda bir şeyler uydurması ve bunu gerçekmiş gibi sunması. Bunlara “halüsinasyonlar” deniyor. Yine bir başka durum, internetteki çok sayıda “yanlı” kaynaktan öğrendiği için önyargılı sonuçlar sunması. Şirketlerin YZ ile yaptıkları işlerde hesap verebilirlik sorunları da ortaya çıkıyor.
Bütün bunlara karşılık, YZ’nin potansiyel faydalarını kullanma arzusu şirketleri ve ülkeleri konuyu disipline etmeye zorluyor. Bunun bir sonucu “Sorumlu Yapay Zeka” (SYZ) akımı. Sorumlu YZ, çalışanları ve işletmeleri güçlendirmek ve müşterileri ve toplumu adil bir şekilde etkilemek için yapay zekayı iyi niyetle tasarlama, geliştirme ve dağıtma uygulamasına verilen ad. Yaklaşımın temelinde, insan-odaklı tasarım; amaca uygunluk; açıklık ve kontrol; sistemin insanlar, kuruluşlar, ve toplum üzerindeki etkilerini değerlendirme; önemli olumsuz etkilerin gözetimi; karar verme için sistem anlaşılırlığı gibi faktörler var. SYZ doğru yönde bir adım, ancak özellikle Üretici YZ kontrol edilmesi güç bir nitelikte.
Yapay zekanın faydaları ve çığır açıcılığı da başka bir yazıya.
Ali Özgenç – Keiretsu Forum Türkiye YK Başkan Vekili