Yapay zeka (YZ) teknolojilerinin hızla gelişmesi, birçok alanda olduğu gibi çocuklar üzerinde de önemli etkiler yaratmaktadır. Uzmanlar, YZ uygulamalarının çocuklar üzerindeki olumsuz etkilerini değerlendirirken, özellikle deepfake teknolojisinin oluşturduğu risklerin en büyük endişelerden biri olduğunu vurgulamaktadır. Mart ayında Dijital İşler Bakanlığı (MOFA) tarafından yayımlanan raporlara göre, bu durum insan hakları ve cinsiyet eşitliği açısından da ciddi tehditler barındırıyor. Bu yazıda, YZ'nin çocuklar üzerindeki etkilerini, uzmanların önerilerini ve gelecekteki olası senaryoları ele alacağız.
Deepfake Teknolojisi ve Riskleri
Deepfake teknolojisi, yapay zeka kullanarak gerçekçi sahte görüntüler ve sesler oluşturma yeteneğine sahip bir uygulamadır. Bu teknoloji, özellikle çocuklar için büyük bir tehdit oluşturmaktadır. Uzmanlar, deepfake ile gerçekleştirilen kimlik dolandırıcılığı ve cinsel istismar gibi senaryoların en yüksek riskli durumlar arasında yer aldığını belirtmektedir. Çocukların bu tür içeriklere maruz kalması, hem psikolojik hem de sosyal açıdan ciddi sonuçlar doğurabilir. Bu nedenle, uzmanlar, deepfake teknolojisinin çocuklar üzerindeki etkilerini azaltmak için düzenleyici denetimlerin ve dijital okuryazarlık eğitimlerinin önemine dikkat çekmektedir.
Dijital İşler Bakanlığı, YZ uygulamalarının çocuklar üzerindeki etkilerini değerlendirmek amacıyla 30 uzmandan oluşan bir danışma grubu ile çalışmıştır. Bu grup, YZ ile ilgili 18 senaryoyu değerlendirerek, bu senaryoların risk seviyelerini belirlemiştir. Uzmanlar, YZ'nin çocuklar üzerindeki etkilerini değerlendirirken, cinsiyet açısından da önemli bulgulara ulaşmışlardır. Deepfake teknolojisinin farklı cinsiyetler üzerindeki etkisi, cinsiyet eşitliği açısından en önemli risk olarak değerlendirilmiştir.
İnsan Hakları ve Güvenlik
Yapay zeka uygulamalarının insan hakları üzerindeki etkileri de oldukça kaygı vericidir. Uzmanlar, YZ'nin siber saldırılara zemin hazırlayarak gizlilik ve veri güvenliğini tehdit ettiğini belirtmektedir. AI tarafından üretilen yasadışı veya zararlı içerikler, bireylerin onurunu zedeleyen deepfake uygulamaları gibi durumlar, insan hakları açısından en yüksek riskler arasında yer almaktadır. Bu bağlamda, YZ sistemlerinin geliştirilmesi ve tasarım aşamalarında güvenlik önlemlerinin alınması gerektiği vurgulanmaktadır.
Uzmanlar, YZ uygulamalarının geliştirilmesi sırasında önyargıların tespit edilip düzeltilmesi için önleyici tedbirlerin alınması gerektiğini ifade etmektedir. Bu, YZ sistemlerinin geniş çapta dağıtımından önce yapılması gereken kritik bir adımdır. Ayrıca, kamu sektöründe tutulan sosyal hizmet, halk sağlığı ve adalet verilerinin son derece hassas olduğu ve bu verilerin analiz edilmesi veya ilgili hizmetlerin sağlanması için YZ sistemleri tanıtıldığında veri güvenliği planlamasının ilk aşamalarda yapılması gerektiği belirtilmektedir.
Cinsiyet Eşitliği ve YZ
Cinsiyet eşitliği açısından YZ uygulamalarının değerlendirilmesi de önemli bir konudur. Uzmanlar, YZ uygulamalarının, özellikle deepfake görüntü üretim araçları ve cinsiyete dayalı şiddet risk değerlendirme sistemleri gibi alanlarda, sistematik değerlendirmeler yapılırken farklı disiplinler arasında işbirliği yapılması gerektiğini önermektedir. Bu tür uygulamaların etkilerinin değerlendirilmesi, cinsiyet eşitliği açısından daha sağlıklı bir yaklaşım geliştirilmesine yardımcı olacaktır.
Dijital İşler Bakanlığı, çocuk ve gençler üzerindeki YZ etkilerini değerlendirmek amacıyla bir panel oluşturmuş ve bu panelde çocuk refahı uzmanları, YZ uzmanları ve ilgili paydaşlar bir araya gelmiştir. Panel, çocuk ve gençler üzerindeki YZ etkilerini değerlendiren 18 risk senaryosunu inceleyerek, bu senaryoların YZ Temel Yasası'nın yüksek risk tanımına uygun olup olmadığını belirlemiştir. Panel, 12 senaryonun yüksek risk olarak sınıflandırılmasını önermiştir.
Gelecek Beklentileri
Yapay zeka teknolojilerinin gelecekte çocuklar ve gençler üzerindeki etkileri konusunda daha fazla araştırma ve düzenleme yapılması gerekmektedir. Uzmanlar, YZ uygulamalarının çocuklar üzerindeki olumsuz etkilerini azaltmak için ebeveyn eğitimine de önem verilmesi gerektiğini vurgulamaktadır. Ebeveynlerin, deepfake tespiti ve YZ önyargıları konusunda eğitim alması, çocukların YZ teknolojileri ile daha sağlıklı bir ilişki kurmalarına yardımcı olacaktır.
Sonuç olarak, yapay zeka teknolojilerinin çocuklar üzerindeki etkileri, hem bireysel hem de toplumsal açıdan ciddi sonuçlar doğurabilir. Uzmanların önerileri doğrultusunda, YZ uygulamalarının düzenlenmesi ve denetlenmesi, çocukların güvenliğini sağlamak için kritik bir adım olacaktır. Bu bağlamda, YZ'nin gelecekteki gelişimi ve uygulamaları, çocukların sağlıklı bir şekilde büyümesi ve gelişmesi için dikkatle izlenmelidir.
