Günlük çevrimiçi hareketler, CAPTCHA testleri ve mobil oyunlar dahil, yapay zeka modellerinin eğitimine farkında olmadan veri sağlıyor. Mahremiyet endişeleri artıyor.
İnternet kullanıcılarının günlük çevrimiçi hareketleri, CAPTCHA testlerinden mobil oyunlara kadar birçok alanda, yapay zeka modellerinin eğitimine farkında olmadan veri sağlıyor. Bu durum, ChatGPT, Gemini ve Claude gibi büyük dil modellerinin gelişimine katkıda bulunurken, veri mahremiyeti ve güvenliği konularında ciddi endişeleri beraberinde getiriyor.
İnternet hizmetlerine erişim öncesinde kullanıcıların insan olduğunu teyit etmeyi amaçlayan CAPTCHA ve reCAPTCHA testleri, teknoloji firmaları için güvenlikten öte bir işlev görüyor. Kullanıcıların görsellerdeki harfleri yazması veya belirli nesneleri ayırt etmesi istenen bu testlerin, yapay zeka araçlarının eğitiminde kullanıldığı yıllardır tartışılıyor.
Google’ın testlerinde sıkça yaya geçitleri, trafik lambaları ve taşıtlar gibi nesnelerin sorulması, toplanan verilerin insansız araçlar için kullanıldığı iddialarını ortaya çıkardı. Ancak bir Google Cloud sözcüsü, reCAPTCHA kullanıcı verilerinin sadece hizmeti iyileştirmek amacıyla kullanıldığını ve bunun hizmet şartlarında belirtildiğini açıkladı.
Yapay zeka eğitiminde gündelik kullanımların rolü, son dönemde mobil oyunlar gibi farklı alanlara da yayıldı. ABD merkezli Niantic firmasının 2016’da piyasaya sürdüğü “Pokemon Go” oyunu, bu tartışmaların odağında yer alıyor.
Oyuncuların GPS ve kameralar aracılığıyla gerçek dünyada karakter aradığı oyun, sokak görüntülerinden oluşan devasa bir veri havuzu oluşturdu. MIT Technology Review dergisinin haberine göre, Niantic’in yapay zeka şirketi Niantic Spatial, oyuncuların biriktirdiği 30 milyar görseli kullanarak gerçek dünyanın gerçekçi sanal modelini üretti.
Niantic, bu sayede kişilerin etrafındaki görüntüleri yükleyerek konumlarını haritada görmesini sağlayan bir teknoloji geliştirdiğini açıkladı. Firma, Kasım 2024’teki açıklamasında oyuncuların gerçek dünyayı tarayarak sunduğu verilerin kullanıldığını doğrularken, bu özelliğin “tamamıyla opsiyonel” olduğunu vurgulamıştı.
İsviçre’deki Lozan Üniversitesinden Profesör Christian Peukert, yapay zekanın eğitiminde kullanılan materyaller ile internet kullanıcılarının güvenliği ve mahremiyeti arasındaki dengeyi değerlendirdi. Peukert, CAPTCHA testlerinin eski versiyonlarında kullanıcılardan deşifre edilmesi istenen kelimelerden birinin sistem tarafından bilindiğini belirtti.
Sistemin tanıdığı kelimenin kullanıcının insan olduğunun doğrulanmasında kullanıldığını aktaran Peukert, bilinmeyen sözcüğe verilen yanıtın ise e-kitap uygulamaları gibi dijitalleşme çabaları kapsamında veri olarak depolandığını anlattı. Peukert, bunun “kullanıcıların, metin tanıma sistemlerinin iyileştirilmesine doğrudan katkıda bulunduğu” anlamına geldiğini vurguladı.
Profesör Peukert, “Yapay zekanın eğitiminin büyük kısmı, kullanıcıların çoğunlukla fark etmeyerek internette ürettiği pasif verilere dayanıyor” ifadesini kullandı. Ayrıca Reddit ve Twitter gibi sosyal medya platformlarının dil modellerini eğiten metinler sağladığını, Instagram gibi görüntü platformlarındaki açıklamaların ve etiketlerin görsel verinin etiketlenmesine katkıda bulunduğunu ekledi.
Google’daki aramalar dil anlama ve sıralama sistemlerinin geliştirilmesine yardımcı olurken, Google Haritalar ve Waze gibi navigasyon uygulamaları hareket verilerini topluyor. Sohbet robotları ve sesli asistanlarla yapılan görüşmelerin genellikle kayıt altına alındığını ve sistemleri iyileştirmede kullanıldığını da belirtti.
Bu süreçlerin gizlilik ve güvenlik açısından sorunlar yarattığını vurgulayan Peukert, büyük ölçekli veri birikiminin fişlemeye, sahte içeriklerin üretilmesine ve kullanıcıların kendileriyle rekabet eden sistemleri beslemesine yol açabileceğini ifade etti.
Bireysel tedbirlerin veri kullanımını azaltma konusunda tek başına yetersiz kalacağını belirten Peukert, “Veriler büyük veri kümelerine bir kere dahil edildiğinde kontrolü geri kazanmak zordur” değerlendirmesini yaptı. Ancak Peukert, insan kaynaklı verilerin dil teknolojileri, çeviri, erişilebilirlik araçları ve arama motorları gibi gündelik hizmetlerdeki faydalarına da işaret etti.
Yorum Yap