KAIST araştırmacıları, yapay zekanın ‘bilmediğini kabul etmesini’ sağlayan yeni bir eğitim yöntemi geliştirdi. Bu yöntem, AI’ın halüsinasyon sorununu azaltmayı hedefliyor.
Güney Koreli bilim insanları, yapay zekanın ‘bilmediğini kabul etmesini’ sağlayacak yeni bir eğitim yöntemi geliştirdi. Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) araştırmacıları tarafından yürütülen çalışma, bu yaklaşımın yapay zekanın yanlış bilgi üretme, yani ‘halüsinasyon’ sorununu azaltabileceğini öngörüyor.
Araştırmanın bulguları, saygın akademik dergi Nature Machine Intelligence’ta yayımlandı. Uzmanlar, yapay zekanın en büyük problemlerinden birinin ‘aşırı özgüven’ olduğunu belirtiyor. Bu durum, özellikle sağlık gibi kritik alanlarda kullanılan sistemlerin, emin olmadıkları konularda dahi kesin cevaplar vermesine yol açabiliyor.
OpenAI’ın geliştirdiği ChatGPT gibi modellerin, doğru olmayan bilgileri gerçekmiş gibi sunabildiği daha önceki araştırmalarla ortaya konmuştu. Teknoloji dünyasında ‘halüsinasyon’ olarak adlandırılan bu durum, yapay zeka sistemlerinin güvenilirliğini sorgulatıyor. Bu sorunun temelinde, modellerin bilgi eksikliğini veya belirsizliği kabul etmek yerine kesin yanıtlar üretme eğilimi yatıyor.
Araştırmacılar, bu sorunu çözmek için insan beyninin çalışma prensiplerinden ilham aldı. İnsan beyninin, dış uyaranlar olmadan da sinyaller üretebildiği biliniyor. KAIST ekibi, benzer bir yaklaşımı yapay zeka modellerine uyguladı. Yeni yöntemde yapay zeka modeli, gerçek verilerle eğitime başlamadan önce rastgele ‘gürültü’ verileriyle kısa bir ön eğitim sürecinden geçiriliyor.
Bu ön eğitim süreci sayesinde model, henüz öğrenmeye başlamadan kendi belirsizliklerini tanımayı öğreniyor. Araştırmacılar, bu yöntemin yapay zekanın başlangıçtaki aşırı güvenini azaltarak ‘Henüz hiçbir şey bilmiyorum’ aşamasını benimsemesini sağladığını belirtiyor. Böylece sistemler, eğitim sırasında karşılaşmadıkları konularda yanlış cevaplar vermek yerine daha düşük güven düzeyleriyle yanıt üretiyor.
Araştırma ekibi, geliştirilen yeni yöntemin yapay zekanın ‘bildikleriyle bilmediklerini ayırt etme’ becerisini önemli ölçüde geliştirdiğini ifade ediyor. Bu gelişme, yapay zekanın hata payının düşük olması gereken otonom araçlar, tıbbi teşhis sistemleri ve karar destek teknolojileri gibi alanlarda büyük katkı sağlayabilir.
Çalışmanın yazarlarından Se-Bum Paik, bu araştırmanın yapay zekanın kendi bilgi durumunu insanlara daha benzer bir şekilde tanıyabileceğini gösterdiğini vurguladı. Araştırmacılara göre temel hedef, yapay zekanın sadece daha fazla doğru cevap vermesi değil, aynı zamanda ne zaman emin olmadığını da anlayabilmesidir.
Yorum Yap