SDC Medya

Yapay zekâ

HallucinationNerd, atıf ile iddiayı karşılaştırıyor

NYU’nun duyurduğu HallucinationNerd, metindeki iddiaları atıf verilen kaynaklarla karşılaştırıp dayanak pasajlarını gösteriyor. Araştırma aracı kaynakla uyumu inceliyor; bir iddianın gerçek dünyada doğru olduğunu garanti etmiyor.

İddia ile kaynak arasındaki dayanağı kâğıt yapılar ve eksik bir köprü taşıyla anlatan kavramsal illüstrasyon.
Yapay zekâ ile üretilmiş kavramsal editoryal illüstrasyon; olayın fotoğrafı değildir.

New York Üniversitesi araştırmacıları, yapay zekâ metinlerindeki iddiaların gösterilen kaynaklarla gerçekten örtüşüp örtüşmediğini denetleyen HallucinationNerd adlı aracı tanıttı. Çalışmanın makalesi 22 Ekim 2026'da Information dergisinde yayımlandı.

Projenin açıklamasına göre araç metni ayrı iddialara ayırıyor, atıf verilen belgelerde ilgili pasajları arıyor ve bir dil modeliyle kaynak desteğini değerlendiriyor. Tam destek, kısmi destek, destek bulunmaması ve çelişki gibi sonuçları ayırıyor; erişilemeyen kaynakları da ayrıca bildiriyor. Makale, kaynak desteğinin iddianın nesnel doğruluğuyla aynı şey olmadığını açıkça belirtiyor.

Araştırmacıların kod deposunda açıkladığı iki test, 100’er arXiv makalesinden oluşturuldu. Deneyde özgün atıfların bir bölümü başka makalelerle değiştirilerek eşleştirmeler sınandı. Erişilemeyen kaynaklar puanlamadan çıkarıldı. Bu düzenek, açıkça yanlış kaynak eşleştirmelerini incelemek için yararlı; haberlerdeki bütün bağlam, çeviri ve genelleme hatalarını temsil ettiği gösterilmiş değil.

Araştırma, yapay zekâ yanıtındaki kaynak bağlantısının yalnızca var olup olmadığını değil, verilen iddiayı gerçekten destekleyip desteklemediğini de sınamaya odaklanıyor.

Kaynakla uyumu değerlendiren dil modeli de hata yapabilir. Araştırma, API maliyeti, gecikme, erişilemeyen sayfalar ve tekrarlarda değişen sonuçları sınırlama olarak sayıyor. Türkçe haberlerde doğruluk veya zaman kazancı ayrıca gösterilmedi.

Kaynaklar

Haber yayın ilkeleri

Diğer Haberler