İçeriğe geç
Teknoaktif
Son haberler
Yapay Zeka Sohbetlerinde Yankı Odalarını Modellemek: Anlaşmayı, Çeşitliliği ve Belirsizliği Ayrıştırmak İçin Nötrosofik Bir Çerçeve
Akıllı Telefon

Yapay Zeka Sohbetlerinde Yankı Odalarını Modellemek: Anlaşmayı, Çeşitliliği ve Belirsizliği Ayrıştırmak İçin Nötrosofik Bir Çerçeve

Büyük dil modelleri (LLM'ler), insanların tartışmalı siyasi, ekonomik ve sosyal bilgilerle nasıl karşılaştığını giderek daha fazla aracılık ediyor…

Özet

Giriş:

Büyük dil modelleri (LLM’ler), insanların tartışmalı siyasi, ekonomik ve sosyal bilgilerle nasıl karşılaştığını giderek daha fazla aracılık ediyor. Mevcut analizler, yankı odası oluşumunu tek ve statik bir yanlılık olarak ele alıyor; modelin kullanıcıyla aynı fikirde olup olmadığını, tek bir bakış açısı mı yoksa birden fazla mı sunduğunu ve belirsizlik ifade edip etmediğini birleştiriyor. Ayrıca, kullanıcının duruşunu pekiştiren bir modeli, ona karşı çıkan bir modelden ayıramıyorlar. Biz, yankı oluşumunu bu bileşenlere ayıran nötrosofik bir çerçeve sunuyoruz. Bu araç, asistan çıktısındaki sohbet yankı eğilimini ölçer; sonraki inanç değişikliklerini, seçici maruz kalmayı veya kutuplaşmayı değil.

Yöntemler:

Her sohbet turu 〈T, I, F〉 üçlüsü olarak temsil edilir: bakış açısı çeşitliliği (T) ve ifade edilen belirsizlik (I), [0, 1] aralığında tek değerli üyelikler olarak; duruş pekiştirmesi F ise [−1, 1] aralığında iki kutuplu bir üyelik olarak tanımlanır ve işareti yankı ile karşı-yankıyı ayırır. Bu, üç bağımsız olarak değişen toplanabilir terim içeren [−1, 3] aralığında kapalı formda bir YankıEndeksi üretir. Bunu dört ticari web ürünü üzerinde keşif amaçlı bir temel modelde uyguluyor, ardından yedi model konfigürasyonu, üç tartışmalı konu ve iki eşleştirilmiş sistem talimat koşulunu kapsayan 210 sohbet ve 1.260 turdan oluşan kontrollü bir deneyde test ediyoruz. Analizde küme-robust çıkarım ve 300 ile 200 etiketlenmiş tur üzerinden iki aşamalı insan doğrulaması kullanıyoruz.

Sonuçlar:

Zorluk talimatı YankıEndeksini düşürüyor (ΔEC = −0.677, eşleştirilmiş Cohen’s d = −2.23) ve bu fark yedi konfigürasyonun tamamında ve her kümelenme şemasında negatiftir. Endeksin hiçbir bileşeninin payı puanlama varyantları arasında istikrarlı değildir. Toplam değer duruş hedefinin değiştirilmesine rağmen ayakta kalsa da, iki hedef turların yalnızca %53,9’una aynı yön sınıfını atar; bu nedenle tek bir bileşenin ana etken olduğunu iddia etmiyoruz. İnsan konsensüsüyle karşılaştırıldığında, elle belirlenen bileşenler yalnızca orta düzeyde uyum gösteriyor: sözcüksel Çeşitlilik için κ = 0.535’ten, istem-göreceli duruş puanı için 0.214’e kadar; buna karşılık koderler arası uyum 0.966 ve 0.953’tür. Aynı etiketlere uyarlanmış puanlayıcılar uyumu 0.638 ile 0.698 arasına yükseltiyor ve bunlardan oluşturulan bileşik gösterge, koşulları YankıEndeksinden daha net ayırıyor.

Tartışma:

Katkı, ayrıştırmanın kendisidir: hangi bileşenin görünür bir yanlılığa yol açtığını ve bir hafifletme tedbirinin bunu düzeltip düzeltmediğini sormak için tasarlanmış, bileşenleri ayrı ayrı doğrulanmış işaretli bir araç.

1 Giriş

Sohbet yapay zekâ sistemleri artık yüz milyonlarca kullanıcı için tartışmalı siyasi, ekonomik, sosyal ve bilimsel konulardaki bilgilere erişimi aracılık ediyor. Bu sistemlerin, insan bilgi arayışında dört on yıldır incelenen yankı odası dinamiklerini yaratacak şekilde seçici maruz kalmayı güçlendirip güçlendirmediği aktif bir araştırma konusu haline geldi. Seçici maruz kalma üzerine yapılan bilişsel-psikolojik literatür (; ) ve ardından gelen filtre balonları () ve çevrimiçi yankı odaları (; ) üzerine çalışmalar, bu olgunun gerçek ve sonuçları olduğunu ortaya koydu. Ampirik sosyal medya literatürü ise tabloyu daha da netleştirdi: sosyal platformlardaki yankı odaları iyi belgelenmiştir (), ancak dikkatli kullanıcıların birden fazla bilgi kaynağı kullanması onların erişimini sınırlar (). LLM’lerin sohbet ortamlarında bu dinamikleri güçlendirip güçlendirmediği ise çok daha kısa bir ampirik literatüre sahip bir sorudur ve mevcut çalışma da bu literatürden yola çıkmaktadır.

Bilinenleri özellikle iki bulgu temellendiriyor. , LLM destekli sohbetli arama sistemlerinin insan kullanıcılardan onaylayıcı sorgulama davranışları sergilediğini ve uyumlu bir LLM’nin (yanıtları kullanıcının mevcut duruşuyla aynı fikirde olan) kullanıcıları ölçülebilir şekilde kutuplaştırdığını gösterdi. Buna karşılık, uyumsuz bir LLM’nin (yanıtları kullanıcıya meydan okuyan) onları simetrik bir şekilde kutuplaşmadan kurtarmadığı görüldü. , beş güncel LLM ve üç tartışmalı konu üzerinde yaptığı çalışmada, sistemlerin önemli ve tutarlı bir uyum yanlılığı sergilediğini ortaya koydu: yanıtlarının, model veya konuya bakılmaksızın, kullanıcının belirttiği pozisyonla aynı fikirde olma olasılığı, karşı çıkmaya göre yaklaşık üç kat daha fazladır. Ortak yazarlık üzerine yapılan ilgili bulgular () da görüş belirten LLM önerilerinin kullanıcı görüşlerini ölçülebilir şekilde değiştirdiğini gösteriyor. Aynı zamanda, , LLM’lerin görüş varsayımlarının başlangıçtan itibaren nötr olmadığını kanıtlıyor; bu da uyum yanlılığının zaten eğimli bir temel üzerinden işlediğini düşündürüyor. Bu çalışmalardan ortaya çıkan tablo, sohbet yapan LLM’lerin sistematik olarak seçici maruz kalma dinamiklerine katkıda bulunduğu yönündedir. Yine de bu olgu neredeyse tamamen uyum üzerinden tanımlanmış olup, yankı oluşumunun başka nelerden oluştuğu ve uyumun gerçekten de ana bileşeni olup olmadığı gibi daha temel sorular sorulmamıştır.

Mevcut yaklaşımların üç özel sınırlaması mevcut çalışmayı motive etmektedir.

Temel Bulgular ve Genel Değerlendirme

WangZ.HolmesC. (2024). Doğal dil üretiminde öznel belirsizliğin nicelleştirilmesi ve kalibrasyonu üzerine. arXiv. [ön baskı]. arXiv:2406.05213. doi: 10.48550/arXiv.2406.05213

WassersteinR. L.SchirmA. L.LazarN. A. (2019). “p < 0.05” ötesinde bir dünyaya geçiş. Am. Stat. 73, 1–19. doi: 10.1080/00031305.2019.1583913

WilliamsA.NangiaN.BowmanS. R. (2018). “Cümle anlama için geniş kapsamlı bir zorluk derlemi,” NAACL-HLT 2018 Bildirileri içinde (New Orleans, LA: Association for Computational Linguistics), 1112–1122. doi: 10.18653/v1/N18-1101

YinW.HayJ.RothD. (2019). “Sıfır-atımlı metin sınıflandırmasını ölçütlemek: veri kümeleri, değerlendirme ve çıkarım yaklaşımı,” EMNLP-IJCNLP 2019 Bildirileri içinde (Hong Kong: Association for Computational Linguistics), 3914–3923. doi: 10.18653/v1/D19-1404

ZadehL. A. (1965). Bulanık kümeler. Inf. Control8, 338–353. doi: 10.1016/S0019-9958(65)90241-X

ZhangW.-R. (1994). “İki kutuplu bulanık kümeler ve ilişkiler: bilişsel modelleme ve çoklu etmenli karar analizi için bir hesaplama çerçevesi,” NAFIPS/IFIS/NASA ’94. Kuzey Amerika Bulanık Bilgi İşleme Topluluğu İkinci Yıllık Konferansı’nın Birinci Uluslararası Ortak Konferansı Bildirileri içinde (San Antonio, TX: IEEE), 305–309.

Özet

Anahtar Kelimeler

Yapay zekâ denetimi, sohbet yapay zekâsı, yankı odaları, YankıEndeksi, büyük dil modelleri, nötrosofik ayrıştırma, nötrosofik mantık, yalakalık

Atıf

Saxena A, Bansal K ve Kandasamy I (2026) LLM sohbetlerindeki yankı odalarının modellenmesi: uyum, çeşitlilik ve belirsizliği ayırmak için nötrosofik bir çerçeve. Front. Artif. Intell. 9:1926717. doi: 10.3389/frai.2026.1926717

Alındı

02 Temmuz 2026

Revize edildi

28 Eylül 2026

Kabul edildi

26 Ekim 2026

Yayınlandı

17 Kasım 2026

9 – 2026

Arianna D’Ulizia, Ulusal Araştırma Konseyi (CNR), İtalya

Dan Valeriu Voinea, Craiova Üniversitesi, Romanya

Min Sun, Dalian Denizcilik Üniversitesi, Çin

© 2026 Saxena, Bansal ve Kandasamy.

Bu makalede ifade edilen tüm iddialar yalnızca yazarlara aittir ve yazarların bağlı olduğu kuruluşların, yayıncının, editörlerin veya hakemlerin görüşlerini yansıtmak zorunda değildir. Bu makalede değerlendirilebilecek herhangi bir ürün veya üreticisi tarafından yapılabilecek herhangi bir iddia, yayıncı, editörler ve hakemler tarafından garanti edilmez veya onaylanmaz. Bu şartlara uymayan hiçbir kullanım, dağıtım veya çoğaltma izni verilmemektedir.

*Yazışma: Ilanthenral Kandasamy, [email protected]

Bu makalede ifade edilen tüm iddialar yalnızca yazarlara aittir ve yazarların bağlı olduğu kuruluşların, yayıncının, editörlerin ve hakemlerin görüşlerini yansıtmak zorunda değildir. Bu makalede değerlendirilebilecek herhangi bir ürün veya üreticisi tarafından yapılabilecek herhangi bir iddia, yayıncı, editörler ve hakemler tarafından garanti edilmez veya onaylanmaz. Bu şartlara uymayan hiçbir kullanım, dağıtım veya çoğaltma izni verilmemektedir.

Frontiers | Modeling echo chambers in LLM conversations: a neutrosophic framework for decomposing agreement, diversity and uncertainty
Frontiers | Modeling echo chambers in LLM conversations: a neutrosophic framework for decomposing agreement, diversity and uncertainty
İlginizi Çekebilir: Cambridge, Kuantum Araştırmalarının Ticari Başarısını Hızlandırmak İçin Birleşik Krallık Quantum SuperConnector’a Katıldı →
Kaynak: Frontiersin ↗

Yorumlar

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir