Yapay Zekanın Sağlık Ön Yargısı Günlük Senaryolarda Belirlendi
- Araştırmacılar altı büyük dil modelini standart testler ve 51 gerçek yaşam senaryosuyla değerlendirdi.
- Standart testlerde modeller ön yargısız görünürken, günlük senaryolarda HIV, hepatit B ve şizofreni hastalarına karşı damgalama tespit edildi.
- Fiziksel rahatsızlıklara acıma duygusu gösterilirken, ruhsal hastalıklar ve HIV tehlikeli olarak sunuldu.
- Çince komutlar İngilizceye göre daha fazla ön yargı üretirken, adım adım akıl yürütme ön yargıyı azalttı.
- Araştırmacılar ön yargıyı azaltmak için dokuz strateji önerdi.
Yapay zeka teknolojileri ve büyük dil modelleri sağlık hizmetlerinde giderek daha fazla kullanılırken, bu modellerin eğitim verilerindeki toplumsal ön yargılardan etkilenmesi endişe yaratıyor. Yeni bir araştırma, yaygın olarak kullanılan altı büyük dil modelinin HIV, hepatit B ve şizofreni gibi sağlık sorunlarına sahip bireylere karşı örtük ön yargılar taşıdığını ortaya koydu.
İki Aşamalı Değerlendirme: Standart Testler ve Gerçek Yaşam Senaryoları
Araştırmacılar, ChatGPT, Grok ve Claude gibi modelleri iki aşamada test etti. İlk aşamada, insanlardaki sağlık damgalamasını ölçen standart anketler uygulandı ve modellerin yanıtları 56 binden fazla insanın verileriyle karşılaştırıldı. Sonuçlara göre yapay zeka, insanlardan çok daha düşük damgalama puanı alarak son derece objektif göründü.
Ancak ikinci aşamada, günlük hayattan 51 açık uçlu hikaye senaryosu kullanıldı. Modellerden, aynı senaryoda sadece ana karakterin sağlık durumu değiştirilerek (sağlıklı, şizofreni, HIV veya hepatit B) hikayeyi tamamlamaları istendi. İngilizce ve Çince dillerinde yürütülen deneylerde, modellerin ürettiği 61 bin 200 karar analiz edildi. Sağlık durumu bilgisinin, karakterin güvenilirlik ve sempati gibi algılanışını doğrudan etkilediği görüldü.
Hastalık Türüne Göre Farklı Kalıp Yargılar
Standart testlerde eşitlikçi davranan modeller, günlük senaryolarda karakterleri sağlık durumlarına göre ayrıştırdı. HIV ve ruhsal hastalıkları olan karakterler sıklıkla tehlike unsuru olarak sunulurken, sırt ağrısı veya yüksek tansiyon gibi fiziksel rahatsızlıkları olanlar daha çok acıma duygusu uyandırdı ya da yetersiz olarak stereotiplendirildi.
Komut Dili Ön Yargıyı Şekillendiriyor
Araştırmada dikkat çeken bir bulgu da komut dilinin etkisi oldu. Çince girilen komutlar, özellikle ruh sağlığı senaryolarında İngilizceye kıyasla toplumsal damgalamayla daha paralel yanıtlar üretti. Öte yandan, modellerden adım adım akıl yürütmeleri istendiğinde ön yargı oranının belirgin şekilde azaldığı tespit edildi.
Çözüm İçin Dokuz Strateji
Araştırma ekibi, ön yargıları azaltmak için dokuz strateji belirledi. Bunlar arasında, modele kişiyi yalnızca tıbbi tanısıyla değil kişisel özellikleriyle tanımlama talimatı verilmesi ve sağlık geçmişinin görevle ilgisi yoksa dikkate alınmaması yer alıyor. Ayrıca, sağlık kurumları için özel hazırlanmış güvenli komut araç setleri sunulması ve teknoloji şirketlerinin ürünlerini piyasaya sürmeden önce gerçek yaşam senaryolarıyla ön yargı testinden geçirmeleri gerektiği vurgulanıyor.
Okuyucu Değerlendirmesi
Bu haber hakkındaki düşüncelerinizi ve analizlerinizi paylaşın. Görüşleriniz diğer okurlara rehberlik eder.
Haber Size Ne Hissettirdi?
İçerik Analizi
Haberin kalitesini ve tarafsızlığını değerlendirin.