OpenAI Araştırmacılarından Yapay Zeka Denetimi Uyarısı

ABD merkezli yapay zeka şirketi OpenAI’daki görevlerine son verilen üç araştırmacı, şirketin yönetim kurulu üyelerine yapay zeka denetiminin önemi hakkında bir mektup gönderdi. ABD basınında yer alan habere göre, işlerinden çıkarılmadan önce yapay zeka güvenliği alanında çalışan araştırmacılar, mektupta dikkat çekici uyarılarda bulundu.

Habere göre araştırmacılar, yapay zeka firmalarının bu teknolojinin akıl yürütme süreçlerini gözlemleme kapasitesini yitirebileceği endişesini iletti. Gitgide otonom hale gelen yapay zekanın beraberinde getirebileceği risklere karşı güvenlik denetimlerinin, şirketten bağımsız kuruluşlar tarafından yapılması çağrısında bulundu.

Yapay zeka sektöründe denetlenemeyen modellerin nasıl güvenli şekilde geliştirilmesi ve kullanıma sunulması gerektiğinin henüz bilinmediğini ifade eden araştırmacılar, OpenAI ve diğer öncü şirketleri, bu teknolojiyi denetlemeyi zorlaştıracak şekilde geliştirmemeleri konusunda uyardı.

OpenAI’dan bir sözcü, habere konu açıklamasında, söz konusu mektuptaki önerilere tamamen katıldıklarını ve yapay zeka modellerinin denetlenmesinin şirket için büyük önem taşıdığını belirtti.

Söz konusu araştırmacıların, bir yapay zeka güvenlik şirketine gizli bilgi paylaştığı gerekçesiyle işten çıkarıldığı iddia ediliyor.