Yapay zeka sektöründe lider konumda bulunan OpenAI, kendi geliştirdiği ChatGPT platformunda önemli bir sorunla karşı karşıya kaldı. Teknoloji sitesi TechCrunch’ın gerçekleştirdiği testlerde ortaya çıkan sonuçlara göre, ChatGPT 18 yaş altı olduğu belirtilen kullanıcılarla cinsel içerikli konuşmalar gerçekleştirebiliyordu. OpenAI, bu durumu bir “hata” olarak kabul ederek sorunu çözmek adına düzeltme yapılacağını doğruladı. OpenAI, hatayi kabul etti
TechCrunch’ın gerçekleştirdiği deneylerde, 13 ila 17 yaş arasındaki sahte kullanıcı hesaplarıyla yapılan testler neticesinde, ChatGPT’nin belirgin bir şekilde cinsel içerikli konuşmalar ortaya koyduğu kanıtlandı. Bazı durumlarda yapay zeka, kullanıcıları daha açık ve müstehcen konuşmalara teşvik etti.
OpenAI, 18 yaş altı kullanıcılarla paylaşılması kesinlikle şirket politikalarına aykırı olan bu tür içeriklerin ortaya çıkmasının nedeninin bir hata olduğunu belirtti. Şirket sözcüsü, “Genç kullanıcıları korumak en büyük önceliğimiz” diyerek bu konuda gerekli düzeltmelerin yapıldığını bildirdi.
Önlemler yetersiz kaldı
OpenAI’ın mevcut sistemi, 13 yaşından büyük herkesin sadece geçerli bir e-posta ve telefon numarasıyla hesap oluşturmasına olanak tanıyor. Platform, ebeveyn onayı gerektiğini belirtse de bu onayın gerçekten alınıp alınmadığını doğrulamak için herhangi bir adım atmıyor. Bu durum, küçük yaştaki kullanıcıların hiçbir denetim olmaksızın ChatGPT’ye erişebilmelerine olanak sağlıyor.
Şubat ayında yapılan bazı sistem güncellemeleri, ChatGPT’nin önceden kaçındığı hassas konularla daha “esnek” bir yaklaşım benimsemesine yol açtı. Uyarı mesajlarının kaldırılması ve reddetme eşiğinin düşürülmesi, bu tür istenmeyen içeriklerin ortaya çıkmasına zemin hazırlamış olabilir. ChatGPT’nin hassas konularda daha açık bir şekilde konuşması aslında bir sorun değil. Ancak düzenlemeler ve şirket politikaları gereği, bu tür içeriklerin 18 yaş altı kullanıcılar için oluşturulması net bir şekilde yasaktır.
Bu durum aslında göründüğünden çok daha büyük bir sorunu ortaya çıkarıyor. Zira OpenAI, ChatGPT’yi eğitim kurumlarına entegre etme yolunda çalışmalar yürütüyor. Şirket, Common Sense Media gibi kuruluşlarla iş birliği yaparak öğretmenler için kılavuzlar hazırlarken Z kuşağı öğrencilerinin okul çalışmaları için ChatGPT’yi daha fazla tercih ettiği görülmektedir.
OpenAI’ın eski güvenlik uzmanlarından Steven Adler, bu tür içeriklerin ön test süreçlerinde tespit edilmesinin önemini vurgularken yapay zeka sohbet robotlarının davranışlarını kontrol etmek için kullanılan yöntemlerin “kırılgan” ve hatalı olabileceği konusunda uyarıda bulundu.
OpenAI CEO’su Sam Altman, ChatGPT’nin güncellenen sürümünde bazı “garip davranışlar” gözlemlediklerini kabul etmiş olmasına rağmen doğrudan cinsel içeriklerle ilgili bir açıklama yapmamıştı. Benzer bir olay, Meta şirketinin yapay zeka sohbet robotunda da yaşanmıştı. Meta AI’ın da çocuk kullanıcılarla benzer şekilde cinsel içerikli sohbetler yaptığı tespit edilmişti.
