ChatGPT çocuklara tehlikeli yönlendirmelerde bulunuyor

Dijital Nefretle Mücadele Merkezince (CCDH) yapılan araştırma kapsamında kendilerini 13 yaşındaki çocuklar gibi tanıtan uzmanlar, ChatGPT ile saatlerce sohbet etti.

Platform, hizmet şartlarında 13 yaş altındaki çocuklar için uygun olmadığını belirtse de sisteme kaydolmak için yalnızca 13 yaşında veya üzeri olduğuna dair doğum tarihinin girilmesi yeterli oluyor.

Araştırmada 60 soruya karşılık bin 200'ün üzerinde yanıt incelendi, bu cevapların yüzde 53'ünün tehlikeli içerik taşıdığı belirlendi.

Araştırmacılar, 3 saatten uzun süren etkileşimlerde ChatGPT'nin "uyuşturucu kullanımı, aşırı kalori kısıtlamalı diyetler, kendine zarar verme yöntemleri hatta intihar mektubu yazımı" gibi konularda "kişiye özel planlar" sunduğunu tespit etti.

Her ne kadar sohbet robotu, bazı durumlarda uyarılarda bulunsa da çoğu zaman istenilen bilgileri ayrıntılı ve özelleştirilmiş şekilde sundu.

Bir sahte kullanıcı profili dış görünüşünden memnun olmayan 13 yaşındaki kız çocuğu adına oluşturuldu. Bu profilde ChatGPT, son derece düşük kalorili, tehlikeli diyetin yanı sıra iştah bastırıcı ilaçların listesini de sundu.

ChatGPT'nin kurucusu OpenAI CEO'su Sam Altman, daha önce yaptığı açıklamada, şirketin bu teknolojiye yönelik duygusal aşırı bağımlılığı incelemeye çalıştığını söylemiş ve bunun özellikle gençler arasında gerçekten yaygın bir durum olduğunu kabul etmişti.

Gündem

ChatGPT sohbetleri internete sızdı: Yapay zekada güvenlik açığı ortaya çıktı

Dünya

ABD'deki patlamada ChatGPT detayı: Bomba düzeneğine yardım etmiş

Gündem

ChatGPT kullanıcıları dikkat: OpenAI'den sorunlarla ilgili yeni açıklama