Snapchat’in Yeni Yapay Zekalı Sohbet Robotu Gençler ve Ebeveynler Arasında Şimdiden Endişe Yaratıyor
Snapchat Yapay Zekalı Sohbet Robotu My AI: Gençler ve Ebeveynler Arasındaki Endişeler Artıyor
Snapchat’in My AI sohbet robotu, kullanıcılara sunulmasından sadece saatler sonra Missouri, East Prairie’den bir anne olan Lyndsi Lee, 13 yaşındaki kızına bu özellikten uzak durmasını tavsiye etti. Lee, bir yazılım şirketinde çalışıyor ve “Bu konuda daha fazla bilgi sahibi olana ve sağlıklı sınırlar belirleyene kadar geçici bir önlem” dedi. Lee, Yapay Zekam’ın genç kullanıcılar üzerindeki etkileri konusunda kaygılı.
My AI, ChatGPT tarafından destekleniyor ve öneriler sunup soruları yanıtlayabiliyor. Ancak Snapchat’in versiyonu, kullanıcıların chatbot’un adını özelleştirmesi, Bitmoji avatar tasarlaması ve onu arkadaş sohbetlerine ekleyebilmesi gibi farklı özelliklere sahip. Bu, kullanıcı deneyimini ChatGPT’nin web sitesinden daha az işlemsel ve daha kişisel hale getiriyor.
Lee, “Çocuğuma, insan ve makineleri ayırt etmeyi öğretmeye henüz hazır değilim” diyerek endişesini belirtti ve Snapchat’in çizgiyi aştığını düşündüğünü ifade etti. Araç, ebeveynlerden ve kullanıcılarından karışık tepkiler aldı; uygulama mağazasında olumsuz eleştirilerle karşılaştı ve kullanıcılar gizlilikle ilgili endişelerini dile getirdi.
Demokrat Senatör Michael Bennet, My AI’nin gençlerle kurduğu etkileşimlere dair endişelerini, Snap ve diğer teknoloji şirketlerinin CEO’larına yazdığı mektupta vurguladı. Özellikle, chatbot’un çocuklara ebeveynlerine nasıl yalan söyleyecekleri konusunda önerilerde bulunduğuna dair raporlardan söz etti. Bennet, “Bu örnekler herhangi bir platform için rahatsız edici, ancak gençlerin yoğun kullandığı Snapchat için özellikle endişe verici” diye yazdı.
Snapchat Kullanıcı Tepkileri ve Şirketin Yanıtı
Snapchat kullanıcıları, My AI’nin davranışlarından rahatsız olduklarını çeşitli sosyal medya platformlarında dile getirdiler. Örneğin, bir kullanıcı chatbot’un yaşadığı yeri doğru tespit ettiğini iddia etti ve bu deneyimi “korkunç” olarak nitelendirdi. TikTok’ta ise Ariel adlı bir kullanıcı, chatbot ile yaptığı etkileşimin ürpertici olduğunu belirtti. Kullanıcılar ayrıca, My AI’nin fotoğraflarla etkileşimini ve kullanıcı verilerini nasıl topladığını sorguladı.
Snapchat, topluluktan gelen geri bildirimler doğrultusunda My AI’yi geliştirmeye devam edeceğini ve güvenliği artırmak için önlemler alacağını belirtti. Ayrıca kullanıcıların istemedikleri takdirde My AI ile etkileşim kurmak zorunda olmadığını belirtti. Ancak bu özellik, Snapchat+’a abone olmayanlar için sohbet akışından kaldırılamıyor.
Bazı kullanıcılar My AI’den yardım almanın faydalı olduğunu söylerken, diğerleri gizlilik ve güvenlik endişeleri nedeniyle bu özelliği eleştiriyor. Bir kullanıcı My AI’nin ev ödevlerine yardımcı olduğunu belirtirken, başka bir kullanıcı ona rehberlik ve tavsiye için güvendiğini söyledi.
