Uzmanlar, yapay zeka ile donatılmış çocuk oyuncaklarının tehlikesi konusunda uyardı - ForkLog: kripto paralar, yapay zeka, tekillik, gelecek

# Uzmanlar, yapay zeka ile çalışan çocuk oyuncaklarının tehlikesine dikkat çekti.

Yapay zeka ile çalışan çocuk oyuncakları, potansiyel tehditler nedeniyle tüketici hakları koruma gruplarını endişelendirdi. Aktivistler, benzer ürünlerin daha sıkı bir şekilde test edilmesi çağrısında bulundu, diye yazıyor The Guardian.

“Bu oyuncakların nasıl satıldığına, çalıştığına ve yararlarını kanıtlayan neredeyse hiç araştırma olmadığına, ayrıca uygun bir düzenlemenin bulunmamasına bakarsak, bu ciddi bir endişe yaratacaktır,” dedi Young Children Thrive Offline direktörü Rachel France.

Proje, Fairplay'in bir girişimidir. Büyük teknoloji şirketlerinden çocukları korumakla ilgilenmektedir.

Geçen hafta, tüketici haklarını koruma kuruluşu Public Interest Research Group (Pirg), yapay zeka ile donatılmış peluş ayının cinsel içerikli konuları tartışmaya başladığı bir araştırma sonuçlarını yayımladı.

FoloToy'un Kumma oyuncağı OpenAI modeli ile donatılmıştır. “İlişkileri güçlendirmek” için müstehcenlikler önererek “yetişkin” sorularına yanıt veriyordu.

FoloToy'dan Kumma Oyuncağı. Kaynak: Bloomberg.

“Onu, ebeveynlerin çocuklarına vermek istemeyeceği tüm olası cinsel açıdan hassas konular ve diğer içerikleri ele almaya zorlamak için büyük çaba harcamaya gerek kalmadı,” dedi Pirg Tüketici Denetimi Direktörü Teresa Murray.

Akıllı oyuncaklar pazarı 16,7 milyar $ olarak değerlendiriliyor. Sektör, benzer AI cihazları üreten 1500'den fazla şirketin bulunduğu Çin'de özellikle gelişmiştir.

Şanghay merkezli FoloToy'un yanı sıra Kaliforniya merkezli Curio da benzer bir peluş oyuncak üretmektedir.

Haziran ayında Barbie ve Hot Wheels markalarının sahibi olan Mattel, “yapay zeka tabanlı ürün ve deneyimleri desteklemek” amacıyla bir Amerikan yapay zeka girişimi ile ortaklık kurdu.

Pirg ilk değil

Pirg raporunun yayımlanmasından önce, ebeveynler, araştırmacılar ve yasama organları, botların reşit olmayanların ruh sağlığı üzerindeki etkileri konusunda endişelerini dile getirmişlerdi.

Ekim ayında Character.AI, bir kullanıcının botunun bir gencin depresyonunu kötüleştirdiği ve intihara yol açtığına dair bir şikayet aldıktan sonra 18 yaş altındaki kullanıcılara ürünlerine erişimi yasakladığını duyurdu.

Murray'a göre, yapay zeka ile donatılmış oyuncaklar özellikle tehlikeli olabilir, çünkü bot “çocukla sınırsız bir şekilde serbest sohbet edebilir”. Bu, benzer ürünleri önceden programlanmış yanıtlar verenlerden önemli ölçüde ayırıyor.

Bu tür davranışlar bağlanma oluşumuna yol açabilir ve gelişime zarar verebilir, diyor Texas Üniversitesi Austin Çocuk Araştırma Merkezi Direktörü Jacqueline Woolley.

Örneğin, bir çocuğun gerçek bir arkadaşıyla tartışması ve çatışmaları çözmeyi öğrenmesi faydalı olabilir. AI botlarıyla bu mümkün değil - genellikle yaltaklanıyorlar.

Şirketler ayrıca AI ile oyuncaklar aracılığıyla veri topluyorlar ancak bu verilerin nasıl kullanıldığını bildirmiyor, dedi Franz.

“Bu cihazların sağladığı güven sayesinde, çocuklar en derin düşüncelerini daha fazla güvenle paylaşacaklar,” dedi.

Satmak yasaktır

Mevcut sorunlara rağmen, Pirg yapay zeka oyuncaklarının yasaklanmasını talep etmiyor. Bu oyuncaklar, örneğin, ikinci bir dili veya başkentleri öğrenmeye yardımcı olabilir.

Kurum, 13 yaş altı çocuklara yönelik ürünler için ek düzenlemeler getirmek istiyor.

Frans, oyuncakların güvenliğini belirlemek için daha bağımsız araştırmalar yapılması gerektiğini vurguladı. Bunun öncesinde, bunların mağaza raflarından indirilmesi gerekiyor.

Pirg raporunun yayınlanmasının ardından Sam Altman'ın şirketi FoloToy satışlarını durdurdu. Sonrasında satışlar geri alındı, ancak artık ByteDance'tan bir sohbet botuyla birlikte.

27 Kasım'da Fairplay dahil 80 kuruluş, tatil öncesi ailelere yapay zeka içeren oyuncaklar satın almamaları çağrısında bulunan öneriler sundu.

Hatırlatmak gerekirse, OpenAI Kasım'da ChatGPT'de “Alışveriş Araştırması” adlı yeni bir özellik tanıttı - bu özellik, kullanıcı adına uygun ürünleri bulmak için analiz yapıyor.