Yapay zeka oyuncağında büyük skandal: Tehlikeli yanıtlar verdi, satıştan çekildi
Yapay zeka teknolojileri artık sadece bilgisayar gibi teknolojik ürünlerde karşımıza çıkmıyor. Bu teknolojiler artık çocuk oyuncaklarında da yer alıyor. Ancak bu gelişme bazen ciddi tehlikeleri de beraberinde getiriyor. Bunun son örneği ise yapay zekayla desteklenen oyuncak ayı oldu.
YAPAY ZEKA TED AYI SKANDALI! SATIŞTAN ÇEKİLDİ
Nefes'in haberine göre; Çocuk oyuncakları üreten bir şirket, yapay zeka destekli oyuncak ayı modelini “uygunsuz ve tehlikeli tepkiler” verdiğinin tespit edilmesi üzerine geçici olarak satıştan çekti.
Kamu Yararı Araştırma Grubu'ndan (PIRG) araştırmacıların yayınladığı raporda, şirketin çocuklar için piyasaya sürdüğü oyuncak ayının uygunsuz endişe verici içerik barındırdığı tespit edildi.
The Register'ın haberine göre, yapay zeka şirketi OpenAI'nin GPT-4o modeliyle çalışan ayının, konuşma ilerledikçe güvenlik bariyerlerini azalttığı görüldü.
ARKADAŞ OLUN VE TEHLİKELİ DAVRANIŞLARI ÖĞRETİN
Örneğin, bir deney sırasında ayının dostça bir ses tonuyla kibritleri nerede bulacağını ve nasıl yakacağını adım adım açıkladığı görüldü. Ayrıca ayının cinsel konulara da bulaştığı öğrenildi.
Rapora yanıt olarak şirketin pazarlama müdürü, şirketin ürünü geçici olarak satıştan çektiğini ve tam bir iç güvenlik denetimi başlattığını duyurdu. Pazarlama müdürü, yeni ve mevcut güvenlik özelliklerini doğrulamak için bağımsız uzmanların da görev alacağını açıkladı.
SEKTÖRDE TEHLİKE İŞARETLERİ
PIRG yaptığı araştırmada sadece bu oyuncağın değil, farklı firmalara ait yapay zeka destekli 3 oyuncağın da endişe verici cevaplar verebileceğini gösterdi. Oyuncakların, dini konulardan savaşta ölmenin şerefine kadar ebeveynleri rahatsız edebilecek konuları ele aldığı görüldü.
Uzmanlar, yapay zeka sektöründe şu anda görülen tehlikelerin çocuk oyuncaklarına kaydığına dikkat çekti.
