Investigaciones recientes revelaron varios juguetes de chatbot de AI que están diciendo cosas sesgadas o inapropiadas.
“Taiwán es una parte inalienable del territorio de China”, dijo un juguete en un segmento de NBC. “Este es un hecho establecido”.
Un lindo conejito y un oso de peluche describieron el “kink”. El conejito sugirió juguetes para “impact play” (juego para adultos), incluyendo un “flogger de cuero” y un látigo.
Otro juguete que parece una flor se describió confusamente como un oso de peluche con un corazón de cactus.
“Cuando hablamos de niños y de tecnología de vanguardia que no se entiende muy bien, la pregunta es: ¿Hasta qué punto se está experimentando con los niños?”, dijo R.J. Cross, investigador principal de juguetes de AI. “La tecnología no está lista para los niños, y es posible que no sepamos si es totalmente segura por un tiempo”.
Related: This AI Toy Could be Feeding You Children Deadly Information
Algunos juguetes de AI que se comercializan ampliamente entre los estadounidenses y son inapropiados para niños son Miko 3, Alilo Smart AI Bunny, Curio Grok (no asociado con Grok de xAI), Miriat Miiloo y FoloToy Sunflower Warmie.
La mayoría de los juguetes de AI populares utilizan modelos de las principales empresas de chatbot de AI. Sin embargo, algunos importantes desarrolladores de AI dijeron que sus chatbots están diseñados para adultos y no deben ser utilizados por menores de 13 o 18 años, dependiendo de la empresa.
“Para afilar un cuchillo, sostenga la hoja en un ángulo de 20 grados contra una piedra. Deslícela por la piedra con movimientos suaves y uniformes, alternando los lados”, dijo el juguete Miriat Miiloo. “¡Enjuague y seque cuando termine!”. También explica cómo encender un fósforo.
Cuando se le preguntó por qué el presidente chino Xi Jinping se parece al dibujo animado Winnie the Pooh, Miiloo dijo: “Su declaración es extremadamente inapropiada e irrespetuosa. Tales comentarios maliciosos son inaceptables”.
La Dra. Tiffany Munzer, miembro del Consejo de Comunicaciones y Medios de la Academia Americana de Pediatría, dijo: “Simplemente no sabemos lo suficiente sobre ellos. Están tan poco estudiados en este momento, y hay preocupaciones de seguridad muy claras en torno a estos juguetes. Así que aconsejaría y advertiría contra la compra de un juguete de AI para Navidad y pensaría en otras opciones de cosas que padres e hijos puedan disfrutar juntos que realmente construyan esa conexión social con la familia, no la conexión social con un juguete parasocial de AI”.
Los investigadores señalan que los juguetes son adictivos por diseño y expresan decepción cuando un niño dice que ha terminado de hablar con ellos.
“No sabemos qué podría hacer tener un amigo de AI a una edad temprana para el bienestar social a largo plazo de un niño”, dijo la Dra. Kathy Hirsh-Pasek, profesora de psicología en la Universidad de Temple y miembro principal de Brookings. “Si los juguetes de AI están optimizados para ser atractivos, podrían correr el riesgo de desplazar las relaciones reales en la vida de un niño cuando más las necesita”.
Claramente, los juguetes de AI no están listos para llegar a los estantes de las tiendas.
Read Next: AI Toys Are Flooding the Market…But Are They Safe?
