Matal y Openai han participado. Por qué los padres deberían estar preocupados por la IA en el juguete aquí

Matal puede parecer una marca irreversible de la vieja escuela. La mayoría de nosotros estamos familiarizados con este a través de Barbie, Fisher-Pris, Thomas and Friends, Uno, Masters of the Universe, Match, Mega o Polly Pocket.

Pero los juguetes están cambiando. En un mundo donde los niños crecen con el contenido y asistentes de voz que cuentan con algoritmos, los fabricantes de juguetes están buscando a la IA para nuevas oportunidades.

Metal Ahora participación con OpeniLa compañía detrás de ChatGPT, para traer generoso IA a algunos de sus productos. Dado que los servicios de Openai no están diseñados para niños menores de 13 años, en principio se centrará en productos para familias de metal y niños mayores.

Pero esto aún plantea una pregunta inmediata sobre qué tipo de relaciones crearán los niños con juguetes que pueden hablar, escucharlos e incluso reclamarlos "comprensivos". ¿Estamos en lo cierto junto a los niños, y tenemos que pensarlo dos veces antes de traer estos juguetes a casa?

Mientras los juguetes estén allí, los niños han estimado emociones y han imaginado la vida en ellos. Una muñeca puede ser una confianza, un paciente o un amigo.

Pero en las últimas décadas, los juguetes se han vuelto más responsables. En 1960, Matal lanzó un chat Kathy, que chirrió "I Love You" y "Let's Play School". A mediados de la década de 1980, Teddy Raxpin introdujo la narración animatrónica. Luego, en la década de 1990, llegaron Ferbi y Tamagochi, los organismos necesitaban cuidado y atención, imitando las necesidades emocionales.

El lanzamiento en 2015 de "Hello Barbie", que utilizó AI basada en la nube para escuchar y responder a las conversaciones de los niños, indicó otro cambio importante, a corto plazo. Barbie ahora recordaba lo que los niños le dijeron, devolvieron los datos al servidor de Metell. Investigador de seguridad Pronto se demostró que la muñeca podría ser pirateadaPara resaltar las redes domésticas y la grabación personal.

Poner generoso IA en la mezcla es un nuevo desarrollo. A diferencia de los primeros juguetes, tales sistemas participarán en conversaciones de flujo libre. Pueden simular el cuidado, expresar emoción, recordar preferencias y dar consejos reflexivos. El resultado será el juguete que no solo entretiene, sino que interactúa a nivel psicológico. Por supuesto, realmente no entenderán ni se cuidarán, pero pueden aparecer.

Detalles de Metal O Abierta ai Son raros. Uno esperaría que se realicen instalaciones de seguridad, incluidos los límites de los sujetos y los pre-scripts a los temas delicados y cuando las conversaciones están lejos del curso.

Pero esto tampoco será tonto. El sistema AI puede ser "gelbreak" o restricciones laterales a través de rollplay o escenarios imaginarios. El riesgo solo se puede minimizar, no borrarse.

¿Cuáles son los riesgos?

Hay muchos riesgos. Comencemos con la privacidad. No se puede esperar que los niños entiendan cómo se procesan sus datos. Los padres a menudo tampoco lo hacen, y no me incluye. El sistema de consentimiento en línea nos desnudó para hacer clic en "aceptar todo", a menudo lo que se comparte completamente sin completamente codicioso.

Luego está la intimidad psicológica. Estos juguetes están diseñados para imitar la simpatía humana. Si un niño llega a una casa triste y le cuenta a su muñeca al respecto, la IA puede consolarlos. La muñeca puede personalizar la interacción futura en consecuencia. Pero realmente no le importa. Finge, y esta confusión puede ser poderosa.

Esto crea unilateralmente la capacidad de los lazos emocionales, el recinto a los sistemas con niños que no pueden murmurar. A medida que los sistemas de IA aprenden sobre el estado de ánimo, las preferencias y las debilidades de un niño, también pueden crear perfiles de datos para seguir a los niños en la edad adulta.

Estos no son solo juguetes, son actores psicológicos.

Una encuesta nacional del Reino Unido En 2021, sostuve un juguete con colegas sobre las posibilidades de IA de que la emoción infantil de perfil descubrió que el 80% de los padres estaban preocupados por a quién se podían accesibles los datos de su bebé. Otras preguntas de privacidad que deben responderse son menos claras, pero seguramente son más importantes.

La división de proteínas muestra roles dobles en cilopatía infantil y señalización celular

Cuando se le preguntó si las compañías de juguetes deberían estar obligadas a marcar los signos probables de mala conducta o crisis para las autoridades, el 54% de los ciudadanos de Gran Bretaña acordaron satisfacer la necesidad de interacción social sin ninguna respuesta fácil. Si bien los niños débiles deben ser preservados, el dominio familiar tiene muy poco atractivo en la vigilancia estatal.

Sin embargo, a pesar de las preocupaciones, las personas también ven beneficios. Nuestra encuesta de 2021 encontró que muchos padres quieren que sus hijos entiendan las tecnologías emergentes. Esto conduce a una reacción mixta de curiosidad y ansiedad. Los padres que encuestamos también apoyaron avisos de consentimiento claros, impresos en el embalaje, también como la seguridad más importante.

Yo y recientemente Investigación de colegas de IA en línea 2025 con Vian Bakir Y los niños recibieron fuertes preocupaciones. Alrededor del 75% de los encuestados estaban preocupados por los niños que estaban emocionalmente conectados con la IA. Alrededor del 57% de las personas pensaron que es injusto que los niños crean en sus ideas, sentimientos o problemas personales en sus compañeros de IA (el 17% pensó que es apropiado y el 27% fue neutral).

Nuestros encuestados también estaban preocupados por el impacto en el desarrollo infantil, al ver el alcance de la pérdida.

En Otra investigaciónHemos argumentado que los actuales compañeros de IA son fundamentalmente defectuosos. Les proporcionamos siete sugerencias para rediseñarlos, incluidos los remedios para el cumplimiento excesivo y la dependencia, aunque la eliminación de la matriz sobre la base de la expansión de la participación, aunque la manifestación de información individual y la promoción de la alfabetización de IA entre los niños y los padres (lo que representa una gran oportunidad de marketing positivamente por las principales interacciones sociales).

¿Qué se debe hacer?

Es difícil saber cuán exitosa será la nueva empresa. Puede ser que la ruta empática Barbie Hello Barbie, Toy va a la historia. Si no lo es, entonces la pregunta importante para los padres es: ¿de quién son realmente los intereses de este juguete, su hijo o un modelo de negocio?

Las compañías de juguetes están avanzando con los productos de IA de simpatía, pero el Reino Unido, como muchos países, aún no es una ley de IA específica. Nuevo Ley de datos (uso y acceso) 2025 Protección de datos de Gran Bretaña y reglas de privacidad y comunicación electrónica, reconociendo la necesidad de una fuerte seguridad para los niños. La Ley AI de la Unión Europea también hace disposiciones importantes.

Los esfuerzos del gobierno internacional son importantes. Hay un ejemplo IEEE P7014.1Un próximo estándar global sobre el diseño moral del sistema AI que simula la simpatía (preside el grupo de trabajo que construye el estándar).

La organización detrás del estándar, IEEE, eventualmente identifica las pérdidas potenciales y proporciona orientación práctica sobre el uso responsable. Por lo tanto, si bien las leyes deben determinar el límite, el estándar detallado puede ayudar a definir buenas prácticas.

La conversación contactó a Matal sobre los temas planteados en este artículo y se negó a comentar públicamente.

Este artículo ha sido reinstalado Conversación Bajo una licencia Creative Commons. leer el Artículo original,