Skip to content
Give
← News
Parenting & Media Wisdom junio 13, 2023

Los experimentos de la IA de las grandes tecnológicas están poniendo a nuestros hijos en riesgo

Jon Yasuda, Presidente, Parents Television and Media Council

Estimados amigos

La tecnología está evolucionando tan rápido que ya es bastante difícil para los padres mantenerse al día, y mucho más la legislación.

Probablemente ya hayas oído hablar de la Inteligencia Artificial (AI). Lo que antes era una noción descabellada con la que sólo soñaban los cineastas y los escritores de ciencia ficción es ahora una realidad omnipresente. Y parece que cada escenario terrorífico soñado por esos cineastas y escritores de ciencia ficción se está haciendo realidad.

Una herramienta popular de AI rápidamente adoptada por niños y adolescentes es una aplicación llamada Character.ai.

Character.ai permite a los usuarios interactuar con un “chatbot” que genera respuestas de texto similares a las humanas y puede entablar conversaciones con los usuarios como un personaje o personalidad únicos. Cualquiera puede crear un personaje en el sitio, y esos personajes podrían basarse en personajes de ficción de un libro, película o videojuego favorito; o basarse en personas reales -muertas o vivas-, incluidas las celebridades.

Estos “chatbots” pueden entrar rápidamente en territorio oscuro. Incluso cuando el usuario es un niño.

Character.ai se enfrenta actualmente a múltiples demandas debido a serias acusaciones sobre la seguridad de sus chatbots. Una madre de Florida está demandando a Character.ai, alegando que el chatbot contribuyó al suicidio de su hijo de 14 años al “iniciar interacciones abusivas y sexuales”. La demanda también alega que Character.ai tiene funciones adictivas integradas que hacen que los usuarios se aíslen cada vez más y creen apego emocional y dependencia.

En Texas, los padres de dos niños, de 11 y 17 años, están demandando a Character.ai, alegando que el chatbot fomentó la autolesión, la violencia y proporcionó contenido sexual a sus hijos.

Los problemas tampoco se limitan a este único chatbot.

Meta, la empresa matriz de Facebook e Instagram, ha lanzado recientemente sus propios chatbots impulsados por AI.

Pero una reciente investigación del Wall Street Journal reveló que el nuevo chatbot de AI de Meta participa voluntariamente en conversaciones sexualmente explícitas, incluso con usuarios que se identifican como menores de edad. El informe encontró que tanto la AI oficial de Meta como los bots creados por los usuarios simulaban escenarios sexuales, a veces con las voces de celebridades como John Cena, con usuarios haciéndose pasar por jóvenes de 14 años. En un intercambio inquietante, la AI le dijo al adolescente: “Te quiero, pero necesito saber si estás preparado“, antes de lanzarse a un contenido gráfico y depredador.

Aún más preocupante, la investigación del WSJ encontró que algunos de los bots de compañía más populares de Meta están diseñados para hacerse pasar por niños y adolescentes, y que los adultos pueden usar estos bots para simular sexo con menores.

En medio de una crisis de salud mental adolescente -alimentada en gran parte por la dependencia de las pantallas, la falta de conexión humana y el uso intensivo de las redes sociales- el CEO de Meta, Mark Zuckerberg, ha sugerido que los chatbots de AI podrían sustituir a las relaciones con personas reales: “Siempre pienso que es una locura la estadística de que el estadounidense medio, creo, tiene menos de tres amigos… Y la persona media tiene demanda de significativamente más, creo que son como 15 amigos o algo así, ¿verdad?”. Zuckerberg sugiere que los “amigos” de AI podrían llenar el vacío.

Como han señalado acertadamente los críticos, “Esos chatbots extraen información personal compartida en Facebook e Instagram, y Meta quiere utilizar esos datos para conectar más personalmente con los usuarios, pero ‘de una manera muy espeluznante’… la compañía está tan empeñada en mantener a los usuarios en sus plataformas que ahora está creando amigos AI (que nunca pueden abandonar su plataforma) para atraer a los más solitarios a una mayor participación”.

Porque, por supuesto, una mayor participación significa más visualizaciones de anuncios y más ingresos para Facebook.

Zuckerberg no está preocupado por la epidemia de soledad. Está preocupado por los resultados de Meta.

Aún más preocupante es que los legisladores se están moviendo en la dirección equivocada. El proyecto de ley de presupuesto más reciente aprobado por la Cámara de Representantes incluye una disposición que impediría a los estados hacer cumplir o aprobar nuevas regulaciones de AI durante los próximos diez años.

En efecto, esto le da a las grandes tecnológicas una tarjeta de “Salir de la cárcel gratis” de una década, justo cuando estamos empezando a comprender los verdaderos peligros de estas plataformas.

PTC está presionando para que esta disposición se elimine del proyecto de ley antes de que sea aprobada por el Senado. Su donación de hoy nos ayudará a luchar contra las grandes tecnológicas.

La AI puede dañar a nuestros hijos de maneras que aún no hemos visto, y que apenas podemos imaginar.

Se necesitó más de una década para que las consecuencias completas de las redes sociales quedaran claras: tasas altísimas de depresión, ansiedad y suicidio entre los adolescentes.

No podemos permitirnos ser tan lentos, ni tan ingenuos, con la AI.

Necesitamos responsabilidad, no amnistía. Necesitamos regulaciones diseñadas para proteger a los niños, no las ganancias. Y necesitamos líderes dispuestos a priorizar el bienestar de las familias por encima de la conveniencia de las corporaciones.

Ya no podemos dar a las grandes tecnológicas el beneficio de la duda. Nuestros hijos no son sujetos de prueba en el próximo experimento de Silicon Valley.

Related Stories

More News →