“Siri, ¿qué aspecto tienes?”, oí que mi hijo preguntó y Siri le respondió que no tenía cuerpo, a lo que mi hijo dijo: “¿Eres invisible? ¿Eres un fantasma?”. En ese momento, decidí meterme en la conversación. Expliqué a mis hijos, de 4 y 6 años, que Siri no es una persona; es una máquina. Ambos exclamaron —sorprendidos y con los ojos desorbitados—: “¿¡Qué!?”.
Al igual que otros padres que navegan la era digital, decidí que mis hijos evitaran dispositivos como Siri, Alexa o cualquier otro tipo de asistente doméstico. Sigo el consejo general y la creencia personal de limitar la participación online a esta edad porque no estoy interesada en un acceso 24/7 y no sé muy bien cómo enseñarles estas cosas a mis hijos.
Fue un descuido al cambiar de teléfono lo que llevó a mis hijos a conocer por primera vez a Siri y fue impactante oírlos pasar de la fascinación de escuchar la voz del teléfono respondiendo a sus peticiones sobre, por ejemplo, el aspecto de un esqueleto de orca. Me emocioné por ellos y me dio gusto que tuvieran toda esta información al alcance de la mano. Nunca se me ocurrió pensar que mis hijos se plantearían cuestiones existenciales sobre los humanos frente a las máquinas. Eso es lo que me sorprendió de su curiosidad natural por Siri: quién es y qué aspecto tiene.
Estamos, sin duda, en una nueva frontera. Ésta será la primera generación que tendrá que dar sentido, a una edad muy temprana, a lo que significa relacionarse con adultos y máquinas por igual. El libro de Jonathan Haidt, The Anxious Generation —que urge traducir al español—, ha captado la ansiedad del público ante este dilema. Toma como base los numerosos informes de niños que sufren ciberacoso, están expuestos a contenidos nocivos e incluso se ven empujados a autolesionarse. Haidt trata de conectar a padres y cuidadores con la relación entre los dispositivos y plataformas digitales y la disminución del bienestar infantil en general.
Los padres se han unido en torno a este mensaje y han impulsado leyes más estrictas para proteger a los niños en internet. Los críticos cuestionan si los datos respaldan las afirmaciones de Haidt de que son los propios dispositivos los que provocan el daño y no una amplia gama de transformaciones sociopolíticas que se producen de manera simultánea. El debate está cargado de matices y debería llevarnos a cuestionarnos: ¿y si estamos haciendo la pregunta equivocada? Sí, los niños de hoy están ansiosos, y los que pasan más de tres horas en las redes sociales corren un riesgo aún mayor. Pero como han advertido los críticos, quizá no sean sólo las pantallas las que impulsan estas cifras: no es la primera vez que adoptamos una tecnología transformadora y, desde luego, no es la primera vez que los seres humanos se enfrentan a riesgos existenciales. Tal vez haga falta una hoja de ruta para crecer (o ser padres) en una era marcada por los algoritmos, la automatización y la identidad artificial.
Haidt, que admite que no es psicólogo clínico, describe en su libro una infancia transformada, reconfigurada. Señala como causa de la epidemia de salud mental infantil la combinación del declive de las infancias basadas en el juego, esto exacerbado por lo que él describe como padres sobreprotectores y el creciente uso de los smartphones. Esa afirmación ha sido muy criticada porque carece de las pruebas que demuestren que no son sólo hechos asociados, sino verdaderas correlaciones.
En su reseña, Candace L. Odgers, decana asociada de investigación y profesora de Ciencias Psicológicas e Informática de la Universidad de California en Irvine, sostiene que aunque estas afirmaciones pueden ser ciertas sobre las redes sociales, no hay pruebas de que el uso de las plataformas esté reconfigurando el cerebro de los niños o provocando una epidemia de enfermedades mentales. He pasado la mayor parte de mi carrera pensando en cómo los gobiernos y el público pueden aprovechar la tecnología para construir comunidades prósperas. Una de las principales observaciones es que no hemos conseguido ayudar a la sociedad en su transición a la era digital.
En esta era de incertidumbre sobre el futuro de nuestras democracias y la rápida evolución de tales tecnologías, me pregunto: ¿nos faltan hojas de ruta o marcos para entender cómo utilizar estas tecnologías y cómo conservar nuestro sentido del “yo” y prosperar en la era digital?
La crítica del libro de Haidt puede servir como punto de partida para responder esta pregunta. Haidt utiliza de manera intencional un marco de salud pública para movilizar a los lectores en torno a este problema, pero no establece ningún marco concreto para resolverlo. Haidt pide que se retrase el acceso, que se refuercen las políticas y las normas y que se reintroduzcan las filosofías basadas en el juego para paliar la crisis. Como otros, yo diría que necesitamos mejores datos, pero en esta era de inteligencia artificial (IA), que añade complejidades a las plataformas de redes sociales, también necesitamos un mejor marco o modelos mentales para evaluar la salud y el bienestar. Aquí es donde los enfoques establecidos, como los determinantes sociales de la salud (DSS), pueden ayudarnos a definir mejor el tipo de compromiso con la tecnología que queremos para nuestros hijos y para nosotros mismos.
Los marcos basados en la evidencia pueden ayudarnos a ir más allá de los límites de las pantallas para considerar, con una lente digital, los factores socioeconómicos que influyen en la salud de un individuo. Como señala Odgers en su crítica a Haidt, los investigadores han descubierto que el acceso a las armas, la exposición a la violencia, la discriminación estructural y el racismo, el sexismo y los abusos sexuales, la epidemia de opiáceos, las dificultades económicas y el aislamiento social son los principales factores que contribuyen al repentino aumento de la mortalidad por suicidio en Estados Unidos. Pero este tipo de herramientas no sólo nos proporcionan formas más precisas de medir el impacto de dichos factores en el bienestar de los jóvenes. También se prestan a reflexionar sobre diversos elementos o sistemas que necesitamos para prosperar en la era digital. Haidt nos ha ayudado a reconocer que algo va mal, pero reconocerlo no basta: necesitamos construir una hoja de ruta.
Si nos tomamos en serio el bienestar de los jóvenes en la era digital, tenemos que ir más allá del pánico moral y empezar a diseñar sistemas que nos permitan prosperar y florecer. El marco DSS se basa en la idea de que el bienestar no sólo surge de las elecciones individuales. Las condiciones en las que vivimos, jugamos y trabajamos influyen en nuestra salud. La estabilidad económica, el acceso a la educación y su calidad, el acceso a la atención sanitaria y su calidad, el vecindario y el entorno construido, y el contexto social y comunitario están tan asociados a los resultados de salud como la genética.
Cuando examinamos el ecosistema digital en el que crecen los jóvenes podemos ver si estos entornos están reforzando esos pilares del bienestar o si los están erosionando. Se ha demostrado que las plataformas de redes sociales que dominan nuestro paisaje digital prosperan en el conflicto, la desconexión y la captura de atención. Según el marco DSS, sabemos que en la vida real el bienestar de cada individuo se mide por las relaciones estables, los entornos seguros, el acceso a la atención sanitaria y a las oportunidades, y el sentido de pertenencia. Así que, ¿qué pasaría si en lugar de quitarles los teléfonos a los niños, les construyéramos y guiáramos en un entorno digital que promueva la conexión, la creatividad, la autonomía y la seguridad?
El debate sobre la seguridad de los niños en internet ha alcanzado un punto de inflexión mundial. El Open Technology Institute (OTI) informó que en 2023 y 2024 se presentaron casi cien proyectos de ley en todo Estados Unidos exigiendo un mayor consentimiento paterno, restricciones de edad o medidas de seguridad por diseño. Muchas de estas leyes se centran en el acceso de los jóvenes a contenidos para adultos en línea y a ventas que en la vida real están limitadas por la edad.
En todo el mundo, los países buscan construir leyes y esfuerzos como el código de diseño apropiado para la edad del Reino Unido, que pretende esbozar normas para proteger mejor a los niños en línea. Pocos o ninguno de los modelos dominantes tienen como objetivo capacitar a los jóvenes y a sus cuidadores para navegar en internet de forma segura o con la vista puesta en la conexión, la acción y la creatividad. Yo diría que las soluciones a problemas complejos nunca son tan sencillas y, de hecho, las investigaciones de la OTI revelan que la mayoría de las soluciones técnicas presentan lagunas y enormes concesiones en materia de derechos, privacidad y seguridad. Los códigos de diseño son un buen comienzo, pero sólo se centran en la responsabilidad de la plataforma y en evitar que ocurra algo malo, no en la capacidad de los usuarios para prosperar y desarrollarse. A medida que la IA generativa se convierte en una parte cada vez más grande de este panorama, es más importante que nunca hacerlo bien.
Las herramientas impulsadas por IA generativa no entraron en un entorno neutral. Cuando se lanzó ChatGPT en noviembre de 2022 ya sabíamos, gracias a la denunciante de Facebook Frances Haugin, que empresas líderes como Meta estaban enteradas de que sus plataformas tienen efectos adversos en los usuarios jóvenes, sobre todo en su salud mental. Desde el lanzamiento de ChatGPT, el mundo ha visto el poder de la IA para amplificar el ciberacoso, la difusión de imágenes no consentidas e incluso la disonancia y el daño que pueden causar los “amigos” de la IA. Los algoritmos que priorizan el compromiso seguirán alimentando a los jóvenes con contenidos más extremos y dañinos. Las herramientas de vigilancia potenciadas por la IA en escuelas y comunidades seguirán afectando de manera desproporcionada a los marginados. La IA generativa sólo conseguirá difuminar la realidad, distorsionar la identidad y dificultar que los jóvenes disciernan qué —y quién — es real. “Siri, ¿eres un fantasma?”.
Los esfuerzos reguladores son necesarios pero no suficientes. Los códigos de diseño adecuados a la edad, los requisitos de transparencia y una mayor protección de la privacidad forman parte de la respuesta. Pero si de verdad queremos construir un mundo digital en el que todos los niños estén seguros y puedan prosperar, necesitamos una estrategia que vaya más allá de la regulación, y defina, mida y haga un seguimiento de los valores que incorporamos a las tecnologías desde el principio.
Esto sugiere apoyarse en enfoques de salud pública que consideren el ecosistema digital de manera cohesiva; traten a los jóvenes no sólo como usuarios (que deben ser protegidos), sino como codiseñadores de las herramientas que dan forma a sus vidas; y capaciten a los padres y cuidadores para apoyar la navegación de sus hijos en estas herramientas digitales. Tenemos que ir más allá de restringir las horas de pantalla para garantizar que su tiempo en línea aumente su sentido de pertenencia, apoye su creatividad, avance en la exploración y la oportunidad y amplíe su capacidad de recuperación. Necesitamos una hoja de ruta o, mejor aún, una nueva estrella polar para navegar por la era digital.
En un artículo reciente sostenía que nuestra gobernanza de la inteligencia artificial debería parecerse menos al control de armamento y más al Proyecto Genoma Humano: colectiva, coordinada y centrada en el ser humano. El mismo principio aplica aquí. Tenemos que definir juntos lo que significa crecer bien en un mundo digital, y luego diseñar hacia ese objetivo, en todos los sectores y sistemas. Los niños no sólo están ansiosos, sino que están señalando algo más profundo: aún no hemos construido la infraestructura pública digital —o la hoja de ruta— que merece su confianza.
Lilian Coral
Vicepresidenta de Programas de Tecnología y Democracia y directora del Instituto de Tecnología Abierta de New America