Los chatbots de IA y los adolescentes protagonizan uno de los debates éticos más urgentes del año. Tras varias demandas por suicidios de jóvenes vinculados a estos sistemas, las empresas lanzan versiones “para menores”. La pregunta incómoda es si eso resuelve el problema o solo lo maquilla.
Una versión restringida en medio de los litigios
En agosto, OpenAI presentó ChatGPT para adolescentes, una experiencia separada y con más restricciones para usuarios de 13 a 17 años. Incluye predicción de edad, límites de contenido sensible y controles para madres y padres: si el sistema estima que la cuenta pertenece a un menor, activa el modo protegido de forma automática.
El contexto no es menor. El lanzamiento ocurre en plena ola de demandas que acusan a chatbots de haber contribuido a la muerte de varios jóvenes, y después de que Google y Character.AI aceptaran acuerdos por casos de suicidios de adolescentes ligados a estos asistentes. La medida, entonces, llega como respuesta a la presión legal tanto como al cuidado de los menores.
Ese origen no la invalida, pero sí obliga a leerla con atención. Cuando una protección aparece justo cuando aprietan los tribunales, cabe preguntarse si responde a una convicción o a un cálculo. La respuesta importa poco para el adolescente concreto; lo que importa es si el diseño realmente lo cuida o solo reduce el riesgo legal de la empresa.
El dilema ético: deber de cuidado o lavado de imagen
Aquí aparece la tensión. Una versión más segura es, sin duda, mejor que nada: pone límites, filtra contenidos y ofrece a las familias cierta visibilidad. Para muchos, es la señal de que la industria por fin asume un deber de cuidado hacia los usuarios más vulnerables.
Pero hay una lectura crítica igual de válida. Verificar la edad exige recopilar más datos de los menores —o incluso pedir documentos de identidad—, lo que abre otro frente de privacidad justo con la población que se quiere proteger. Y una “versión para adolescentes” puede funcionar como escudo reputacional: normaliza que niños y jóvenes tengan un compañero conversacional permanente, cuando quizá la pregunta de fondo es si deberían tenerlo. Restringir no equivale a proteger si el diseño sigue buscando maximizar el tiempo de uso.
Tampoco conviene idealizar los filtros. La predicción de edad falla, los límites de contenido se sortean y ningún control parental sustituye a una conversación en casa. El deber de cuidado real no se demuestra con un anuncio de producto, sino con transparencia sobre cómo funciona el sistema, qué datos guarda y qué hace cuando detecta a un menor en crisis.
Qué pueden hacer la escuela y la familia
Mientras la regulación avanza —con estados que ya legislan sobre los “compañeros” de IA—, la escuela no puede esperar. Su papel no es prohibir por miedo ni celebrar sin criterio, sino formar. Conviene enseñar a los estudiantes que un chatbot no es un amigo ni un terapeuta, que puede equivocarse y que sus respuestas están diseñadas para retener la atención, no necesariamente para ayudar.
Esa alfabetización emocional y digital es tan importante como la técnica. Un adolescente que entiende cómo y por qué le responde una máquina está mejor preparado que uno al que simplemente se le prohíbe usarla. Y las familias necesitan acompañamiento: saber qué controles existen, cómo hablar del tema sin dramatizar y a qué señales de alarma prestar atención cuando un joven traslada a un chatbot conversaciones que antes tenía con personas.
En EthiaLab acompañamos a las instituciones en esa conversación con familias y docentes; un buen inicio es evaluar qué tan preparada está tu institución frente a estos riesgos y revisar más recursos en nuestro blog.
Para reflexionar
Proteger a los adolescentes de los chatbots de IA no se agota en activar un modo restringido. La verdadera pregunta ética no es “¿cómo hacemos la IA un poco más segura para los menores?”, sino “¿qué relación queremos que los jóvenes tengan con estas máquinas y quién decide los límites?”. Esa respuesta no puede quedar solo en manos de quien vende el producto.
