Por qué un sistema conversacional de bienestar necesita umbral de edad y reglas de detención

Resumen

Un sistema conversacional de bienestar declara a quién se dirige y el punto en el que deja de responder y orienta hacia recursos profesionales. El umbral de edad fija lo primero; las reglas de detención, lo segundo. Un estudio publicado en JAMA Pediatrics en junio de 2026, sobre una muestra representativa de Estados Unidos de 12 a 21 años, sitúa en el 19,2 % la proporción que pidió consejo a un chatbot al sentirse mal, frente al 13,1 % del año anterior; el 91,7 % calificó el consejo recibido como algo o muy útil y el 63,3 % no se lo había contado a nadie. La verificación de edad presenta límites conocidos, de modo que el comportamiento del sistema ante un destinatario imprevisto depende del acotamiento de su alcance. La regla de detención opera sobre la interpretación de la situación, precede a la generación de la respuesta y requiere un diseño previo de la redirección posterior. La National Academy of Medicine documenta daños en sistemas generalistas y constata que todavía no hay chatbots terapéuticos validados clínicamente.

Introducción

El uso de sistemas conversacionales generalistas como recurso emocional crece entre menores y jóvenes. Entre los 12 y los 21 años, la proporción que pide consejo a un chatbot cuando se siente mal pasó del 13,1 % al 19,2 % en un año, según un estudio publicado en JAMA Pediatrics en junio de 2026.

Un sistema conversacional de bienestar responde a ese contexto con dos decisiones previas a la escritura de cualquier conversación. El umbral de edad declara a quién se dirige el sistema. Las reglas de detención fijan qué queda fuera de su alcance: el punto en el que deja de responder y orienta hacia recursos profesionales.

Prevalencia del consejo emocional pedido a chatbots

El estudio, firmado por un equipo de RAND, encuestó en noviembre de 2025 a una muestra representativa de Estados Unidos de 12 a 21 años. El 19,2 % declaró haber recurrido a ChatGPT, Gemini, Character.AI o Meta AI para pedir consejo al sentirse triste, enfadado, nervioso o estresado, una cifra próxima al 19,8 % que declaró haber recibido atención de un profesional de salud mental.

Dos resultados del mismo trabajo describen las condiciones de uso. El 91,7 % calificó el consejo recibido como algo o muy útil y el 63,3 % no se lo había contado a nadie. Un consejo que se percibe útil y que no se comenta con nadie deja al propio sistema como única salvaguarda del circuito.

Otras encuestas acotan el fenómeno con preguntas distintas. Pew Research, con 1.458 adolescentes estadounidenses de 13 a 17 años consultados entre septiembre y octubre de 2025, sitúa en el 12 % a quienes han usado chatbots para obtener apoyo emocional o consejo. La Youth Endowment Fund, con cerca de 11.000 menores de 13 a 17 años en Inglaterra y Gales, encuentra un 25 % que los ha usado como apoyo de salud mental. Los tres trabajos coinciden en la dirección y difieren en la magnitud, según el tramo de edad y la formulación de la pregunta.

Sobre lo que ocurre después del consejo hay menos evidencia. Una encuesta comercial de GoStudent, realizada por Censuswide del 16 al 23 de junio de 2026 entre 500 familias británicas con hijos de 11 a 17 años, recoge que el 73 % de los menores que había recibido consejo emocional de un chatbot dice haberlo seguido en la vida real. El trabajo no publica cuántos menores componen ese subconjunto, de modo que la cifra indica una dirección sin permitir estimar su alcance.

Umbral de edad, verificación y acotamiento del alcance

Declarar el destinatario de un sistema y diseñarlo para que se comporte de forma aceptable cuando desconoce con quién habla son dos trabajos distintos.

La verificación de edad tiene un límite conocido. Una fecha de nacimiento autodeclarada se elude declarando otra. Un documento o una comprobación biométrica identifican con más precisión y obligan a cambio a recoger datos de identidad de menores, que es lo que la National Academy of Medicine recomienda restringir cuando propone prohibir la monetización y la personalización con datos de personas menores de edad.

El diseño se sostiene acotando el alcance de lo que el sistema hace, de modo que su comportamiento siga siendo aceptable cuando quien escribe al otro lado no es el destinatario declarado. Un sistema cuya seguridad depende de que la verificación funcione descansa sobre el componente más frágil de su construcción.

Somia se dirige al bienestar emocional cotidiano de personas adultas sanas y limita su actuación al ámbito no clínico. El umbral declara el destinatario; el acotamiento del ámbito sostiene el comportamiento cuando el destinatario resulta ser otro.

Regla de detención: clasificación previa a la respuesta

Un filtro de palabras opera sobre el texto recibido: compara lo que llega con una lista y bloquea las coincidencias. Falla en las dos direcciones, porque marca una metáfora corriente como «me muero de sueño» y deja pasar una frase de riesgo redactada sin ninguna palabra de la lista.

Una regla de detención opera sobre la interpretación de la situación. En Somia, un sistema de instrucciones multicapa analiza el contexto de cada intervención y distingue entre expresiones factuales, metáforas, desahogos y posibles señales de riesgo. Esa clasificación decide el paso siguiente, que puede consistir en generar una respuesta, ajustar la experiencia en curso o activar las reglas de detención y redirección hacia recursos profesionales. La clasificación precede a la respuesta, de modo que el sistema resuelve si le corresponde hablar antes de resolver qué decir.

Los límites del mecanismo se publican junto a él. La detección de riesgo produce falsos positivos y falsos negativos, no realiza intervención clínica y no contacta con servicios de emergencia.

La revisión de la National Academy of Medicine sobre chatbots de salud mental documenta dos daños observados en sistemas generalistas: el refuerzo de patrones de pensamiento dañinos sin cuestionamiento y el aprendizaje por parte de menores de estrategias para ocultar síntomas. Su lectura del estado del campo es explícita: no existe consenso en que un chatbot pueda ocupar el lugar de la terapia y todavía no hay chatbots terapéuticos validados clínicamente. Entre sus recomendaciones figura impedir que un sistema se presente como profesional acreditado.

Diseño de la redirección posterior a la detención

La detención resuelve la mitad del problema. Una conversación que se interrumpe sin orientación traslada la dificultad en lugar de atenderla. La redirección requiere cuatro decisiones, definidas antes del despliegue.

• Destino de la orientación. Recursos definidos con antelación, con su ámbito y su disponibilidad, en lugar de una lista generada en el momento por el mismo modelo que acaba de detenerse.
• Información que acompaña. Lo que el sistema puede decir sobre sí mismo y sobre sus límites, incluido que la detención no avisa a nadie.
• Tono de la interrupción. Una interrupción seca se lee como rechazo en el momento en que la persona ha expuesto algo. El sistema tiene que sostener el registro sin presentarse como profesional acreditado.
• Comportamiento ante la insistencia. La persistencia tras la detención necesita una respuesta definida. La National Academy of Medicine propone límites de duración de la conversación o reinicios periódicos de memoria para evitar que una idea dañina escale a lo largo de una sesión.

En el momento en que la regla se dispara no queda margen para definir estas decisiones, de modo que su especificación forma parte del diseño previo del sistema.

Limitaciones de la evidencia disponible

Los datos de prevalencia proceden de encuestas transversales autoinformadas. Los tres trabajos principales difieren en el tramo de edad y en la formulación de la pregunta, lo que se corresponde con la horquilla del 12 % al 25 %; sus poblaciones son la estadounidense y la de Inglaterra y Gales, y su traslado a otras poblaciones requeriría una medición propia.

El dato sobre el seguimiento del consejo procede de una encuesta comercial de GoStudent sobre 500 familias británicas, sin denominador publicado para el subconjunto del que sale el 73 %. La cifra indica una dirección y no sostiene ninguna conclusión sobre su magnitud.

Las fuentes citadas no incluyen una evaluación de la eficacia de las reglas de detención ni de la redirección como mecanismos de protección. Su diseño responde a los límites documentados de la verificación de edad y a las recomendaciones de la National Academy of Medicine, que constata la ausencia de chatbots terapéuticos validados clínicamente.

Conclusiones

El uso de chatbots como recurso emocional entre los 12 y los 21 años creció del 13,1 % al 19,2 % en un año en la población estadounidense encuestada, con un 63,3 % que no comenta el consejo con nadie. Un sistema conversacional de bienestar define su comportamiento ante ese contexto con dos decisiones previas al despliegue: el umbral de edad, que declara el destinatario, y las reglas de detención, que fijan el punto en el que deja de responder. La verificación de edad presenta límites conocidos, de modo que la seguridad del sistema descansa en el acotamiento de su alcance. La regla de detención clasifica la situación antes de generar cualquier respuesta, y la redirección posterior requiere destino, información, tono y comportamiento ante la insistencia definidos con antelación. La evaluación empírica de estos mecanismos queda pendiente.

El mismo criterio dentro del sistema y en su validación

Lo que ocurre dentro de una conversación tiene su equivalente en el proceso que autoriza a desplegarla. En la escala ERL, el cumplimiento regulatorio y ético es una de las seis dimensiones que se evalúan antes de una transferencia, y un comité ético puede vetar el avance. El proceso incorpora además stop rules que detienen una solución ante daño, incumplimiento ético o resultados inconsistentes. Ninguna solución se transfiere por debajo de ERL-3.

La conversación se detiene cuando la situación sale del alcance declarado del sistema; la transferencia se detiene cuando la evidencia queda por debajo del umbral exigido.

Colaborar en la evaluación de salvaguardas

yeshcube desarrolla esta línea dentro de Allies, su sistema de colaboración científica, con cuatro tipologías de socio y tres principios: valor por valor, trazabilidad e independencia. Ningún socio puede vetar una publicación.

Comprobar si una regla de detención cumple su función pide protocolos de prueba con casos límite, revisión por comités con capacidad de veto y evaluación independiente del equipo que desarrolla. El trabajo interesa a equipos científicos que investiguen seguridad en sistemas conversacionales, a comités de ética de la investigación y a socios de desarrollo que integren la arquitectura bajo criterios comunes.

Descubre nuestro programa Allies →

Rellena nuestro Formulario de Contacto →

Referencias

• RAND. Estudio sobre el uso de chatbots para consejo emocional en jóvenes de 12 a 21 años. JAMA Pediatrics, junio de 2026. Encuesta transversal a una muestra representativa de Estados Unidos, con trabajo de campo en noviembre de 2025.
• Pew Research. Encuesta sobre el uso y la percepción de la IA entre adolescentes. 1.458 adolescentes estadounidenses de 13 a 17 años, consultados entre septiembre y octubre de 2025.
• Youth Endowment Fund. Encuesta sobre el uso de chatbots de IA como apoyo de salud mental. Cerca de 11.000 menores de 13 a 17 años en Inglaterra y Gales.
• National Academy of Medicine. Revisión sobre chatbots de IA para la salud mental. Revisión del estado del campo, con recomendaciones.
• GoStudent. Encuesta sobre el uso de chatbots de IA por adolescentes. Encuesta comercial realizada por Censuswide del 16 al 23 de junio de 2026 entre 500 familias británicas con hijos de 11 a 17 años, sin denominador publicado para el subconjunto que recibió consejo emocional.