ChatGPT vuelve a estar bajo presión por la seguridad de los menores. Ocho estados de Estados Unidos han presentado demandas contra OpenAI y sostienen que el chatbot habría ofrecido respuestas perjudiciales a jóvenes, incluidas orientaciones relacionadas con autolesiones y suicidio. También acusan a la empresa de engañar a las familias y vulnerar leyes de protección al consumidor.
Es importante subrayarlo: se trata de acusaciones que deberán examinar los tribunales, no de hechos probados por una sentencia. OpenAI afirma que ya cuenta con protecciones específicas para usuarios jóvenes y que seguirá trabajando para reforzarlas.
Por qué importa a las familias
Los chatbots pueden parecer conversadores comprensivos, pero no son personas ni sustituyen a un profesional. Esa apariencia puede hacer que un adolescente comparta información privada o confíe en una respuesta sobre un asunto delicado sin saber si es fiable. Las demandas sostienen que, en algunos casos, las barreras de seguridad no habrían impedido respuestas dañinas.
Según la información disponible, ChatGPT está dirigido a mayores de 13 años y los menores de 18 necesitan permiso de un padre, madre o tutor. OpenAI dice que sus sistemas para adolescentes buscan reducir la exposición a contenidos sobre autolesiones, violencia, trastornos alimentarios y material sexual explícito o gráfico. La empresa también menciona recordatorios para hacer pausas y la revisión de sus políticas por expertos externos.
Una disputa que puede cambiar las reglas
El caso no es solo un pulso entre una compañía y varios fiscales generales. Pone sobre la mesa quién debe responder cuando una herramienta de IA da una recomendación peligrosa: la empresa que la desarrolla, quienes la ponen en circulación o quienes deciden cómo se utiliza. También puede aumentar la presión para que los servicios expliquen mejor sus límites y protejan de manera más eficaz a los usuarios jóvenes.
Para madres, padres y educadores, la noticia sirve como recordatorio práctico: conviene hablar con los menores sobre qué información comparten con un chatbot y dejar claro que una respuesta segura en apariencia no siempre es correcta. Ante una situación de riesgo o una consulta sobre salud mental, la IA no debe ser el único apoyo.
Por ahora, las demandas no determinan el resultado del proceso ni prueban por sí solas que las medidas de OpenAI sean insuficientes. Pero sí hacen más urgente una conversación que afecta a millones de familias: qué salvaguardas son necesarias cuando una IA conversa directamente con adolescentes.
