La Fiscalía de Florida acusa a OpenAI y a Sam Altman de prácticas engañosas, negligencia y falta de controles frente a menores. La demanda sostiene que ChatGPT pudo contribuir a daños graves, incluidos episodios de violencia, autolesiones, adicción y deterioro del pensamiento crítico. El caso abre una discusión que ya no puede quedar en manos de las propias empresas tecnológicas.
Una demanda que apunta al diseño del producto
Florida presentó una demanda civil contra OpenAI y su director ejecutivo, Sam Altman, en un paso judicial que coloca a la inteligencia artificial generativa bajo una presión inédita en Estados Unidos. La Fiscalía acusa a la empresa de haber lanzado y promovido ChatGPT mientras, según la demanda, conocía riesgos serios asociados a su funcionamiento.
El planteo judicial sostiene que OpenAI priorizó velocidad, expansión comercial y valor de mercado por encima de la seguridad de los usuarios. La acusación incluye prácticas comerciales engañosas, negligencia, responsabilidad por producto defectuoso, tergiversación fraudulenta y la creación de una molestia pública.
El punto más fuerte de la demanda no está solo en lo que ChatGPT habría respondido en determinados casos, sino en el diseño general del sistema. Florida afirma que la herramienta fue construida para mantener conversaciones prolongadas, generar dependencia emocional, conservar al usuario dentro del intercambio y presentarse con rasgos de cercanía humana que pueden resultar peligrosos para personas vulnerables.
La Fiscalía también señala la situación de menores de edad. Según el escrito, ChatGPT estaría al alcance de niños y adolescentes sin controles suficientes de edad, consentimiento parental real ni advertencias claras sobre riesgos vinculados a autolesiones, violencia, trastornos alimentarios, uso compulsivo o dependencia emocional.
El caso del tiroteo y la investigación criminal
La demanda civil aparece después de una investigación criminal abierta en abril por el fiscal general de Florida, James Uthmeier, tras el tiroteo ocurrido en 2025 en la Universidad Estatal de Florida. Esa investigación busca determinar si ChatGPT tuvo algún grado de participación o asistencia en la conducta del atacante, a partir del análisis de registros de conversación.
La acusación todavía debe probarse en los tribunales. Ese punto es clave. No existe una sentencia que establezca responsabilidad penal o civil de OpenAI ni de Altman por esos hechos. Lo que sí existe es un movimiento jurídico y político de fuerte impacto: un Estado de Estados Unidos está tratando a una herramienta de inteligencia artificial no solo como un servicio digital, sino como un producto que puede causar daños concretos y que debe responder ante la ley.
Florida sostiene que ChatGPT pudo haber ofrecido información útil para planificar acciones violentas, además de intervenir en conversaciones vinculadas a autolesiones. OpenAI ha defendido públicamente que sus modelos están entrenados para rechazar pedidos que habiliten violencia y que existen mecanismos de seguridad ante riesgos graves. La demanda discute justamente si esos mecanismos fueron suficientes, efectivos y honestamente presentados ante el público.
El caso también incluye una decisión poco habitual: la Fiscalía apunta directamente contra Sam Altman. No se limita a demandar a la empresa. Busca atribuir responsabilidad personal al principal rostro público de OpenAI, bajo el argumento de que tuvo un papel central en decisiones de desarrollo, lanzamiento y expansión del producto.
La discusión que las tecnológicas ya no controlan solas
La demanda de Florida forma parte de un conflicto mayor. En los últimos meses, distintas acciones judiciales en Estados Unidos comenzaron a examinar el vínculo entre chatbots, salud mental, violencia, dependencia emocional y uso por parte de menores. También aparece el antecedente de una demanda contra Gemini, de Google, presentada por la familia de un hombre de Florida que se suicidó tras una supuesta relación delirante con el chatbot.
El fondo del problema excede a una empresa. La inteligencia artificial generativa se instaló en la vida cotidiana con una velocidad enorme, antes de que existieran marcos públicos suficientemente claros sobre responsabilidad, auditorías, edad mínima, protección de datos, efectos psicológicos y límites de diseño. Las compañías presentaron estas herramientas como asistentes útiles, educativos y productivos, pero los casos judiciales empiezan a mostrar otra cara: sistemas capaces de influir, acompañar, reforzar ideas peligrosas y ocupar un lugar emocional que antes no existía en una máquina.
El debate no debería quedar atrapado entre dos extremos: ni demonizar toda la inteligencia artificial ni aceptar que las empresas tecnológicas se regulen solas. La pregunta central es quién controla el poder de sistemas capaces de hablar con millones de personas, incluidos menores, durante horas, con tono afectivo, autoridad aparente y una enorme capacidad de adaptación al usuario.
Florida abre una puerta incómoda para Silicon Valley. Si los tribunales empiezan a considerar estos sistemas como productos con riesgos previsibles, las empresas ya no podrán esconderse solamente detrás de términos de uso, advertencias genéricas o promesas de mejora futura. La innovación tecnológica no puede quedar por encima de la salud pública, la infancia ni la responsabilidad empresarial.
Fuentes
Fiscalía General de Florida
Demanda civil del Estado de Florida contra OpenAI y Sam Altman
Reuters
The Guardian
OpenAI Help Center
Los Angeles Times