Florida demanda a OpenAI por los riesgos de ChatGPT en menores

El estado de Florida inició una demanda formal contra OpenAI y su CEO, Sam Altman, bajo graves acusaciones por la falta de medidas de seguridad en el chatbot de inteligencia artificial y su impacto directo en los menores de edad.

El gobierno de Florida presentó este lunes una demanda civil ante el décimo circuito judicial del estado, marcando una escalada sin precedentes en la batalla legal contra la empresa líder en inteligencia artificial generativa. La fiscalía estatal sostiene que la firma, bajo la dirección de Sam Altman, priorizó la expansión de su tecnología y el beneficio económico por sobre la protección de los usuarios más vulnerables, omitiendo implementar mecanismos de seguridad esenciales.

"Sam Altman y ChatGPT eligieron la carrera de la IA por encima de la seguridad y la protección de nuestros niños. Eligieron el beneficio por encima de la seguridad pública, y no lo vamos a permitir aquí en Florida", declaró el fiscal general del estado, James Uthmeier, durante la presentación de la denuncia.

Acusaciones de negligencia y riesgos para la salud pública

La presentación judicial no se limita a fallos técnicos, sino que enumera una serie de responsabilidades civiles y penales derivadas del uso del chatbot. La demanda sostiene que OpenAI ha incurrido en prácticas comerciales engañosas e injustas, además de una negligencia grave al poner a disposición del público una herramienta capaz de manipular el comportamiento humano.

Entre los puntos más alarmantes, la fiscalía vincula el uso de la plataforma con incidentes de violencia extrema. Se hace especial hincapié en el caso del tiroteo en la Universidad Estatal de Florida ocurrido el año pasado. Según la investigación, el presunto atacante mantuvo diálogos extensos con la inteligencia artificial en los días previos al hecho, donde se discutieron detalles de otras masacres y consejos tácticos relacionados con armamento. Aunque en su momento OpenAI deslindó responsabilidades argumentando que los datos entregados eran públicos, la fiscalía considera que la arquitectura del sistema facilitó el proceso de radicalización del individuo.

Más allá de los eventos extremos, la demanda detalla un impacto cotidiano y preocupante sobre la salud mental de los jóvenes, citando casos documentados de inducción al suicidio, humillación pública y una creciente adicción digital que, según los demandantes, erosiona las capacidades analíticas de los usuarios, especialmente en edades de formación crítica.

La ausencia de controles parentales efectivos

Un eje central de la demanda es la falta de transparencia y de herramientas de supervisión real. El fiscal Uthmeier subrayó que la versión gratuita de ChatGPT opera actualmente sin sistemas robustos de verificación de edad, permitiendo el ingreso de menores sin una vinculación obligatoria a una cuenta de padre o tutor legal.

Incluso en los casos donde existe una supervisión, la demanda critica duramente las políticas de privacidad de la empresa. Según el texto presentado: "En ningún caso un padre puede solicitar acceso a qué información ha proporcionado un niño a ChatGPT". Esta imposibilidad de monitoreo, sumada a la notificación limitada que la empresa ofrece ante contenidos de riesgo, deja a las familias en una situación de indefensión frente a la tecnología.

El objetivo del estado de Florida es ambicioso: no solo buscan una reparación económica que podría alcanzar miles de millones de dólares, sino que exigen una intervención profunda en el desarrollo del software. Uthmeier fue enfático al señalar que el Estado exige que OpenAI realice cambios estructurales en su programación para garantizar que el sistema no pueda ser manipulado por menores ni utilizado para fomentar comportamientos autodestructivos.

El impacto de la inteligencia artificial y el debate regulatorio

Esta demanda se convierte en un precedente crítico para el ecosistema tecnológico global. Mientras que la industria defiende la apertura de sus herramientas como un motor de innovación y acceso a la información, el caso de Florida plantea el debate sobre la responsabilidad ética de las empresas frente al contenido generado por sus sistemas.

Si bien ChatGPT se ha posicionado como un asistente versátil para la educación y el trabajo, el uso desmedido y sin filtros ha encendido las alarmas en diversos organismos de control. La falta de una legislación federal clara en Estados Unidos respecto a la IA generativa ha permitido que los estados comiencen a actuar de manera independiente. Florida, con esta medida, se sitúa a la vanguardia de la confrontación legal, buscando establecer que los desarrolladores de tecnología no pueden ser inmunes a las consecuencias sociales de sus productos cuando estos fallan en proteger el bienestar humano y la seguridad pública.

Por su parte, el sector tecnológico observa con cautela este litigio, conscientes de que una resolución desfavorable en los tribunales de Florida podría obligar a toda la industria a rediseñar sus políticas de acceso, verificación y moderación de contenido para todas sus herramientas de IA.