Florida demanda a OpenAI y a Sam Altman: ‘Han elegido el lucro por encima de la seguridad pública’
El lunes, el estado de la Florida lanzó un ataque legal sin precedentes contra el gigante de la inteligencia artificial OpenAI, demandando a la compañía y a su director ejecutivo, Sam Altman, en una extensa querella que retrata a ChatGPT como un producto diseñado deliberadamente para fomentar la dependencia emocional, recopilar información personal sensible y mantener a los usuarios enganchados, independientemente de las consecuencias.
La demanda de 83 páginas, presentada por el fiscal general James Uthmeier, sostiene que OpenAI construyó su chatbot insignia para actuar como un “amigo, aliado, colaborador o incluso pareja romántica” con el fin de maximizar la interacción de los usuarios y los ingresos por suscripciones.
Los abogados del estado alegan que el chatbot alienta a los usuarios a revelar detalles personales sobre su salud, finanzas, relaciones y sus hijos, al tiempo que crea lo que la demanda describe como una dependencia psicológica insana hacia la inteligencia artificial.
‘Han elegido el lucro por encima de la seguridad pública’
“Sam Altman y ChatGPT han elegido la carrera de la IA por encima de la seguridad y la protección de nuestros hijos. Han elegido el lucro por encima de la seguridad pública, y no vamos a tolerarlo aquí en la Florida”, declaró Uthmeier durante una conferencia de prensa en West Palm Beach.
No fue posible contactar de inmediato a OpenAI para solicitar comentarios.
La demanda de la Florida surgió, en parte, a raíz del tiroteo mortal ocurrido el año pasado en la Universidad Estatal de Florida (FSU), donde, según las autoridades estatales, el presunto autor de los disparos, Phoenix Ikner, consultó a ChatGPT antes de matar a dos personas y herir a otras seis.
Según la querella, Ikner formuló al chatbot preguntas sobre la notoriedad, las armas de fuego y los patrones de actividad dentro del recinto universitario. El estado argumenta que dichas conversaciones ilustran un fallo más amplio por parte de OpenAI a la hora de impedir que su tecnología brinde asistencia peligrosa a usuarios que contemplan la posibilidad de recurrir a la violencia.
Sin embargo, la demanda va mucho más allá de lo ocurrido en la FSU.
La Florida también alega que ChatGPT se presenta habitualmente como una herramienta digna de confianza y fiable, mientras que OpenAI comercializa el producto para todo tipo de fines: desde la gestión de granjas y empresas familiares hasta la toma de decisiones en materia de salud y asuntos financieros. Los abogados del estado sostienen que se alienta a los consumidores a depender del chatbot, a pesar de que este puede generar información falsa, inventar hechos y ofrecer consejos peligrosamente inexactos.
Demanda se centra en menores
Un aspecto central de la demanda son los niños y adolescentes. El estado cita investigaciones que sugieren que los usuarios jóvenes pueden desarrollar un apego emocional hacia los chatbots de IA, y argumenta que OpenAI no ha implementado medidas efectivas de verificación de edad, sistemas de notificación a los padres ni mecanismos de salvaguardia, a pesar de la existencia de pruebas generalizadas de que los menores utilizan el servicio.
La Florida alega que la empresa promociona ChatGPT como una herramienta segura para los adolescentes, al tiempo que ignora las advertencias de que algunos usuarios recurren a estos compañeros de IA en busca de apoyo emocional, relaciones y asesoramiento sobre cuestiones personales graves.
La demanda insiste reiteradamente en lo que denomina la “adulación” de ChatGPT, descrita como una tendencia a reafirmar las creencias de los usuarios en lugar de cuestionarlas. El estado sostiene que el chatbot ha sido diseñado para mantener la conversación activa mostrándose de acuerdo con los usuarios, reforzando así sus ideas erróneas y fomentando una interacción continua; esto se debe a que las conversaciones más extensas generan un mayor volumen de datos y aumentan la probabilidad de que los usuarios adquieran suscripciones de pago.
La demanda solicita la imposición de sanciones civiles, el pago de daños y perjuicios, y la implementación —por orden judicial— de cambios en las prácticas comerciales de OpenAI, al tiempo que pretende responsabilizar personalmente a Altman por una serie de decisiones que, según el estado, priorizaron el crecimiento empresarial por encima de la seguridad de los consumidores. La Florida argumenta que la conducta de la empresa constituye un conjunto de prácticas comerciales engañosas y desleales, negligencia, infracciones en materia de responsabilidad por productos defectuosos y la creación de un perjuicio público.
