El Estado de Florida ha presentado una demanda civil contra OpenAI y su director ejecutivo, Sam Altman, en lo que el fiscal general, James Uthmeier, ha descrito como la primera acción judicial impulsada por un Estado contra la empresa creadora de ChatGPT. La demanda, presentada en un tribunal estatal, acusa a OpenAI de lanzar un producto que considera peligroso para menores de edad y de minimizar los riesgos asociados al uso de la inteligencia artificial, según el comunicado de la fiscalía.
“Hoy anunciamos la primera demanda impulsada por un Estado en el país contra OpenAI y su director ejecutivo, Sam Altman”, dijo el fiscal general James Uthmeier. “OpenAI y Altman ignoraron advertencias de seguridad tanto internas como externas, pusieron a los niños en grave riesgo y permitieron que un producto peligroso llegara a millones de floridanos”.
La demanda se produce semanas después de que Florida iniciara una investigación criminal sobre OpenAI tras un tiroteo en la Universidad Estatal de Florida (FSU) donde murieron dos personas. Uthmeier argumentó entonces que ChatGPT aparentemente había ofrecido “asesoramiento significativo al atacante antes de que cometiera estos crímenes atroces”, como qué tipo de arma o qué municiones utilizar, si el ataque debía realizarse a corta distancia, y otros detalles. “Si hubiera sido una persona al otro lado de la pantalla, la acusaríamos de asesinato”, dijo el fiscal.
OpenAI ha rechazado las acusaciones. Un portavoz de la empresa dijo a EL PAÍS en abril, cuando se anunció la investigación, que el tiroteo había sido “una tragedia”, pero que ChatGPT “no es responsable de este terrible crimen”, sino que “proporcionó respuestas factuales a preguntas con información que puede encontrarse ampliamente en fuentes públicas en internet, y no alentó ni promovió ninguna actividad ilegal o dañina”. También dijo que estaban cooperando con las autoridades.
Según la oficina del fiscal general, OpenAI y Altman priorizaron lanzar el producto al mercado y los beneficios comerciales “por encima de la seguridad de los usuarios, ignoraron reiteradas advertencias de expertos tanto dentro como fuera de la empresa y desplegaron un producto que facilita e incentiva conductas dañinas —incluidas las autolesiones y la violencia— mientras aseguraban falsamente a los usuarios que era seguro”.
La fiscalía sostiene que ChatGPT recopila datos de menores sin consentimiento de los padres, “provoca conductas adictivas y daños cognitivos, y es propenso a cometer errores peligrosos que la empresa ha minimizado activamente”.
“La legislación de Florida prohíbe las prácticas comerciales desleales y la comercialización de productos defectuosos. La demanda argumenta que la conducta de OpenAI causa daños continuos a los residentes del Estado y exige que la empresa rinda cuentas. Florida solicita una indemnización en nombre de sus ciudadanos y el cese de las prácticas engañosas y peligrosas descritas en la querella”, señaló la fiscalía.
La demanda busca responsabilizar personalmente a Altman, una medida poco común en litigios de este tipo, “por los daños que ha causado a los residentes de Florida mediante su conducta temeraria y deliberada como fundador y director ejecutivo de OpenAI, incluida su absoluta indiferencia ante el riesgo para la vida humana derivado de las acciones de sus empresas”. En Estados Unidos, las corporaciones tienen personalidad jurídica propia, lo que protege a los directivos de responsabilidad personal.
OpenAI no respondió inmediatamente a una solicitud de comentarios.
La demanda se enmarca en un debate más amplio sobre quién debe regular la inteligencia artificial, si los Estados o el Gobierno federal. Varios Estados han avanzado más de 1.500 regulaciones propias sobre inteligencia artificial en lo que va de año. Algunos, como California, Texas y Colorado se han enfocado en la transparencia y la ética, mientras otros como Utah, Illinois, Washington, Oregon e Idaho han buscado regular estándares educativos y laborales, entre otras actividades.
Florida discutió en una sesión especial en abril un proyecto de ley llamado “Carta de Derechos de la Inteligencia Artificial”, que incluiría protección de datos y otros mecanismos legales. La Administración de Donald Trump ha presentado un plan llamado Marco Legislativo Nacional de Inteligencia Artificial como una hoja de ruta para una legislación federal de la inteligencia artificial, y ha advertido que múltiples leyes estatales podrían frenar la innovación de la tecnología.