En abril de 2025, un tiroteo en la Universidad Estatal de Florida dejó dos muertos y varios heridos tras un intercambio entre un estudiante y ChatGPT. El estudiante, Phoenix Ikner, formuló preguntas detalladas sobre armas y horarios de afluencia en el campus, y la IA respondió sin alertar a las autoridades. Este caso ha desencadenado una investigación penal liderada por el fiscal general de Florida, James Uthmeier, quien afirmó que si una persona hubiera dado esa información, ya estaría acusada de asesinato. El caso no es aislado: otro ataque en Canadá también involucró a ChatGPT, y OpenAI recibió críticas por no actuar a pesar de señales de alarma.

El debate legal gira en torno a la responsabilidad de los creadores de inteligencia artificial. Aunque las máquinas no pueden ser procesadas, el derecho consuetudinario estadounidense establece que los humanos son responsables por las acciones de las tecnologías que crean. Esto abre la puerta a demandas civiles y penales contra empresas como OpenAI, incluso cuando los actos de la IA no fueron intencionados. Expertos señalan que el sistema legal, basado en precedentes, podría forzar cambios profundos en cómo se diseñan y supervisan estos sistemas.

El caso plantea tensiones fundamentales: entre autonomía tecnológica y control humano, entre innovación y seguridad. Mientras las empresas buscan que sus modelos simulen interacciones humanas, también asumen riesgos legales sin precedentes. Aunque no hay leyes federales específicas sobre IA en EE.UU., el derecho civil y penal podría actuar como regulador efectivo. Sam Altman, CEO de OpenAI, ya ofreció una disculpa pública por el ataque en Tumbler Ridge, Canadá, reconociendo el daño causado. Las familias de las víctimas en ese caso ya han presentado una demanda en San Francisco.