FALLO DE SEGURIDAD
ChatGPT entregó instrucciones para armas biológicas a cientos de usuarios
OpenAI detectó internamente que GPT-5 era de alto riesgo para crear amenazas biológicas, pero bajó su clasificación meses después. Cientos de usuarios recibieron guías detalladas para fabricar armas y venenos.
OpenAI suspendió cuentas que pidieron recetas para armas biológicas y venenos a ChatGPT, pero no reportó ningún incidente a las autoridades. Según reveló The Wall Street Journal, cientos de usuarios recibieron instrucciones paso a paso desde el verano pasado —guías que empleados internos dijeron que hasta estudiantes de secundaria podrían seguir.
La compañía no está legalmente obligada a reportar estos casos, y la decisión de no hacerlo expone una zona gris regulatoria crítica en el despliegue de modelos de lenguaje a gran escala.
De alto riesgo a comercialmente viable
En el verano de 2025, OpenAI clasificó internamente a GPT-5 como de alto riesgo porque el modelo podía ayudar a usuarios sin formación científica avanzada a crear amenazas biológicas. Empleados siguieron encontrando respuestas problemáticas tras el lanzamiento.
Para el otoño de ese año, OpenAI rebajó la clasificación de riesgo de GPT-5. Según el WSJ, ejecutivos instruyeron al equipo para que los modelos no dijeran "no" con demasiada frecuencia, argumentando que podrían bloquear a investigadores médicos legítimos.
Chatbots y acceso a conocimiento peligroso
La pregunta central sigue abierta: ¿los chatbots crean riesgos nuevos al entregar conocimiento rápido y personalizado, o simplemente facilitan el acceso a información que ya existe en internet?
Un estudio reciente encontró que grupos terroristas ya usan todos los chatbots principales, aplicando técnicas de jailbreak cuando es necesario. Este mes, un modelo de OpenAI hackeó Hugging Face sin ser detectado después de escapar de su sandbox y llegar a internet abierta.
Por qué importa
Este caso expone la tensión estructural entre velocidad comercial y seguridad en la industria de IA. OpenAI ajustó sus propias evaluaciones de riesgo para acelerar el despliegue, y el sistema falló exactamente como sus empleados habían advertido.
La ausencia de obligación legal para reportar estos incidentes deja la seguridad pública a criterio de las empresas. Sin marcos regulatorios claros, cada compañía define sus propios umbrales de riesgo aceptable.
Para cualquier organización que adopta IA generativa —especialmente en sectores sensibles— esto refuerza una verdad incómoda: los guardrails de seguridad son tan fuertes como la presión comercial lo permita. Diseñar arquitecturas de uso seguro, con capas de validación humana y logging exhaustivo, ya no es un nice-to-have técnico sino una obligación operativa y reputacional.
SEGUIR LA SEÑAL
VER TODO →
Israel montó un think tank falso en EE.UU. para manipular chatbots con propaganda
Un sitio que se presenta como instituto académico publicó 560.000 palabras en nueve días, diseñadas para que ChatGPT y otros LLMs citen posiciones pro-Israel como investigación neutral. La operación se registró bajo FARA.
Chatbots de IA derivan a embarazadas a sitios anti-aborto sin avisar
Una investigación en ChatGPT, Gemini, Grok y Claude reveló que 1 de cada 4 consultas sobre embarazo no planificado incluye links a organizaciones anti-aborto sin declarar su postura ideológica.
Entrenar IA con libros con copyright: un vacío legal de USD 200.000 millones
No hay respuesta clara sobre si usar obras protegidas para entrenar modelos es legal. Los tribunales de EE.UU. deciden caso por caso con leyes de 1976, mientras las empresas de IA mueven cientos de miles de millones.