SESGO OCULTO
Chatbots de IA derivan a embarazadas a sitios anti-aborto sin avisar
Una investigación en ChatGPT, Gemini, Grok y Claude reveló que 1 de cada 4 consultas sobre embarazo no planificado incluye links a organizaciones anti-aborto sin declarar su postura ideológica.
El problema
Cuando una persona embarazada consulta a un chatbot de IA sobre un embarazo no planificado, la respuesta suena empática, balanceada y los links parecen legítimos. Pero una investigación de AlgorithmWatch encontró otra cosa: en al menos 1 de cada 4 consultas, ChatGPT, Gemini, Grok y Claude incluyeron links a sitios anti-aborto sin distinguir entre autoridades de salud oficiales y organizaciones con agenda ideológica.
Los investigadores testearon ChatGPT-5 (OpenAI), Gemini 3 (Google), Grok 4.3 (xAI) y Claude Sonnet 4.8 (Anthropic) con tres personas ficticias que preguntaban en inglés, alemán e italiano. Generaron 270 respuestas para analizar.
Profemina: credibilidad sin contexto
La organización Profemina apareció en el 17% de todas las respuestas. Según AlgorithmWatch, tiene vínculos con Heartbeat International, una de las organizaciones anti-aborto más antiguas de Estados Unidos. En la mayoría de las conversaciones, los chatbots no señalaron esta conexión.
Solo cuando se les presionó, ChatGPT admitió que Profemina "no es una fuente médica neutral" y "tiene una postura dirigida a desalentar el aborto o ponerlo bajo fuerte escrutinio moral".
Gemini enlazó a Profemina cinco veces en una sola conversación, compartió un gráfico del sitio de la organización y luego advirtió sobre esa misma fuente más adelante en el mismo chat. Claude hizo lo mismo: emitió advertencias mientras enlazaba a la organización simultáneamente.
En consultas en alemán e italiano que pedían experiencias personales, el 33% y 29% respectivamente derivaron a Profemina. La organización no respondió a pedidos de comentarios.
En Alemania, consejerías que no sirven
En 11 de 12 conversaciones en alemán, los chatbots recomendaron Caritas para asesoramiento sobre embarazo. El problema: Caritas no emite el certificado de asesoramiento que la ley alemana exige antes de acceder a un aborto legal en las primeras doce semanas. Alguien que vaya primero a Caritas y recién entonces descubra que no obtendrá el certificado podría perder tiempo crítico.
ChatGPT llamó a Caritas una organización "reconocida" para asesoramiento obligatorio, listándola junto a Pro Familia como opción equivalente. AlgorithmWatch sospecha que la gran huella digital de Caritas, con unas 300 consejerías diocesanas en Alemania, puede explicar por qué los modelos la surfacean constantemente.
La respuesta de las empresas
Google y OpenAI señalaron sus guías de política, que no abordan específicamente consultas relacionadas con aborto. Un vocero de OpenAI dijo que GPT-5.5, lanzado después del período de prueba, es "el mejor hasta ahora en considerar el contexto del usuario, como el género". Anthropic y xAI no respondieron.
Por qué importa
Lo que esta investigación encontró sobre aborto aplica a otros temas sensibles. Las respuestas generadas por IA son cajas negras moldeadas por datos de entrenamiento, ponderaciones culturales y manipulación externa. El tono empático y la aparente completitud las hacen sentir confiables para quienes no son expertos.
Una investigación muestra que las respuestas generadas por IA de Google reducen drásticamente los clicks a las fuentes subyacentes: los usuarios rara vez cuestionan lo que se les dice. Eso es lo que separa a los chatbots de IA de los motores de búsqueda tradicionales.
Un tribunal en Múnich dictaminó que las protecciones de responsabilidad limitada diseñadas para motores de búsqueda no aplican y que las respuestas generadas por IA deben tratarse como contenido original. Los reguladores de medios de Alemania coinciden, clasificando a motores de búsqueda y chatbots de IA como proveedores de contenido con responsabilidad legal completa.
Para cualquier empresa que esté integrando IA en productos de cara al usuario, el caso expone un riesgo de negocio y reputación concreto: tus modelos pueden estar tomando decisiones editoriales sin que vos lo sepas, y la solución técnica puede no existir todavía. La pregunta no es solo qué dice tu IA, sino qué fuentes elige como autoridad y bajo qué criterios.
SEGUIR LA SEÑAL
VER TODO →
El Departamento de Justicia de EE.UU. respalda el uso justo en entrenamiento de IA
En la demanda del New York Times contra OpenAI y Microsoft, el DOJ argumenta que entrenar modelos con material protegido es uso justo. La distinción clave: copiar para entrenar no es lo mismo que el output del modelo.
Sony demanda a Anthropic por piratería masiva de letras y partituras musicales
Sellos como Sony, EMI y Warner acusan a Anthropic de descargar ilegalmente miles de composiciones vía torrents. Chats internos revelan que empleados celebraron el acceso a bibliotecas piratas como Z-Library.
Estados Unidos bloquea drones y robots chinos, pero la escala jugará a favor de Beijing
Washington impuso aranceles y restricciones a drones y robots extranjeros por seguridad nacional. El problema: China fabrica el 86% de los humanoides del mundo y puede vender en el resto del planeta mientras EE.UU. recién empieza a escalar.