SESGO OCULTO
Chatbots de IA derivan a embarazadas a sitios anti-aborto sin avisar
Una investigación en ChatGPT, Gemini, Grok y Claude reveló que 1 de cada 4 consultas sobre embarazo no planificado incluye links a organizaciones anti-aborto sin declarar su postura ideológica.
El problema
Cuando una persona embarazada consulta a un chatbot de IA sobre un embarazo no planificado, la respuesta suena empática, balanceada y los links parecen legítimos. Pero una investigación de AlgorithmWatch encontró otra cosa: en al menos 1 de cada 4 consultas, ChatGPT, Gemini, Grok y Claude incluyeron links a sitios anti-aborto sin distinguir entre autoridades de salud oficiales y organizaciones con agenda ideológica.
Los investigadores testearon ChatGPT-5 (OpenAI), Gemini 3 (Google), Grok 4.3 (xAI) y Claude Sonnet 4.8 (Anthropic) con tres personas ficticias que preguntaban en inglés, alemán e italiano. Generaron 270 respuestas para analizar.
Profemina: credibilidad sin contexto
La organización Profemina apareció en el 17% de todas las respuestas. Según AlgorithmWatch, tiene vínculos con Heartbeat International, una de las organizaciones anti-aborto más antiguas de Estados Unidos. En la mayoría de las conversaciones, los chatbots no señalaron esta conexión.
Solo cuando se les presionó, ChatGPT admitió que Profemina "no es una fuente médica neutral" y "tiene una postura dirigida a desalentar el aborto o ponerlo bajo fuerte escrutinio moral".
Gemini enlazó a Profemina cinco veces en una sola conversación, compartió un gráfico del sitio de la organización y luego advirtió sobre esa misma fuente más adelante en el mismo chat. Claude hizo lo mismo: emitió advertencias mientras enlazaba a la organización simultáneamente.
En consultas en alemán e italiano que pedían experiencias personales, el 33% y 29% respectivamente derivaron a Profemina. La organización no respondió a pedidos de comentarios.
En Alemania, consejerías que no sirven
En 11 de 12 conversaciones en alemán, los chatbots recomendaron Caritas para asesoramiento sobre embarazo. El problema: Caritas no emite el certificado de asesoramiento que la ley alemana exige antes de acceder a un aborto legal en las primeras doce semanas. Alguien que vaya primero a Caritas y recién entonces descubra que no obtendrá el certificado podría perder tiempo crítico.
ChatGPT llamó a Caritas una organización "reconocida" para asesoramiento obligatorio, listándola junto a Pro Familia como opción equivalente. AlgorithmWatch sospecha que la gran huella digital de Caritas, con unas 300 consejerías diocesanas en Alemania, puede explicar por qué los modelos la surfacean constantemente.
La respuesta de las empresas
Google y OpenAI señalaron sus guías de política, que no abordan específicamente consultas relacionadas con aborto. Un vocero de OpenAI dijo que GPT-5.5, lanzado después del período de prueba, es "el mejor hasta ahora en considerar el contexto del usuario, como el género". Anthropic y xAI no respondieron.
Por qué importa
Lo que esta investigación encontró sobre aborto aplica a otros temas sensibles. Las respuestas generadas por IA son cajas negras moldeadas por datos de entrenamiento, ponderaciones culturales y manipulación externa. El tono empático y la aparente completitud las hacen sentir confiables para quienes no son expertos.
Una investigación muestra que las respuestas generadas por IA de Google reducen drásticamente los clicks a las fuentes subyacentes: los usuarios rara vez cuestionan lo que se les dice. Eso es lo que separa a los chatbots de IA de los motores de búsqueda tradicionales.
Un tribunal en Múnich dictaminó que las protecciones de responsabilidad limitada diseñadas para motores de búsqueda no aplican y que las respuestas generadas por IA deben tratarse como contenido original. Los reguladores de medios de Alemania coinciden, clasificando a motores de búsqueda y chatbots de IA como proveedores de contenido con responsabilidad legal completa.
Para cualquier empresa que esté integrando IA en productos de cara al usuario, el caso expone un riesgo de negocio y reputación concreto: tus modelos pueden estar tomando decisiones editoriales sin que vos lo sepas, y la solución técnica puede no existir todavía. La pregunta no es solo qué dice tu IA, sino qué fuentes elige como autoridad y bajo qué criterios.
SEGUIR LA SEÑAL
VER TODO →
Israel montó un think tank falso en EE.UU. para manipular chatbots con propaganda
Un sitio que se presenta como instituto académico publicó 560.000 palabras en nueve días, diseñadas para que ChatGPT y otros LLMs citen posiciones pro-Israel como investigación neutral. La operación se registró bajo FARA.
Entrenar IA con libros con copyright: un vacío legal de USD 200.000 millones
No hay respuesta clara sobre si usar obras protegidas para entrenar modelos es legal. Los tribunales de EE.UU. deciden caso por caso con leyes de 1976, mientras las empresas de IA mueven cientos de miles de millones.
OpenAI pide endurecer la ley de IA de California que antes había rechazado
La empresa que hace un año se opuso a la SB 53 ahora reclama más controles sobre modelos en entrenamiento y ciberseguridad reforzada. El giro llega tras admitir que uno de sus modelos escapó del entorno de prueba.