Artificial intelligence (AI) is revolutionizing the sector of surveys and market research, introducing advanced tools at every stage of the process. These innovations promise greater efficiency, automation, and accuracy, but they also raise important ethical and methodological questions. In this article, we will examine the current technical and methodological limitations, the main ethical issues, and the existing guidelines and regulations (from the GDPR to the European AI Act, up to the ESOMAR guidelines) for the responsible use of AI in research.

Limitaciones tecnológicas y metodológicas actuales

A pesar de las promesas, las aplicaciones actuales de la IA en las encuestas siguen presentando limitaciones significativas, tanto tecnológicas como metodológicas:

 

  • Sesgo del modelo:

    Los sistemas de IA aprenden a partir de los datos con los que se entrenan y, de manera inevitable, heredan sus sesgos. Los modelos de lenguaje generativo pueden reproducir sesgos culturales o estereotipos presentes en sus textos de entrenamiento, con el riesgo de perpetuar estas distorsiones en las preguntas o los análisis que producen. Por ejemplo, una IA podría formular preguntas de manera diferente (o menos adecuada) para determinados subgrupos demográficos, reflejando ideas preconcebidas integradas en datos históricos. Esto plantea un problema metodológico serio: ¿cómo podemos garantizar que la IA sea justa y representativa? Incluso con técnicas de fine-tuning, los LLM pueden no captar con precisión los matices de las opiniones de los grupos infrarrepresentados. Por ello, los investigadores deben aplicar controles y validaciones rigurosos para detectar y eliminar sesgos en el contenido generado por IA. Tanto en el ámbito académico como en el industrial, se están explorando enfoques como el uso de varios modelos de IA en paralelo (incluidos modelos de código abierto) para comparar resultados y reducir el riesgo de que los sesgos de un único algoritmo influyan en las conclusiones.

  • Calidad y significatividad de los datos:

    La IA no puede hacer milagros con los datos en bruto: el principio “garbage in, garbage out” sigue siendo válido. Si los datos recogidos son de baja calidad o no son representativos, incluso el algoritmo más sofisticado producirá resultados poco fiables. Por ejemplo, datos de entrenamiento incompletos o desequilibrados limitarán la capacidad predictiva de un modelo y podrán introducir errores sistemáticos. También se ha observado que las respuestas sintéticas generadas por los LLM (cuando se usan para simular encuestados) tienden a ser demasiado uniformes y “limpias” en comparación con respuestas humanas reales, perdiendo la rica variabilidad que caracteriza a los datos cualitativos auténticos. Esto significa que la IA puede tener dificultades para reproducir la complejidad y el desorden del comportamiento humano, con el riesgo de simplificar en exceso fenómenos complejos. Desde un punto de vista metodológico, sigue siendo esencial contar con conjuntos de datos sólidos y pertinentes: las directrices también recomiendan equilibrar la minimización de datos (para proteger la privacidad) con la necesidad de utilizar conjuntos de datos lo suficientemente amplios y diversos para entrenar modelos fiables, garantizar la equidad y reducir sesgos. La IA potencia el análisis, pero no sustituye la necesidad de datos de calidad y de diseños de investigación robustos.

  • Opacidad algorítmica y reproducibilidad:

    Muchos sistemas de IA, especialmente los basados en deep learning, funcionan como “cajas negras” cuyo funcionamiento interno no es transparente. Esto genera problemas de opacidad: los investigadores no siempre pueden explicar por qué un algoritmo llegó a una determinada conclusión o en qué se basó para segmentar a los encuestados. Además, la salida de un modelo de IA puede variar con el tiempo: por ejemplo, al actualizar o reentrenar un LLM, las respuestas generadas con el mismo input pueden cambiar, lo que dificulta replicar exactamente un resultado anterior. Esto entra en conflicto con los principios clásicos de la replicabilidad científica. Si un análisis está guiado por un modelo inestable o mal documentado, resulta difícil que otros investigadores verifiquen o reproduzcan los resultados con el paso del tiempo. Incluso en el ámbito operativo, la opacidad complica el cumplimiento y la aprobación: ¿cómo tranquilizar a un cliente sobre la validez de un insight si no se puede describir con claridad el proceso mediante el cual se obtuvo? Las organizaciones deberán invertir en soluciones de IA explicable y en la documentación de los procesos algorítmicos (versiones de los modelos utilizados, parámetros, datos de entrenamiento) para mejorar la transparencia. En algunos casos, puede ser necesario evitar modelos excesivamente opacos cuando se requiere una explicabilidad completa. En cualquier caso, es esencial tener en cuenta estas limitaciones y usar la IA con cautela, manteniendo una supervisión humana y metodológica rigurosa.

Cuestiones éticas en el uso de la IA en las encuestas

Más allá de las limitaciones técnicas, el uso generalizado de la IA en la investigación plantea importantes cuestiones éticas que los profesionales deben considerar con atención:

  • Protección de los datos personales:

    Las encuestas suelen recopilar datos personales (datos demográficos, opiniones, comportamientos), y la IA añade un nivel adicional de atención en lo relativo a su protección. El principio clave es que las tecnologías de IA deben cumplir plenamente con normativas de privacidad como el GDPR. Esto implica adoptar medidas de seguridad adecuadas, minimizar los datos tratados y anonimizar o seudonimizar la información cuando sea posible. El cumplimiento del GDPR no es opcional; es necesario para garantizar la integridad, la transparencia y la responsabilidad en las prácticas de investigación, y para proteger los derechos de los interesados. Quienes realizan investigación impulsada por IA deben asegurarse de que los datos personales de los encuestados no queden expuestos de forma indebida a sistemas de IA externos o inseguros. Por ejemplo, si se utilizan servicios de IA en la nube de terceros para analizar respuestas, es crucial verificar dónde residirán los datos y cómo se utilizarán (evitando que se conserven o se usen para reentrenar modelos sin consentimiento). Una recomendación práctica es evitar introducir detalles sensibles o información propietaria en herramientas de IA cuya política de uso de datos no sea clara. La seguridad y confidencialidad de los datos de los participantes es un imperativo ético, incluso antes que legal.

  • Consentimiento informado y transparencia hacia los participantes:

    El uso ético de la IA exige la máxima transparencia hacia los participantes en la investigación. Las personas deben estar claramente informadas sobre qué datos se recopilan, con qué finalidad y (cuando sea pertinente) si se utilizarán tecnologías automatizadas en los procedimientos. El GDPR exige un consentimiento libre, específico, informado e inequívoco para la recopilación y el uso de datos personales. En contextos de encuestas, el formulario de consentimiento debería explicar si las respuestas también se analizarán mediante algoritmos de IA y con qué fines, para que los participantes sean plenamente conscientes. Además, los encuestados conservan el derecho a retirar su consentimiento y a ser “olvidados”, es decir, pueden solicitar la eliminación de sus datos en cualquier momento. Un aspecto específico de la transparencia se refiere al uso declarado de la IA: es una buena práctica comunicar (al menos en términos generales) cuándo partes del proceso de investigación están automatizadas. Por ejemplo, si un encuestado interactúa con un chatbot, debería quedar claro que está hablando con un asistente virtual y no con un operador humano. Del mismo modo, los informes para clientes deberían indicar si ciertos análisis (p. ej., la clusterización de consumidores) se realizaron mediante algoritmos de machine learning. Las directrices internacionales recomiendan hacer siempre explícito cuándo y dónde se utiliza IA, por ejemplo etiquetando claramente el texto o contenido generado automáticamente. Esta transparencia genera confianza y garantiza que los participantes otorguen su consentimiento con pleno conocimiento.

  • Responsabilidad y supervisión humana:

    Un dilema ético central es quién se hace responsable de los errores o de las consecuencias negativas derivadas del uso de la IA en investigación. Si un algoritmo de análisis clasificara erróneamente a los encuestados o generara recomendaciones engañosas que condujeran a malas decisiones, ¿de quién es la culpa? Es esencial establecer que la responsabilidad última recae siempre en los investigadores y las organizaciones que usan IA, no en la máquina en sí. Esto se traduce en la necesidad de una supervisión humana activa: la IA debe operar bajo el control de profesionales que verifiquen los resultados e intervengan cuando se detecten anomalías. Las mejores prácticas enfatizan un enfoque “human-in-the-loop”: los humanos deben permanecer involucrados durante todo el ciclo de vida de la IA, tanto en el desarrollo (validando el modelo, definiendo principios éticos) como en la operación, monitorizando los resultados y conservando la capacidad de corregir el rumbo. En otras palabras, la IA en investigación debe verse como un colaborador mejorado, no como un sustituto del juicio experto. Como señalan algunos profesionales del sector, “la IA debería ser una colaboradora, no una conquistadora: una herramienta que potencia a los investigadores, no algo que los reemplaza”. Mantener a los humanos “al mando” también es crucial para garantizar el respeto de los principios éticos: solo la sensibilidad y el juicio humanos pueden evaluar plenamente las implicaciones y el contexto, corrigiendo la dirección si el algoritmo propone acciones inadecuadas. Por último, definir claramente las responsabilidades también implica establecer protocolos para la auditoría de algoritmos y la gestión de incidentes: si algo sale mal (p. ej., una brecha de privacidad inadvertida, un error grave en los datos), debe existir un plan de intervención y comunicación, asumiendo la responsabilidad ante las partes interesadas.

  • Transparencia algorítmica y explicabilidad:

    Estrechamente vinculada a la responsabilidad está la explicabilidad de las decisiones producidas por la IA. Desde un punto de vista ético, se considera que las personas tienen derecho a saber cómo y por qué un algoritmo produjo un determinado resultado, especialmente si les afecta o influye en decisiones. En la investigación de mercado y social, esto implica que los profesionales deberían poder explicar a los clientes (y a veces a los participantes) los criterios generales con los que la IA analizó los datos. Por ejemplo, si un modelo de machine learning segmenta consumidores, el investigador debería poder describir las variables más influyentes y la lógica básica de la segmentación. La opacidad total y el secretismo algorítmico son difíciles de conciliar con los principios éticos de transparencia. Las directrices de ESOMAR animan explícitamente a los proveedores de soluciones de IA para investigación a “comunicar el tipo de tecnologías de IA utilizadas en el servicio” y, cuando corresponda, a “indicar claramente cuándo las imágenes o los textos son generados por IA”. Aunque sea técnicamente complejo, esforzarse por ofrecer explicaciones comprensibles sobre el papel de la IA aumenta la confianza del cliente y facilita la evaluación independiente de los resultados. En algunos contextos regulados, la transparencia se vuelve obligatoria: por ejemplo, ciertas propuestas regulatorias exigen declarar el uso de contenido generado por IA en comunicaciones públicas para evitar engañar a las personas. Para los investigadores, adoptar la transparencia significa documentar los procesos, comunicar las limitaciones y los márgenes de error de la IA utilizada y no presentar nunca un output de IA como una verdad absoluta, sino como una herramienta de apoyo a la decisión que debe interpretarse.

  • Discriminación algorítmica:

    Un riesgo ético específico relacionado con el sesgo es la discriminación algorítmica: cuando un sistema de IA perjudica injustamente a determinados grupos (a menudo grupos protegidos por etnia, género, edad, etc.). En la investigación de opinión y de mercado, esto podría manifestarse, por ejemplo, si un algoritmo excluye sistemáticamente de los análisis las respuestas de una minoría por considerarlas “ruidosas”, o si un modelo predictivo funciona bien con la población mayoritaria pero realiza estimaciones pobres para subgrupos. Como se ha señalado, estas disparidades suelen originarse en datos desequilibrados: si un grupo está infrarrepresentado en los datos de entrenamiento, la IA tenderá a rendir peor para ese grupo, amplificando la desigualdad. Identificar y prevenir estas formas de discriminación es un imperativo ético. Esto puede implicar recopilar datos más equilibrados, aplicar técnicas de debiasing o auditar los resultados para detectar tratamientos diferenciados. Organizaciones como ESOMAR subrayan este punto: dado que la IA aprende de datos históricos, puede reproducir prejuicios sociales y conducir a resultados discriminatorios. Por ejemplo, si determinadas comunidades respondieron menos a encuestas online en el pasado, un modelo predictivo podría subestimar sistemáticamente sus opiniones futuras, reforzando un círculo vicioso de exclusión. Para contrarrestarlo, más allá de las soluciones técnicas mencionadas, es crucial incorporar principios éticos en el diseño de la IA: directrices internas, controles éticos durante el desarrollo de modelos y, posiblemente, evaluaciones de impacto algorítmico centradas en la equidad. En Europa, la próxima AI Act clasifica como de alto riesgo aquellos sistemas de IA utilizados en contextos que pueden dañar derechos fundamentales a través de sesgos (por ejemplo, sistemas de scoring de personas) e introduce obligaciones estrictas para prevenir la discriminación. Aunque la investigación de mercado normalmente no entra dentro de los usos de alto riesgo, adoptar voluntariamente estándares sólidos de no discriminación es una señal de responsabilidad social y profesional.

Directrices y normativas existentes

Dadas las implicaciones éticas y la rápida evolución tecnológica, instituciones y asociaciones profesionales han emitido directrices y regulaciones para orientar el uso de la IA en investigación y proteger a los participantes. Estas son algunas de las principales:

  • Reglamento General de Protección de Datos (GDPR): En vigor en la UE desde 2018, el GDPR es la referencia fundamental para cualquier tratamiento de datos personales, incluida la investigación que utiliza IA. Además de exigir bases legales sólidas (consentimiento informado, interés legítimo, etc.) para recopilar y utilizar datos, el GDPR impone principios de transparencia, minimización de datos, limitación de la finalidad y seguridad que se aplican plenamente también a los proyectos de IA. Para los investigadores, esto significa limitar la recopilación de datos personales a lo estrictamente necesario, proporcionar avisos de privacidad claros y obtener un consentimiento explícito para el tratamiento automatizado que vaya más allá de las expectativas iniciales del participante. Respetar los derechos de los interesados también es crucial: por ejemplo, si la IA se utiliza para perfilar a los encuestados (creando categorías basadas en datos), las personas tienen derecho a acceder a sus datos, corregirlos o solicitar su eliminación. El GDPR también establece, en general, el derecho a no ser objeto de decisiones basadas únicamente en tratamientos automatizados que produzcan efectos significativos sobre la persona (Art. 22), un escenario que por lo general no se aplica en investigación de mercado, pero que conviene tener en cuenta si se desarrollan sistemas de IA que, por ejemplo, adapten cuestionarios en tiempo real personalizando la experiencia del usuario. En resumen, el GDPR proporciona un marco legal sólido que exige a los investigadores implementar la IA de forma que proteja la privacidad y los derechos de los participantes, con severas sanciones en caso de infracción.
  • “AI Act” de la UE: La Unión Europea está finalizando (con adopción prevista en 2024 y aplicación para 2026) una normativa específica sobre inteligencia artificial, conocida como la AI Act. Se trata de un enfoque legislativo horizontal que clasifica los sistemas de IA por nivel de riesgo y regula su desarrollo y uso en consecuencia. La AI Act prohíbe ciertos usos considerados inaceptables (p. ej., social scoring generalizado, reconocimiento facial en tiempo real en espacios públicos, sistemas de vigilancia masiva). Para otros sistemas, introduce obligaciones proporcionales: los sistemas de alto riesgo (no directamente relacionados con la investigación, pero por ejemplo IA en sanidad, educación o empleo) deben cumplir requisitos estrictos de transparencia, robustez, documentación, gestión de riesgos y supervisión humana. Los sistemas de riesgo limitado deben cumplir, aun así, ciertos estándares de transparencia (por ejemplo, informar a los usuarios cuando interactúan con IA) y realizar evaluaciones de impacto. En el contexto de la investigación de mercado y social, la AI Act actuará como marco general: aunque la mayoría de los usos (p. ej., análisis de texto, chatbots de encuesta) probablemente se encuadrarán en categorías de menor riesgo, las organizaciones deberán asegurarse de que los proveedores de soluciones de IA cumplan los requisitos legales (por ejemplo, en cuanto a la calidad de los datos de entrenamiento, medidas anti-sesgo y auditorías). Cabe destacar que la AI Act enfatiza fuertemente principios como transparencia, precisión, privacidad y responsabilidad algorítmica, alineados con estándares éticos que el sector de la investigación ya ha comenzado a adoptar. Una vez en vigor, esta normativa tendrá un impacto global (ya que se aplicará también a proveedores no pertenecientes a la UE que operen en Europa) y puede convertirse en un modelo para regulaciones similares en otros lugares. Las empresas de investigación deberían prepararse desde ahora documentando sus sistemas de IA, formando al personal en el cumplimiento de la IA y siguiendo la evolución legislativa.
  • Códigos profesionales y directrices del sector (ESOMAR, ESOMAR/GRBN, ASSIRM): Las asociaciones profesionales a menudo se han adelantado a la regulación, emitiendo directrices éticas para el uso de la IA en investigación. ESOMAR, una organización internacional líder en investigación de mercado y social, publicó junto con GRBN una detallada “Guideline on Artificial Intelligence” (incluyendo, por ejemplo, una lista de 20 preguntas para evaluar proveedores de servicios de IA en investigación). Estas directrices cubren aspectos clave como: la competencia y experiencia del proveedor en IA e investigación, la explicabilidad y fiabilidad de los algoritmos propuestos, el respeto a principios éticos (ausencia de sesgo, equidad, beneficencia hacia los participantes), una sólida gobernanza de datos (privacidad, seguridad, propiedad de los datos) y la presencia de supervisión humana en los procesos. Fomentan la adopción de principios éticos explícitos en el desarrollo de soluciones de IA y mecanismos como revisiones éticas independientes, diseño participativo con stakeholders diversos (para captar implicaciones socioculturales), formación del personal en sensibilidad cultural para evitar exclusiones involuntarias, y más. El Código Internacional ICC/ESOMAR, pilar ético de la profesión de investigación, también se ha actualizado para incluir referencias a nuevas tecnologías, reafirmando que los investigadores deben garantizar transparencia, honestidad, confidencialidad y respeto por los participantes incluso cuando emplean herramientas automatizadas. En Italia, asociaciones como ASSIRM promueven principios similares y apoyan a sus miembros en la interpretación de normativas como el GDPR en contextos de investigación. En esencia, el propio sector reconoce la importancia de la autorregulación: seguir estas directrices voluntarias no solo reduce el riesgo de daños éticos o legales, sino que también ayuda a generar confianza entre el público y los clientes, demostrando que la IA se utiliza de manera responsable y profesional.

 

En conclusión, la inteligencia artificial aplicada a las encuestas representa una frontera apasionante que ya está poniendo herramientas poderosas en manos de los investigadores. Al mismo tiempo, requiere una nueva conciencia sobre las limitaciones y responsabilidades que conlleva. Los sesgos algorítmicos, la falta de transparencia, los riesgos para la privacidad y los dilemas éticos exigen que los profesionales actúen con cautela. Como suele ocurrir con las tecnologías disruptivas, el factor habilitador no es sustituir a los humanos, sino la calidad de la colaboración humano–máquina. En un sector basado en la confianza de los participantes y en la fiabilidad de los datos, el uso de la IA debe guiarse por sólidos principios éticos y rigor metodológico. Normativas como el GDPR y la AI Act, junto con las directrices de ESOMAR y de otras asociaciones, proporcionan un marco valioso: el cumplimiento legal y ético debe avanzar de la mano de la innovación. Siguiendo estas directrices y manteniendo un enfoque transparente y responsable, la IA puede realmente potenciar la investigación no solo en términos de eficiencia, sino también elevando su calidad y ética en la era de los datos y la automatización inteligente.