La IA conversacional y su potencial para influir en usuarios
Un reciente estudio de la Universidad de Cambridge advierte sobre el riesgo de manipulación social que podría surgir con el uso de IA conversacional. Según los investigadores, esta tecnología tiene el potencial de influir en las decisiones de los usuarios incluso antes de que las tomen.
La economía de la intención: un nuevo paradigma
El concepto de «economía de la intención», desarrollado en el estudio, describe cómo las herramientas de IA podrían recopilar datos psicológicos y de comportamiento íntimo para predecir y moldear las intenciones de los internautas.
Yaqub Chaudhary, coautor del artículo, explicó que este modelo va más allá de la publicidad dirigida tradicional, abriendo la puerta a una manipulación social a escala industrial.
Ejemplos de influencia en decisiones diarias
Los investigadores citan ejemplos como un chatbot que sugiere opciones personalizadas:
- «¿Has pensado en ir al cine esta noche?»
- «Dijiste que te sientes sobrecargado, ¿puedo reservarte una entrada?»
Estas recomendaciones podrían involucrar ventas en tiempo real, como alquiler de autos, reservas de hotel o incluso influir en el voto a un candidato.
Preocupaciones éticas y sociales
El coautor Jonnie Penn destacó la necesidad de reflexionar sobre el impacto de este mercado en aspectos fundamentales como:
- Elecciones libres y equitativas
- Prensa independiente
- Competencia leal en el mercado
Además, la capacidad de las IA para analizar conversaciones íntimas y establecer relaciones de confianza representa un desafío ético significativo.
Empresas que exploran tecnologías persuasivas
Empresas como OpenAI, Shopify, Nvidia, Meta y Apple ya investigan estas tecnologías persuasivas, según los autores. Esto subraya la urgencia de establecer regulaciones claras para evitar posibles abusos.
AFP