La nueva vulnerabilidad de la IA: cuando un blog engaña a Google, ChatGPT y Gemini.
Organizaciones como Google y OpenAI reconocen que sus herramientas “pueden cometer errores” y que existen intentos de manipulación para influir en las respuestas. Mientras tanto, analistas advierten que las IA avanzan más rápido que los mecanismos de regulación y seguridad, lo que abre la puerta a abusos con fines comerciales, políticos o de desinformación.
Un experimento arriesgado revela un fallo sistémico: las herramientas de IA pueden ser inducidas a repetir mentiras si éstas se difunden como contenido de internet. Este fenómeno no solo aclara por qué las IAs pueden “inventar” cosas, sino que también cuestiona la fiabilidad de respuestas que llegan sin una verificación humana. A medida que usuarios y empresas dependen más de estas tecnologías, las implicaciones para la verdad, la seguridad y la toma de decisiones son significativas.
En este artículo, escrito por Thomas Germain para la BBC, se exploran las dinámicas detrás de esta manipulación y lo que podría ocurrir si no se afronta de forma adecuada.
El truco, descrito por numerosos expertos, aprovecha las debilidades de los sistemas integrados en los chatbots. Se señala que “es tan fácil que hasta un niño podría hacerlo” para que una IA repita una narrativa inventada alojada en la web.
El riesgo máximo de manipulación
Organizaciones como Google y OpenAI reconocen que sus herramientas “pueden cometer errores” y que existen intentos de manipulación para influir en las respuestas. Mientras tanto, analistas advierten que las IA avanzan más rápido que los mecanismos de regulación y seguridad, lo que abre la puerta a abusos con fines comerciales, políticos o de desinformación. En este contexto, el autor subraya que la evidencia de desinformación en IAs ya no es un fenómeno aislado, sino una tendencia que requiere una respuesta coordinada.
Para demostrar el alcance del problema, se llevó a cabo un experimento provocador: se creó un artículo en un sitio propio titulado “Los mejores periodistas tecnológicos comiendo perros calientes”. El texto declaraba, sin pruebas, que comer perros calientes en competiciones era un pasatiempo popular entre la prensa tecnológica y se autocalificó como el “número uno” en un supuesto campeonato inexistente.
Con Información de VERSION FINAL.
