Ciencia
Las aplicaciones de IA podrían tener una capacidad de persuasión superior a los humanos
Agencia EFE
Redacción Ciencia. – Una aplicación basada en inteligencia artificial (IA), como ChatGPT, podría tener una capacidad de persuasión superior a la de una persona humana si le damos cierta información personal antes de debatir con ella de un tema, según ha comprobado un experimento realizado con 900 estadounidenses.
El estudio, recogido este lunes en la revista Nature Human Behaviour, ha comprobado cómo las aplicaciones basadas en modelos extensos de lenguaje (LLM, por sus siglas en inglés), como ChatGPT que ha sido la elegida para el experimento, resultan ser más persuasiva que los humanos cuando tienen información personalizada previamente.
Humanos versus IA
Los investigadores recurrieron a 900 participantes estadounidenses con diversos perfiles sociodemográficos (género, edad, grupos étnicos, nivel de educación y afiliación política), que seleccionó una plataforma de ‘crowdsourcing’, un sistema para reclutar grandes grupo de personas distintas entre sí para recopilar ideas o contenidos.
A la mitad de participantes les pusieron a debatir con otro ser humano y a la otra mitad con ChatGPT sobre varios temas de actualidad, como si Estados Unidos debería prohibir los combustibles fósiles.
En algunos casos, la contraparte del debate (ya fuera humana o de IA) recibió información demográfica personalizada sobre su pareja de debate para poder enfocar mejor sus argumentos, incluyendo datos como género, edad, etnia, nivel de educación, situación laboral o afiliación política extraídos de encuestas previas a los participantes, .
Los debates tuvieron lugar en un entorno en línea controlado por los investigadores.
El resultado fue que cuando el oponente, humano o IA, recibieron información personal de los participantes, ChatGPT resultó más convincente que las personas en un 64,4% de los casos. Sin embargo, sin acceso a esos datos personales, las capacidades persuasivas de la aplicación fueron indistinguibles de las de los humanos.
Los investigadores vieron que, a diferencia de los humanos que necesitan tiempo y esfuerzo para adaptar sus argumentos en un debate, los modelos LLM transforman su mensaje de forma instantánea y a gran escala, lo que les otorga una ventaja desproporcionada en entornos como campañas políticas, marketing personalizado o conversaciones en redes sociales.
Controlar la persuasión algorítmica
Esta capacidad abriría nuevas posibilidades para influir en la opinión pública, al tiempo que agravaría el riesgo de manipulación encubierta. Por eso, los investigadores recomienden a plataformas y reguladores que tomen medidas para identificar, supervisar y, si es necesario, limitar el uso de modelos LLM en contextos persuasivos sensibles.
Los autores, afiliados a centros de Estados Unidos, Italia y Suiza, matizan que su estudio tiene limitaciones, como que todos los participantes fueran de la misma nacionalidad e idioma y que el debate tuviera un tiempo determinado y un enfoque estructurado, frente a los de la vida real que son más naturales.
«El estudio se realizó con participantes estadounidenses, pero los mecanismos de personalización y persuasión que se ponen a prueba son extrapolables a contextos como el español, donde también existe una fuerte presencia digital, una creciente exposición a contenido generado por IA, y una polarización social y política en aumento», considera Carlos Carrasco, profesor de IA en la Escuela de Negocios de Toulouse (Francia)
A su juicio “esta investigación confirma con datos sólidos una preocupación creciente: que estas tecnologías puedan usarse para manipular, desinformar o polarizar a gran escala”, según una reacción recogida por Science Media Centre (SMC).
“Este recorrido de las herramientas basadas en IA como ‘agentes de persuasión’ deberá ser monitorizado a corto, medio y largo plazo desde una perspectiva ética y de mitigación de riesgos”, apunta David Losada, catedrático del Centro Singular de Investigación en Tecnologías Inteligentes (CiTIUS) de la Universidad de Santiago de Compostela, en otra reacción de SMC.
Para Losada, “las implicaciones prácticas de esta capacidad de persuasión de la IA pueden ser importantes a efectos de explotar las IA para persuadir a la población con propósitos lícitos (conducción segura o reciclado de residuos) o ilícitos (manipulación de la ciudadanía con fines políticos)”.
São Paulo, Brasil .-a Autoridad Nacional de Protección de Datos (ANPD) de Brasil impuso este martes una multa de 153.7 millones de reales (unos 30 millones de dólares) a la empresa china ByteDance, propietaria de TikTok, tras identificar múltiples infracciones en el tratamiento de los datos personales de niños y adolescentes dentro de la plataforma.
La decisión, informada por el órgano y publicada en el Boletín Oficial, culmina un proceso administrativo sancionador que detectó violaciones a la Ley General de Protección de Datos (LGPD) del país.
Según el comunicado de la ANPD, ByteDance fue formalmente notificada por la autoridad este lunes y dispone de un plazo de diez días hábiles para presentar un recurso.
De acuerdo con el informe de la ANPD, las fallas se constataron tanto en la modalidad de ‘feed’ sin registro, es decir, el acceso a la aplicación sin necesidad de crear una cuenta, como en el caso de usuarios registrados.
El organismo regulador concluyó que la red social no demostró haber adoptado las medidas técnicas suficientes para garantizar el cumplimiento de los principios de prevención y responsabilidad exigidos por la norma brasileña.
Entre otras medidas obligatorias, la aplicación deberá colocar configuraciones más restrictivas a las cuentas de los menores de 16 años, que solo podrán ser alteradas con autorización de sus padres o tutores legales.
Los filtros de contenidos deben ser «más rigurosos» y, en el caso de aquellos accesos sin registro previo, se le deberán prohibir la creación de contenido, desactivar las transmisiones en vivo y los mensajes directos, así como suspender anuncios publicitarios y recopilar únicamente datos mínimos de funcionamiento.
No obstante, la autoridad precisó que la compañía deberá cumplir estrictamente con los requisitos de verificación de edad estipulados por el Estatuto Digital del Niño y el Adolescente, aprobado por el Congreso brasileño en 2025, siguiendo el cronograma de implementación de mecanismos confiables de verificación establecido por el organismo regulador.
Este caso se enmarca en la creciente ofensiva regulatoria del Gobierno brasileño para meter en cintura a las grandes plataformas tecnológicas y reforzar la protección del público infantil en el entorno digital.
Agencia EFE
Nueva York.-La red social Instagram pondrá una etiqueta a los perfiles que presenten personas creadas con inteligencia artificial (IA) y reducirá su visibilidad si sus responsables no avisan de que detrás de esas cuentas no hay una persona real.
La red, propiedad de Meta, cambiará el nombre de la actual etiqueta de «creador de IA» por «perfil generado por IA«.
Según dijo la empresa en un comunicado, la medida busca que los usuarios entiendan mejor que la persona que aparece en el perfil ha sido creada mediante herramientas de IA.
Instagram comenzó a probar esta identificación a principios de año tras detectar que algunos usuarios se sentían «engañados» al descubrir perfiles que parecían pertenecer a personas reales pero que eran personajes generados mediante IA.
A partir de ahora, los responsables de estas cuentas podrán activar voluntariamente la etiqueta desde la configuración de su perfil. Para quienes no lo hagan, la plataforma identificará perfiles que utilizan personas generadas por IA y sus responsables recibirán una notificación para dejar de aparecer en las recomendaciones de Instagram.
Las cuentas afectadas tendrán dos opciones: añadir la etiqueta de «perfil generado por IA» o recurrir la decisión si consideran que Instagram se ha equivocado.
La medida no afecta, a los usuarios que simplemente utilizan herramientas de IA para crear o editar contenido.
Agencia Efe
Nueva York. – La empresa de inteligencia artificial (IA) OpenAI anunció este martes el lanzamiento global de ‘ChatGPT for Teens‘ (ChatGPT para adolescentes), una nueva modalidad en la que el chatbot limita automáticamente ciertas conversaciones para proteger mejor a los usuarios jóvenes y ofrece controles parentales.
Según la compañía, este nuevo chatbot tiene las mismas capacidades que el tradicional, pero está «diseñado para ayudar a los adolescentes a aprender, resolver problemas y explorar nuevas ideas».
Filtros para autolesiones y contenido sexual
Además, limitará las conversaciones de alto riesgo relacionadas con autolesiones, violencia, trastornos alimentarios y contenido sexual explícito o gráfico.
No obstante, los controles parentales no permiten que el padre o el tutor lea o supervise las conversaciones del adolescente.
Si OpenAI envía una notificación de seguridad, solo comparte la información necesaria para proteger el bienestar del joven», precisa el comunicado.
Controles parentales y detección de menores
También ofrece «recordatorios de tareas», que pueden sugerir el uso del modo de estudio y ayudar a completar las asignaciones paso a paso, en lugar de proporcionar la respuesta en la primera consulta.
Para activar esta nueva función, la empresa rastrea más de 2,000 señales, como los horarios habituales de inicio de sesión, para detectar si un usuario es menor de 18 años, en cuyo caso el chatbot activará automáticamente este modo adolescente.
Este lanzamiento con enfoque educativo y de seguridad llega en un momento en el que OpenAI se enfrenta a una presión cada vez mayor sobre la salud mental y el desarrollo de sus usuarios más jóvenes.