Ciencia
Las aplicaciones de IA podrían tener una capacidad de persuasión superior a los humanos
Agencia EFE
Redacción Ciencia. – Una aplicación basada en inteligencia artificial (IA), como ChatGPT, podría tener una capacidad de persuasión superior a la de una persona humana si le damos cierta información personal antes de debatir con ella de un tema, según ha comprobado un experimento realizado con 900 estadounidenses.
El estudio, recogido este lunes en la revista Nature Human Behaviour, ha comprobado cómo las aplicaciones basadas en modelos extensos de lenguaje (LLM, por sus siglas en inglés), como ChatGPT que ha sido la elegida para el experimento, resultan ser más persuasiva que los humanos cuando tienen información personalizada previamente.
Humanos versus IA
Los investigadores recurrieron a 900 participantes estadounidenses con diversos perfiles sociodemográficos (género, edad, grupos étnicos, nivel de educación y afiliación política), que seleccionó una plataforma de ‘crowdsourcing’, un sistema para reclutar grandes grupo de personas distintas entre sí para recopilar ideas o contenidos.
A la mitad de participantes les pusieron a debatir con otro ser humano y a la otra mitad con ChatGPT sobre varios temas de actualidad, como si Estados Unidos debería prohibir los combustibles fósiles.
En algunos casos, la contraparte del debate (ya fuera humana o de IA) recibió información demográfica personalizada sobre su pareja de debate para poder enfocar mejor sus argumentos, incluyendo datos como género, edad, etnia, nivel de educación, situación laboral o afiliación política extraídos de encuestas previas a los participantes, .
Los debates tuvieron lugar en un entorno en línea controlado por los investigadores.
El resultado fue que cuando el oponente, humano o IA, recibieron información personal de los participantes, ChatGPT resultó más convincente que las personas en un 64,4% de los casos. Sin embargo, sin acceso a esos datos personales, las capacidades persuasivas de la aplicación fueron indistinguibles de las de los humanos.
Los investigadores vieron que, a diferencia de los humanos que necesitan tiempo y esfuerzo para adaptar sus argumentos en un debate, los modelos LLM transforman su mensaje de forma instantánea y a gran escala, lo que les otorga una ventaja desproporcionada en entornos como campañas políticas, marketing personalizado o conversaciones en redes sociales.
Controlar la persuasión algorítmica
Esta capacidad abriría nuevas posibilidades para influir en la opinión pública, al tiempo que agravaría el riesgo de manipulación encubierta. Por eso, los investigadores recomienden a plataformas y reguladores que tomen medidas para identificar, supervisar y, si es necesario, limitar el uso de modelos LLM en contextos persuasivos sensibles.
Los autores, afiliados a centros de Estados Unidos, Italia y Suiza, matizan que su estudio tiene limitaciones, como que todos los participantes fueran de la misma nacionalidad e idioma y que el debate tuviera un tiempo determinado y un enfoque estructurado, frente a los de la vida real que son más naturales.
«El estudio se realizó con participantes estadounidenses, pero los mecanismos de personalización y persuasión que se ponen a prueba son extrapolables a contextos como el español, donde también existe una fuerte presencia digital, una creciente exposición a contenido generado por IA, y una polarización social y política en aumento», considera Carlos Carrasco, profesor de IA en la Escuela de Negocios de Toulouse (Francia)
A su juicio “esta investigación confirma con datos sólidos una preocupación creciente: que estas tecnologías puedan usarse para manipular, desinformar o polarizar a gran escala”, según una reacción recogida por Science Media Centre (SMC).
“Este recorrido de las herramientas basadas en IA como ‘agentes de persuasión’ deberá ser monitorizado a corto, medio y largo plazo desde una perspectiva ética y de mitigación de riesgos”, apunta David Losada, catedrático del Centro Singular de Investigación en Tecnologías Inteligentes (CiTIUS) de la Universidad de Santiago de Compostela, en otra reacción de SMC.
Para Losada, “las implicaciones prácticas de esta capacidad de persuasión de la IA pueden ser importantes a efectos de explotar las IA para persuadir a la población con propósitos lícitos (conducción segura o reciclado de residuos) o ilícitos (manipulación de la ciudadanía con fines políticos)”.
Agencia Efe
Nueva York. – La empresa de inteligencia artificial (IA) OpenAI anunció este martes el lanzamiento global de ‘ChatGPT for Teens‘ (ChatGPT para adolescentes), una nueva modalidad en la que el chatbot limita automáticamente ciertas conversaciones para proteger mejor a los usuarios jóvenes y ofrece controles parentales.
Según la compañía, este nuevo chatbot tiene las mismas capacidades que el tradicional, pero está «diseñado para ayudar a los adolescentes a aprender, resolver problemas y explorar nuevas ideas».
Filtros para autolesiones y contenido sexual
Además, limitará las conversaciones de alto riesgo relacionadas con autolesiones, violencia, trastornos alimentarios y contenido sexual explícito o gráfico.
No obstante, los controles parentales no permiten que el padre o el tutor lea o supervise las conversaciones del adolescente.
Si OpenAI envía una notificación de seguridad, solo comparte la información necesaria para proteger el bienestar del joven», precisa el comunicado.
Controles parentales y detección de menores
También ofrece «recordatorios de tareas», que pueden sugerir el uso del modo de estudio y ayudar a completar las asignaciones paso a paso, en lugar de proporcionar la respuesta en la primera consulta.
Para activar esta nueva función, la empresa rastrea más de 2,000 señales, como los horarios habituales de inicio de sesión, para detectar si un usuario es menor de 18 años, en cuyo caso el chatbot activará automáticamente este modo adolescente.
Este lanzamiento con enfoque educativo y de seguridad llega en un momento en el que OpenAI se enfrenta a una presión cada vez mayor sobre la salud mental y el desarrollo de sus usuarios más jóvenes.
Agencia Efe
YouTube funcionará de manera similar a Instagram y TikTok, que también suman una visualización desde el primer fotograma.
YouTube anunció este lunes que, a partir del próximo 24 de agosto, modificará su forma de contabilizar las visualizaciones de sus videos para registrar una visita en el mismo instante en que el contenido comience a reproducirse.
Esta actualización busca estandarizar la medición en toda su plataforma, después de que el año pasado se implementara la misma medida en sus videos cortos, conocidos como Shorts.
Fotografía de archivo del logo de YouTube en un computador, en Nueva York (EE.UU.).EFE/ Ángel Colmenares.
Por su parte, la plataforma X cuenta una visualización tras dos segundos de reproducción.
La recaudación de los creadores de contenido
YouTube señala hoy -en un comunicado- que «este cambio no afectará a los ingresos de los creadores ni a los requisitos de acceso al programa para socios de YouTube (YPP, por sus siglas en inglés)».
Agencia EFE
Bruselas (EuroEFE).-El Tribunal de Justicia de la Unión Europea (TJUE) avaló este jueves la multa de 4.125 millones de euros impuesta a la multinacional Google por abuso de posición dominante a través de su sistema operativo Android, la más alta en la historia de la UE en un caso antimonopolio.
En su sentencia, el TJUE desestima el recurso impuesto por Google y su matriz, Alphabet, y confirma que la tecnológica impuso restricciones ilegales a los fabricantes de dispositivos Android para consolidar la posición dominante de su propio buscador, Google Search, y de su propio navegador, Chrome.
Apoyo de diversas asociaciones
Por su parte, Google se vio arropada por varias entidades que en teoría saldrían perjudicadas por su modelo de negocio, como los fabricantes finlandés HMD y alemán Gigaset y el navegador de origen noruego Opera, además de por la Asociación de la Industria de la Computación y las Comunicaciones (CCIA, en inglés).
El núcleo del caso reside en los llamados «acuerdos de distribución» entre la tecnológica estadounidense y fabricantes de dispositivos móviles, en virtud de los cuales los segundos debían preinstalar Google Search y Chrome para obtener una licencia de explotación de la tienda de aplicaciones Play Store.
Estas cláusulas tienen una relación estrecha con otros acuerdos «contra la fragmentación» que Google también incluía en los contratos y que condicionaban las licencias de Google Search y Play Store a que los fabricantes se abstuvieran de vender teléfonos equipados con versiones alternativas no autorizadas de Android.
Acuerdos de reparto de ingresos
El tercer elemento dentro del caso son los «acuerdos de reparto de ingresos», según los cuales los fabricantes renunciaban a preinstalar en sus dispositivos motores de búsqueda de la competencia a cambio de la retrocesión de una parte de los ingresos publicitarios de Google.
La Comisión Europea concluyó en el verano de 2018 que estos acuerdos eran «abusivos» y, por tanto, ilegales, puesto que restringían la competencia dentro del mercado único y mermaban e incluso eliminaban la capacidad de otras empresas de competir contra Google.
El Tribunal General de la UE, el órgano de primera instancia, examinó un primer recurso de la multinacional y, aunque dio la razón a Bruselas sobre el fondo del asunto, redujo ligeramente la multa hasta los 4.125 millones de euros tras anular los aspectos relacionados con el reparto de ingresos publicitarios.
En el fallo publicado este jueves, el TJUE valida todos los argumentos de esta primera sentencia y señala, por ejemplo, que el Tribunal General apreció de forma correcta «los efectos contrarios a la competencia de las condiciones de preinstalación previstas en los acuerdos de Android».
Prohibición de abuso de posición dominante
En particular, defiende que este tribunal «podía tener en cuenta todo el contexto económico pertinente, incluidos los acuerdos de reparto de ingresos, sin que fuera necesario realizar sistemáticamente un análisis de contraste para demostrar un incumplimiento de la prohibición de abuso de posición dominante».
También avala la conclusión del Tribunal General sobre las condiciones de preinstalación previstas en dichos acuerdos y señala que «la demostración de un abuso de posición dominante no se supedita en todos los casos a la prueba de la capacidad para expulsar del mercado únicamente a competidores igual de eficaces».
En tercer lugar, el TJUE confirma que los llamados «acuerdos contra la fragmentación» podían «limitar las oportunidades comerciales de las versiones de Android no compatibles y reforzar así la posición dominante de Google».
Finalmente, el fallo mantiene la calificación de «infracción única y continua», a pesar de que el Tribunal General anulase determinados aspectos relacionados con el reparto de ingresos, porque los abusos restantes se seguían enmarcando en una misma estrategia contraria a la competencia.
Google lamenta la decisión
Por su parte, Google lamentó este jueves que con esta sentencia el TJUE no reconoce las inversiones realizadas para que su sistema operativo «siga siendo abierto, interoperable y gratuito».
«Android ofrece más opciones para todos y apoya a miles de empresas. Esta sentencia no reconoce nuestra importante inversión para garantizar que Android siga siendo abierto, interoperable y gratuito», destaca en un comunicado un portavoz de la multinacional.
Así, Google recuerda que ya adaptó sus acuerdos con los fabricantes de dispositivos móviles para cumplir con la decisión inicial de la Comisión Europea en 2018, al tiempo que destaca que la compañía sigue centrada «en la innovación continua y la apertura» para sus usuarios, socios y desarrolladores.
Los consumidores celebran el fallo
Por el contrario, la asociación europea de consumidores (BEUC), que se personó en el caso a favor de la multa, celebró una sentencia que «envía un mensaje muy claro», subrayando que «las empresas dominantes no pueden utilizar su poder para excluir a la competencia y limitar las opciones de los consumidores».
«Hoy es una gran victoria para Europa, pero también demuestra por qué necesitamos herramientas con visión de futuro, como la Ley de Mercados Digitales, para atajar de raíz las prácticas desleales y permitir que los consumidores disfruten de capacidad de elección en los mercados digitales», afirmó el presidente de la asociación, Agustín Reyna.