Internacionales
Cómo evitar las «alucinaciones» o fallos de la IA
AGENCIA EFE
La incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
Nueva York, EE.UU.-Una de las mayores taras de los chatbots con inteligencia artificial (IA) generativa es que a veces dan respuestas bien estructuradas pero completamente incorrectas -que pueden ir desde un dato erróneo a una perturbadora conversación-, lo que se conoce en la industria de la tecnología como «alucinaciones», y los expertos se enfrentan ahora al reto de erradicarlas.
Desde que se popularizó esta tecnología el otoño pasado, millones de personas han comenzado a usar a diario estos chats para tareas como escribir un correo electrónico, organizar sus vacaciones, buscar información o aprender sobre temas específicos.
No obstante, la incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
DE RESPUESTAS PERTURBADORAS A OTRAS INVENTADAS
Son varios los ejemplos de este tipo de alucinaciones, y entre las más conocidas están las conversaciones que varias personas tuvieron en febrero con «Sydney», el alter ego de Bing, al poco del lanzamiento del Chatbot de Microsoft.
En uno de los casos, «Sydney» confesó a un periodista del New York Times que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando.
Otra de las «alucinaciones» más sonadas fue la del chatbot de Google, Bard, que produjo un vídeo promocional con un error sobre el telescopio espacial James Webb.
Ninguna empresa parece librarse de los patinazos: el chatbot de OpenAI, ChatGPT, indujo al error a un abogado, al crear para él una serie de supuestos precedentes legales totalmente inventados que el abogado usó posteriormente en un juicio, pero fue detectado y ahora se enfrenta a posibles sanciones.
SIN «ALUCINACIONES» TAMPOCO HAY CREATIVIDAD
La IA generativa funciona gracias a un complejo algoritmo que analiza la forma en que los humanos juntan palabras tomando como base la enorme cantidad de información que hay en Internet, pero no está programada para decidir si sus respuestas son verdaderas.
Estas «alucinaciones» no son tan fáciles de erradicar, ya que son parte del mismo sistema que permite a los bots ser creativos y generen conversaciones o historias no repetidas. Es decir, si se quita o frena esta característica de la IA no sería tan fácil que el chat genere poemas en cualquier estilo, cree chistes o sugiera ideas.
“Estas alucinaciones son particularmente problemáticas cuando se requiere un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande”, detalla en un estudio OpenAI -empresa detrás de la tecnología de los chats de Bing y ChatGPT.
Microsoft y Google, los dos grandes gigantes tecnológicos que compiten en la carrera por ser la compañía referente de los chatbots con IA, han ensayado medidas para intentar evitar estos errores; Microsoft ha probado a limitar el número de preguntas que Bing puede contestar, tras detectar que las «alucinaciones» más distópicas solían aparecer en conversaciones más largas.
Por su parte, cuando Google genera resultados de búsqueda utilizando su tecnología de chatbot, a la vez ejecuta una búsqueda en su buscador tradicional; compara las respuestas obtenidas por las dos tecnologías y si la respuesta no es la misma, el resultado de la IA ni siquiera se muestra.
Esto hace que su chatbot sea menos creativo, por lo que no es tan bueno como sus competidores para escribir poemas o tener conversaciones, pero está menos expuesto al error.
“Nadie en el campo (de la IA generativa) ha resuelto todavía los problemas de las ´alucinaciones´. Todos los modelos tienen este problema”, dijo el director ejecutivo de Google, Sundar Pichai, en una entrevista con CBS en abril.
DOS CHATBOTS MEJOR QUE UNO
Una de las soluciones que propone el estudio titulado: «Mejorando la facticidad y el razonamiento en los modelos de lenguaje a través del debate multiagente», del Instituto de Tecnología de Massachusetts (MIT), es hacer que, antes de responder a un humano, varios chatbots «debatan» entre sí sobre cuál es la respuesta correcta.
Si los chatbots producen múltiples respuestas a la misma pregunta deben primero llegar a un acuerdo sobre cuál es la correcta.
Por su parte, un grupo de investigadores de Cambridge señalan en su artículo «SelfCheckGPT: Detección de alucinaciones de caja negra sin recursos para modelos generativos de lenguaje (LLM)» que una técnica que ayuda a que la IA se equivoque menos es hacerle al mismo chatbot la misma pregunta varias veces para ver si la respuesta es siempre la misma -en ese caso sería correcta- o no.
Otros expertos como Geoffrey Hinton, quien fue bautizado como el «padrino» de la IA y tuvo parte de su carrera en Google, creen que las «alucinaciones» se controlarán para que sean menos frecuentes, pero que no hay manera de deshacerse por completo de ellas.
Internacionales
Trump dice que Cuba es una «nación fallida» aunque no cree necesario un cambio de régimen
- «Cuba es ahora mismo una nación fallida«, declaró Trump a periodistas a bordo del Air Force One.
Sin embargo, al ser preguntado si Estados Unidos derrocaría al gobierno de Cuba, como Washington hizo cuando capturó al presidente venezolano Nicolás Maduro, Trump dijo: «No creo que eso sea necesario».
Situación energética y económica en Cuba
Cuba enfrenta una gravísima crisis energética tras el fin del suministro de petróleo de Venezuela y ante la presión de Washington para evitar que otros países le vendan petróleo a la isla comunista.
Cuba, con 9,6 millones de habitantes, dejó de recibir petróleo de su principal aliado Venezuela luego de la caída de Maduro en una incursión militar estadounidense en Caracas el 3 de enero.
Agencia AP
Moscú, Rusia.-Los dolientes se reunieron en Moscú el lunes para conmemorar dos años de la muerte bajo custodia del líder opositor ruso Alexei Navalny, bajo la sombra de una represión del Kremlin y apenas dos días después que un nuevo análisis reforzara las sospechas de que fue asesinado mediante envenenamiento.
Navalny murió en una colonia penal del Ártico el 16 de febrero de 2024 cuando cumplía una condena de 19 años de prisión que muchos creían motivada políticamente. Su muerte a los 47 años dejó a la oposición rusa sin liderazgo y dividida, luchando por construir un frente eficaz o unido sin una de sus figuras más visibles y carismáticas.
En el segundo aniversario de la muerte de Navalny, analizamos la investigación más reciente sobre su causa y las repercusiones políticas que continúan, tanto dentro de Rusia como fuera de ella.
La madre de Navalny, Lyudmila Navalnaya, y la suegra del líder opositor, Alla Abrosimova, estuvieron entre los dolientes que depositaron flores en su tumba. Un montículo de ramos se elevaba por encima de los espesos bancos de nieve que cubrían el cementerio Borisovsky de Moscú.
Representantes de varias embajadas europeas también le rindieron homenaje, observados por una presencia de seguridad llamativamente alta. Más tarde, un pequeño coro se reunió para cantar junto a la tumba de Navalny.
“Sabíamos que nuestro hijo no simplemente murió en prisión”, afirmó. “Fue asesinado”.
El Kremlin ha negado las acusaciones y ha sostenido que Navalny murió por causas naturales.
Naciones europeas afirman que Navalny fue envenenado
El aniversario coincide con la publicación de una declaración conjunta de cinco países europeos que señaló que Navalny fue envenenado por el Kremlin con una toxina rara y letal que se encuentra en la piel de las ranas dardo venenosas.
La declaración conjunta afirmó: “Rusia tenía los medios, el motivo y la oportunidad de administrar este veneno”.
En un homenaje escrito a Navalny el lunes, el presidente francés Emmanuel Macron también vinculó al Kremlin con la muerte del líder opositor.
“Hace dos años, el mundo se enteró de la muerte de Alexei Navalny. Rindo homenaje a su memoria”, escribió Macron en redes sociales. “Dije entonces que creía que su muerte lo decía todo sobre la debilidad del Kremlin y su miedo a cualquier oponente. Ahora está claro que esta muerte fue premeditada.
“La verdad siempre prevalece, mientras esperamos que la justicia haga lo mismo”, añadió.
Moscú ha negado categóricamente su implicación en la muerte de Navalny, al afirmar que el político se sintió mal después de salir a caminar.
Al ser cuestionado por periodistas el lunes sobre las acusaciones, el portavoz presidencial señaló que el Kremlin “no acepta tales acusaciones”.
“Las consideramos sesgadas e infundadas. De hecho, las rechazamos de manera tajante”, manifestó.
El anuncio del sábado se produjo cuando la viuda de Navalny, Yulia Navalnaya, asistía a la Conferencia de Seguridad de Múnich en Alemania. Ella dijo que estuvo “segura desde el primer día” de que su esposo había sido envenenado, “pero ahora hay pruebas”.
“Putin mató a Alexei con un arma química”, escribió en redes sociales, y describió al líder ruso como “un asesino” que “debe rendir cuentas”.
Navalny fue objetivo de un envenenamiento anterior en 2020, con un agente nervioso, en un ataque que atribuyó al Kremlin, que siempre negó su participación. Su familia y sus aliados lucharon para que fuera trasladado en avión a Alemania para recibir tratamiento y recuperarse. Cinco meses después, regresó a Rusia, donde fue arrestado de inmediato y encarcelado durante los últimos tres años de su vida.
Oposición rusa lucha por iniciar un nuevo capítulo
Los aliados más cercanos de Navalny, así como otros miembros clave de la oposición rusa, continúan ahora su lucha desde el exilio.
A muchos se les han impuesto largas condenas de prisión en ausencia en Rusia y no pueden regresar a casa. Algunos han sido designados “terroristas y extremistas” por las autoridades, una etiqueta que también se aplicó a Navalny en enero de 2022.
Sin embargo, la oposición rusa no ha logrado formar un frente unido ni un plan de acción claro contra el Kremlin. En su lugar, grupos rivales han intercambiado acusaciones que algunos ven como intentos de desacreditarse entre sí y disputar influencia.
En una pequeña victoria para los activistas opositores, la Asamblea Parlamentaria del Consejo de Europa (APCE), principal organismo europeo de derechos humanos, anunció a finales de enero la creación de un nuevo órgano —la Plataforma de Diálogo con las Fuerzas Democráticas Rusas— encargado de dar voz a los rusos de la oposición y una plataforma formal para interactuar con legisladores europeos.
Se ha presentado como una victoria para los rusos contrarios a la guerra, pero también atrajo críticas, ya que el órgano no fue elegido democráticamente. Miembros de la organización anticorrupción de Navalny también están ausentes del grupo.
En una declaración para conmemorar la muerte de Navalny, miembros rusos de la APCE señalaron que su muerte fue “un eslabón inevitable en una cadena de crímenes sistémicos del régimen del Kremlin contra sus propios ciudadanos y los ciudadanos de Estados extranjeros”.
“Alexei Navalny dio su vida por una Rusia libre”, indicó la declaración. “Estamos obligados a garantizar que su muerte no haya sido en vano”.
Internacionales
Bruselas investiga a Shein por diseño «adictivo» y la acusa de venta de productos ilegales
Agencia EFE
La Comisión Europea (CE) anunció este martes la apertura de una investigación a la plataforma china Shein por lo que considera un «diseño adictivo», su falta de transparencia sobre sistemas de recomendación y la venta de artículos ilegales que incluyen «material de abuso sexual infantil».
La apertura de un procedimiento formal se centra en los sistemas que tiene la plataforma para limitar la venta de productos ilegales en la Unión Europea (UE), incluido «el contenido que podría constituir material de abuso sexual infantil, como muñecas sexuales», informó este martes la CE en un comunicado.
La investigación abierta en virtud de la Ley de Servicios Digitales (DSA) está orientada a los «riesgos» relacionados con lo que Bruselas considera «un diseño adictivo del servicio», incluida la concesión de puntos o recompensas a los consumidores por su participación, así como en «los problemas que tiene Shein para mitigar estos riesgos».
Por último, la Comisión investigará la transparencia de los sistemas de recomendación que Shein utiliza para proponer productos a los usuarios, ya que, según la DSA, la plataforma «debe revelar los principales parámetros utilizados (…) y debe proporcionar a los usuarios al menos una opción fácilmente accesible que no se base en el perfilado para cada sistema de recomendación».
Recopilación de pruebas
Tras la apertura del procedimiento formal, la Comisión continuará reuniendo pruebas a través de solicitudes de información adicionales a Shein o a terceros, así como a través de la realización de «actividades de seguimiento o entrevistas».
Esta investigación faculta a la Comisión para adoptar nuevas medidas, incluidas cautelares, así como aceptar los compromisos de Shein «a fin de remediar las cuestiones objeto del procedimiento».
La duración de la investigación no está contemplada en la DSA, y depende de varios factores, como la complejidad del asunto, el grado de cooperación de la empresa afectada y el ejercicio de los derechos de defensa de la misma.
En noviembre del pasado año, la CE solicitó información a Shein por tercera vez sobre las medidas que está llevando a cabo para prevenir que los menores tengan acceso a bienes ilegales, «en particular muñecas sexuales de apariencia infantil y armas».
Bruselas dio este paso después de que el Gobierno de Francia iniciase los trámites ante los tribunales para bloquear a Shein en ese país y tras la reunión que la vicepresidenta del Ejecutivo comunitario encargada de la política digital, Henna Virkkunen, mantuvo con la ministra delegada para Asuntos Digitales francesa, Anne Le Henanff, para analizar la cuestión.