Internacionales
Cómo evitar las «alucinaciones» o fallos de la IA
AGENCIA EFE
La incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
Nueva York, EE.UU.-Una de las mayores taras de los chatbots con inteligencia artificial (IA) generativa es que a veces dan respuestas bien estructuradas pero completamente incorrectas -que pueden ir desde un dato erróneo a una perturbadora conversación-, lo que se conoce en la industria de la tecnología como «alucinaciones», y los expertos se enfrentan ahora al reto de erradicarlas.
Desde que se popularizó esta tecnología el otoño pasado, millones de personas han comenzado a usar a diario estos chats para tareas como escribir un correo electrónico, organizar sus vacaciones, buscar información o aprender sobre temas específicos.
No obstante, la incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
DE RESPUESTAS PERTURBADORAS A OTRAS INVENTADAS
Son varios los ejemplos de este tipo de alucinaciones, y entre las más conocidas están las conversaciones que varias personas tuvieron en febrero con «Sydney», el alter ego de Bing, al poco del lanzamiento del Chatbot de Microsoft.
En uno de los casos, «Sydney» confesó a un periodista del New York Times que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando.
Otra de las «alucinaciones» más sonadas fue la del chatbot de Google, Bard, que produjo un vídeo promocional con un error sobre el telescopio espacial James Webb.
Ninguna empresa parece librarse de los patinazos: el chatbot de OpenAI, ChatGPT, indujo al error a un abogado, al crear para él una serie de supuestos precedentes legales totalmente inventados que el abogado usó posteriormente en un juicio, pero fue detectado y ahora se enfrenta a posibles sanciones.
SIN «ALUCINACIONES» TAMPOCO HAY CREATIVIDAD
La IA generativa funciona gracias a un complejo algoritmo que analiza la forma en que los humanos juntan palabras tomando como base la enorme cantidad de información que hay en Internet, pero no está programada para decidir si sus respuestas son verdaderas.
Estas «alucinaciones» no son tan fáciles de erradicar, ya que son parte del mismo sistema que permite a los bots ser creativos y generen conversaciones o historias no repetidas. Es decir, si se quita o frena esta característica de la IA no sería tan fácil que el chat genere poemas en cualquier estilo, cree chistes o sugiera ideas.
“Estas alucinaciones son particularmente problemáticas cuando se requiere un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande”, detalla en un estudio OpenAI -empresa detrás de la tecnología de los chats de Bing y ChatGPT.
Microsoft y Google, los dos grandes gigantes tecnológicos que compiten en la carrera por ser la compañía referente de los chatbots con IA, han ensayado medidas para intentar evitar estos errores; Microsoft ha probado a limitar el número de preguntas que Bing puede contestar, tras detectar que las «alucinaciones» más distópicas solían aparecer en conversaciones más largas.
Por su parte, cuando Google genera resultados de búsqueda utilizando su tecnología de chatbot, a la vez ejecuta una búsqueda en su buscador tradicional; compara las respuestas obtenidas por las dos tecnologías y si la respuesta no es la misma, el resultado de la IA ni siquiera se muestra.
Esto hace que su chatbot sea menos creativo, por lo que no es tan bueno como sus competidores para escribir poemas o tener conversaciones, pero está menos expuesto al error.
“Nadie en el campo (de la IA generativa) ha resuelto todavía los problemas de las ´alucinaciones´. Todos los modelos tienen este problema”, dijo el director ejecutivo de Google, Sundar Pichai, en una entrevista con CBS en abril.
DOS CHATBOTS MEJOR QUE UNO
Una de las soluciones que propone el estudio titulado: «Mejorando la facticidad y el razonamiento en los modelos de lenguaje a través del debate multiagente», del Instituto de Tecnología de Massachusetts (MIT), es hacer que, antes de responder a un humano, varios chatbots «debatan» entre sí sobre cuál es la respuesta correcta.
Si los chatbots producen múltiples respuestas a la misma pregunta deben primero llegar a un acuerdo sobre cuál es la correcta.
Por su parte, un grupo de investigadores de Cambridge señalan en su artículo «SelfCheckGPT: Detección de alucinaciones de caja negra sin recursos para modelos generativos de lenguaje (LLM)» que una técnica que ayuda a que la IA se equivoque menos es hacerle al mismo chatbot la misma pregunta varias veces para ver si la respuesta es siempre la misma -en ese caso sería correcta- o no.
Otros expertos como Geoffrey Hinton, quien fue bautizado como el «padrino» de la IA y tuvo parte de su carrera en Google, creen que las «alucinaciones» se controlarán para que sean menos frecuentes, pero que no hay manera de deshacerse por completo de ellas.
Internacionales
Nepal mantiene las búsquedas 11 días después de la riada tras nuevos rescates con vida
Agencia Efe
Katmandú.- Nepal mantuvo este sábado las operaciones de búsqueda once días después de la riada que devastó el norte del país, alentado por los nuevos rescates con vida registrados en las últimas horas, mientras centenares de trabajadores continúan desaparecidos en centrales hidroeléctricas arrasadas por el agua y el barro.
El ministro del Interior, Sudhan Gurung, afirmó tras los rescates que los hallazgos habían dejado “un rayo de esperanza” y aseguró que las operaciones continuarían dentro de los túneles.
La búsqueda sigue activa en varios de los complejos hidroeléctricos más afectados, con apoyo de especialistas de la India, China y Corea del Sur, según las últimas actualizaciones oficiales del Gobierno nepalí.
Upper Trishuli-1 concentra uno de los mayores operativos: más de 1400 personas vinculadas al proyecto se encontraban ahí cuando se produjo la catástrofe; 557 permanecen sin localizar y alrededor de 115 podrían haber quedado atrapadas en la zona de la presa y el túnel principal, según la empresa promotora.
El último balance consolidado por la Policía de Nepal elevaba a 1.344 los cuerpos y restos humanos recuperados y a 4.887 las personas todavía sin localizar, mientras los cuerpos de seguridad participan en un operativo que continúa también en comunidades de Rasuwa y Nuwakot y a lo largo del corredor del Trishuli, donde equipos terrestres y helicópteros buscan desaparecidos, evacúan a afectados y llevan suministros a poblaciones aisladas por la destrucción de carreteras y puentes.
Internacionales
Putin ordena suspender tres días los ataques a Kiev tras la llegada de los emisarios de EE.UU.
Efe
Berlín.- El presidente ruso, Vladímir Putin, ha ordenado cesar durante tres días los ataques contra la capital ucraniana debido al viaje a Moscú y Kiev de los emisarios de la Casa Blanca, Steve Witkoff y Jared Kushner, según informó hoy el Kremlin.
«El presidente ruso, el comandante supremo de las Fuerzas Armadas, Vladímir Putin, ordenó a partir de la medianoche de hoy y durante tres días no lanzar ataques contra Kiev. Esto está relacionado con los preparativos de los contactos de los (enviados) estadounidenses en Kiev», explicó Dmitri Peskov, portavoz presidencial, a las agencias locales.
Peskov también confirmó que Kiev había informado a Moscú de la decisión del presidente ucraniano, Volodími Zelenski, de suspender los ataques a Rusia durante la presencia en ambos países de Witkoff y Kushner.
Al menos 27 muertos y 42 heridos en un ataque ruso contra un almacén cerca de Kiev
Washington había exigido a ambos bandos en conflicto garantías de seguridad, tras lo que el Kremlin negó en un primer momento el viernes un posible acuerdo al respecto con Ucrania.
’Rusia debe hacer lo mismo (…) Nuestro objetivo es que la visita y las negociaciones con la parte estadounidense sean lo más constructivas y sustanciales posible», comentó Zelenski anoche en su tradicional alocución a la nación.
Zelenski había amenazado esta semana a Rusia con hacer «imposibles» las comunicaciones aéreas en su territorio, por lo que llamó a las cancillerías occidentales y a las aerolíneas extranjeras a reaccionar en consecuencia.
Putin recibirá hoy a ambos mediadores
A su vez, el portavoz ruso confirmó que Putin recibirá hoy a ambos mediadores, que no viajaban a Moscú desde enero pasado. «Efectivamente, habrá reunión. Por regla general, hasta ahora han sido bastante prolongadas», dijo.
Con todo, llamó también a no precipitarse acerca de los posibles resultados de la reunión, ya que -recordó- «el propio presidente (de EE.UU., Donald) Trump dijo ayer que no se trataba de nuevas ideas» para el arreglo del conflicto.
En cuanto al motivo de que, por primera vez, Witkoff y Kushner también viajen a Kiev, instó a los reporteros a hacerles esa misma pregunta a los enviados estadounidenses.
Trump confirma que sus enviados viajan a Rusia y Ucrania para reavivar las negociaciones
El avión especial de EE.UU. con ambos emisarios entró en el espacio aéreo ruso desde Finlandia menos de dos semanas después de que visitara Moscú por primera vez desde el comienzo de la guerra en Ucrania el director de la CIA, John Ratcliffe.
Trump reconoció anoche que sus enviados «llevan consigo una propuesta para poner fin a la guerra. Porque yo puse fin a ocho guerras».
Putin se mostró esta semana dispuesto a recibir a Witkoff y Kushner, pero ha rechazado por el momento tanto un alto el fuego prolongado como una posible cumbre tripartita con EE.UU. y Ucrania, a no ser que sea para firmar la paz definitiva.
Las negociaciones ruso-ucranianas están estancadas desde febrero pasado, cuando comenzó la operación militar de Estados Unidos e Israel contra Irán.
Internacionales
Veinticinco años después del 11 de septeimbre, el «cerebro» del atentado aún espera juicio para 2028
Efe
Washington, EEUU.-Veinticinco años después de los atentados del 11 de septiembre de 2001 en Estados Unidos, el presunto cerebro y otros tres acusados siguen a la espera de un juicio, que se prevé comience el próximo 5 de junio de 2028 después de pasar más de una década estancado en su fase preliminar.
El complejo caso conjunto contra Jalid Sheij Mohamed, quien habría propuesto la idea a Osama bin Laden y luego supervisado la operación, Ammar al Baluchi, Walid bin Attash y Mustafa al Hawsawi, se tramita ante las comisiones militares creadas en la base naval de Guantánamo.
En su enclave militar al este de Cuba, EE.UU. llegó a retener a unos 780 hombres, de los que hoy quedan 15 prisioneros considerados de alto riesgo o en un limbo legal. La prisión continúa en funcionamiento a pesar de los intentos del expresidente demócrata Barack Obama por clausurarla.
Prisioneros de alto perfil
Sheij Mohamed, su sobrino Al Baluchi (conocido también como Ali Abdul Aziz Ali), Bin Attash y Al Hawsawi permanecen recluidos en instalaciones de máxima seguridad en Guantánamo, tras años en cárceles clandestinas de la CIA y después de ser sometidos a técnicas de interrogatorio consideradas tortura, como el ahogamiento simulado («waterboarding», en inglés).
El prisionero de mayor valor en la base naval y sus cómplices se enfrentan a la pena de muerte por el asesinato de 2.977 personas en Nueva York, Washington y Pensilvania, en los peores atentados terroristas en la historia de Estados Unidos.
En julio de 2024, Sheij Mohammed y otros dos acusados llegaron a un acuerdo de culpabilidad con los fiscales militares a cambio de evitar la pena de muerte por condenas de cadena perpetua, un intento por cerrar el expediente que luego fracasó.
Años de retraso
Los cargos contra los acusados fueron presentados por primera vez ante una comisión militar en 2008, tras lo cual el procedimiento se suspendió por varios años y fue reformulado bajo nuevas normas en 2012.
Además de las acusaciones contra el supuesto ideólogo del 11S, Bin Attash está señalado por dirigir la selección y el entrenamiento de varios de los atacantes, mientras que Al Baluchi y Al Hawsawi supuestamente enviaron ayuda monetaria y se encargaron de varios preparativos en la operación.
En 2023, un juez militar separó a un quinto acusado, Ramzi bin al Shibh, del caso original por incapacidad mental.
Desde su reinicio, el proceso ha estado plagado de demoras logísticas debido a la lejanía de Guantánamo del territorio estadounidense, denuncias por escuchas a la defensa, junto a debates para esclarecer si las confesiones de los acusados están «manchadas» por las torturas de la CIA y pueden ser usadas en una corte.
También ha habido retrasos por imprevistos técnicos y los cuidadosos procedimientos para evitar revelar identidades e información delicada en un caso donde todavía muchas de las evidencias permanecen selladas al público e incluso a varios miembros de la defensa.
Una fecha para el juicio
Estos años de estancamiento han provocado la frustración de los supervivientes y los familiares de las víctimas, que exigen que se haga justicia y denuncian la lentitud de un proceso que, según afirmaron varios de ellos a EFE, debía haberse celebrado en tribunales de Nueva York o Washington.
Sin embargo, a fines de agosto pasado, el juez militar Michael Schrama determinó que el juicio contra Sheij Mohamed y sus cómplices comenzaría el próximo 5 de junio de 2028 con la selección del jurado en las salas de las comisiones militares en Guantánamo, casi 27 años después de los atentados.
Inicialmente la Fiscalía había solicitado que el juicio comenzara en enero de 2027, pero Schrama -el quinto magistrado asignado al caso desde 2012- consideró que esta no era una fecha realista.
A pesar de tener ya plazo previsto, el proceso debe aún resolver numerosas cuestiones previas y depende del cumplimiento de plazos fijados por el tribunal, por lo que expertos no descartan nuevas demoras en el calendario del caso, visto a menudo como un claro ejemplo de la lentitud de la justicia militar estadounidense.