Internacionales
Cómo evitar las «alucinaciones» o fallos de la IA
AGENCIA EFE
La incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
Nueva York, EE.UU.-Una de las mayores taras de los chatbots con inteligencia artificial (IA) generativa es que a veces dan respuestas bien estructuradas pero completamente incorrectas -que pueden ir desde un dato erróneo a una perturbadora conversación-, lo que se conoce en la industria de la tecnología como «alucinaciones», y los expertos se enfrentan ahora al reto de erradicarlas.
Desde que se popularizó esta tecnología el otoño pasado, millones de personas han comenzado a usar a diario estos chats para tareas como escribir un correo electrónico, organizar sus vacaciones, buscar información o aprender sobre temas específicos.
No obstante, la incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
DE RESPUESTAS PERTURBADORAS A OTRAS INVENTADAS
Son varios los ejemplos de este tipo de alucinaciones, y entre las más conocidas están las conversaciones que varias personas tuvieron en febrero con «Sydney», el alter ego de Bing, al poco del lanzamiento del Chatbot de Microsoft.
En uno de los casos, «Sydney» confesó a un periodista del New York Times que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando.
Otra de las «alucinaciones» más sonadas fue la del chatbot de Google, Bard, que produjo un vídeo promocional con un error sobre el telescopio espacial James Webb.
Ninguna empresa parece librarse de los patinazos: el chatbot de OpenAI, ChatGPT, indujo al error a un abogado, al crear para él una serie de supuestos precedentes legales totalmente inventados que el abogado usó posteriormente en un juicio, pero fue detectado y ahora se enfrenta a posibles sanciones.
SIN «ALUCINACIONES» TAMPOCO HAY CREATIVIDAD
La IA generativa funciona gracias a un complejo algoritmo que analiza la forma en que los humanos juntan palabras tomando como base la enorme cantidad de información que hay en Internet, pero no está programada para decidir si sus respuestas son verdaderas.
Estas «alucinaciones» no son tan fáciles de erradicar, ya que son parte del mismo sistema que permite a los bots ser creativos y generen conversaciones o historias no repetidas. Es decir, si se quita o frena esta característica de la IA no sería tan fácil que el chat genere poemas en cualquier estilo, cree chistes o sugiera ideas.
“Estas alucinaciones son particularmente problemáticas cuando se requiere un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande”, detalla en un estudio OpenAI -empresa detrás de la tecnología de los chats de Bing y ChatGPT.
Microsoft y Google, los dos grandes gigantes tecnológicos que compiten en la carrera por ser la compañía referente de los chatbots con IA, han ensayado medidas para intentar evitar estos errores; Microsoft ha probado a limitar el número de preguntas que Bing puede contestar, tras detectar que las «alucinaciones» más distópicas solían aparecer en conversaciones más largas.
Por su parte, cuando Google genera resultados de búsqueda utilizando su tecnología de chatbot, a la vez ejecuta una búsqueda en su buscador tradicional; compara las respuestas obtenidas por las dos tecnologías y si la respuesta no es la misma, el resultado de la IA ni siquiera se muestra.
Esto hace que su chatbot sea menos creativo, por lo que no es tan bueno como sus competidores para escribir poemas o tener conversaciones, pero está menos expuesto al error.
“Nadie en el campo (de la IA generativa) ha resuelto todavía los problemas de las ´alucinaciones´. Todos los modelos tienen este problema”, dijo el director ejecutivo de Google, Sundar Pichai, en una entrevista con CBS en abril.
DOS CHATBOTS MEJOR QUE UNO
Una de las soluciones que propone el estudio titulado: «Mejorando la facticidad y el razonamiento en los modelos de lenguaje a través del debate multiagente», del Instituto de Tecnología de Massachusetts (MIT), es hacer que, antes de responder a un humano, varios chatbots «debatan» entre sí sobre cuál es la respuesta correcta.
Si los chatbots producen múltiples respuestas a la misma pregunta deben primero llegar a un acuerdo sobre cuál es la correcta.
Por su parte, un grupo de investigadores de Cambridge señalan en su artículo «SelfCheckGPT: Detección de alucinaciones de caja negra sin recursos para modelos generativos de lenguaje (LLM)» que una técnica que ayuda a que la IA se equivoque menos es hacerle al mismo chatbot la misma pregunta varias veces para ver si la respuesta es siempre la misma -en ese caso sería correcta- o no.
Otros expertos como Geoffrey Hinton, quien fue bautizado como el «padrino» de la IA y tuvo parte de su carrera en Google, creen que las «alucinaciones» se controlarán para que sean menos frecuentes, pero que no hay manera de deshacerse por completo de ellas.
Washington, Estados Unidos. – La ejecución de Nidal Hasan, condenado a muerte por la masacre ocurrida en la base militar de Fort Hood en 2009, será transmitida en vivo y tendrá carácter público, según informó este jueves un funcionario del Pentágono a la agencia AFP.
El funcionario, que habló bajo condición de anonimato, confirmó que el procedimiento será difundido en directo y señaló que se ofrecerán más detalles posteriormente. De concretarse, sería el primer fusilamiento ejecutado por las Fuerzas Armadas estadounidenses desde 1961.
Horas antes, el secretario de Defensa de Estados Unidos, Pete Hegseth, había anunciado que la ejecución se realizaría mediante un pelotón de fusilamiento y que el público tendría la posibilidad de presenciarla.
“Será ejecutado por un pelotón de fusilamiento, como debe ser, y nos aseguraremos de que la gente pueda presenciarlo, que sea público”, expresó Hegseth durante una conversación con el influencer y activista conservador Jack Posobiec.
Las declaraciones fueron difundidas en un video compartido en la red social X por varias cuentas oficiales del Departamento de Defensa.
La masacre de Fort Hood
Nidal Hasan, quien se desempeñaba como psiquiatra del Ejército estadounidense, fue condenado a muerte por el ataque perpetrado en noviembre de 2009 en la instalación militar de Fort Hood, en Texas.
El tiroteo dejó 13 personas muertas y 30 heridas. Doce de las víctimas mortales y 30 de los heridos pertenecían a las Fuerzas Armadas.
Durante el ataque, Hasan fue alcanzado por disparos de una agente de la Policía civil, lo que le provocó una parálisis parcial.
El caso se convirtió en uno de los episodios de violencia más graves registrados en una instalación militar estadounidense y dio lugar a un proceso judicial que culminó con su condena a muerte.
El anuncio sobre la modalidad de ejecución ha generado atención por el carácter público que las autoridades pretenden darle y por el uso de un método que las Fuerzas Armadas de Estados Unidos no emplean para ejecutar a un condenado desde hace más de seis décadas.
Agencia AP
Washington, Estados Unidos.-El presidente Donald Trump afirmó el jueves que no ordenará la reanudación de los ataques militares contra Irán antes de las elecciones legislativas de mitad de mandato del 3 de noviembre en Estados Unidos.
Trump, mientras hacía campaña por los republicanos esta semana, insinuó que confiaba en que el desenlace de la guerra podría llegar en los días previos o posteriores a las elecciones, y también dejó entrever que seguía abierto a reanudar operaciones militares a gran escala contra Irán.
Durante semanas, Trump ha estado amenazando con que una escalada posterior a las elecciones en la guerra de siete meses de antigüedad sigue siendo una opción viable, pese a sus promesas iniciales a los estadounidenses de una campaña militar que duraría solo unas semanas.
Trump añadió que su equipo ha estado “manteniendo conversaciones productivas con la República Islámica de Irán”.
Estados Unidos e Irán firmaron en junio un acuerdo interino de corta duración, destinado a establecer un alto el fuego de 60 días y un marco para un acuerdo de paz permanente.
Las negociaciones parecían estar estancadas desde que Trump, a finales del mes pasado, rechazó públicamente la propuesta de Irán de reabrir el estrecho de Ormuz en un plazo de siete días si Estados Unidos cumplía ciertas condiciones.
Irán, sin embargo, indicó la semana pasada que había recibido una contrapropuesta de Estados Unidos. Y el ministro de Exteriores, Abbas Araghchi, manifestó el jueves queprobablemente habrá una respuesta formal en cuestión de días.
Pero al mismo tiempo, Trump sugirió que tenía sentimientos encontrados sobre poner fin a la guerra en este momento.
“Creo que el acuerdo no es realmente algo que yo quiera hacer, pero ellos están dispuestos a ofrecernos cualquier cosa para que pare”, aseveró el mandatario.
pérdida de los flujos de petróleo
Irán ha perdido su casi control asfixiante sobre los flujos de petróleo a través de la vital vía marítima, con el Comando Central de Estados Unidos escoltando a los petroleros a través del estrecho por la noche con sus sistemas de localización apagados.
Eso, con la ayuda de oleoductos que evitan el estrecho, ha permitido a los países del Golfo Pérsico exportar petróleo a niveles casi anteriores a la guerra.
Pero Irán ha intensificado los ataques contra petroleros que pasan por el estrecho en los últimos días. Y en general, el tráfico marítimo sigue muy por debajo de los niveles anteriores a la guerra, al igual que los envíos de gas natural licuado y productos combustibles.
Los operadores de petroleros dispuestos a arriesgarse a pasar por el peligroso trayecto bajo la protección del Comando Central están en algunos casos cobrando tarifas de 1 millón de dólares al día o más, según analistas del transporte marítimo.
La situación se ha complicado aún más, ya que Arabia Saudí y el gobierno de Yemen han lanzado una campaña militar destinada a expulsar del estrecho de Bab el-Mandeb, otra ruta comercial crítica de Oriente Medio para el petróleo y otros bienes, a los rebeldes hutíes respaldados por Irán. Los hutíes, a su vez, están atacando aeropuertos saudíes e infraestructura clave en el reino con ataques de drones y misiles.
La publicación de Trump se produce mientras el ejército ha enviado más recursos a la región. Funcionarios de Estados Unidos han dicho que el portaaviones USS Theodore Roosevelt y sus buques escolta podrían llegar tan pronto como a finales de octubre.
El anuncio de Trump se hizo el mismo día en que el USS Abraham Lincoln debía llegar a su puerto base en San Diego tras un despliegue de duración récord en apoyo de la guerra contra Irán. Ha habido reportes de estrés entre la tripulación y de mala salud mental, así como de escasez de suministros, incluidos alimentos y productos de higiene.
El USS George Washington, que normalmente tiene su base en Asia, relevó al Lincoln en agosto. El otro portaaviones en Oriente Medio, el USS George H.W. Bush, ha estado desplegado durante unos seis meses, pero hizo escala en Phuket, Tailandia, para una visita al puerto hace varios días.
Internacionales
La jueza sudafricana Navi Pillay gana el Premio Nobel de la Paz; bromea con compartirlo con Trump
Agencia AFP
Defendió a activistas contra el apartheid como Nelson Mandela y consiguió derechos fundamentales para los presos políticos, hasta el Tribunal Penal Internacional para Ruanda
a sudafricana Navi Pillay, defensora de Nelson Mandela y exjueza de la CPI, ganó este viernes el Nobel de la Paz por sus esfuerzos a favor del derecho internacional cuando, según el jurado, la justicia está «bajo ataque».
Navanethem «Navi» Pillay domina el arte de los casos difíciles. Abogada de origen indio en la Sudáfrica del apartheid, llegó a ser jueza y alta comisionada para los Derechos Humanos de la ONU (2008-2014).
Su carrera la ha llevado desde los tribunales sudafricanos, donde defendió a activistas contra el apartheid como Nelson Mandela y consiguió derechos fundamentales para los presos políticos, hasta el Tribunal Penal Internacional para Ruanda, pasando por la Corte Penal Internacional (CPI).
Este es uno de los motivos por los que el Nobel de la Paz de este año posiblemente escueza al presidente estadounidense Donald Trump, quien desde su regreso a la Casa Blanca ha reiterado una y otra vez lo mucho que le gustaría que se lo dieran.
«Quizá comparta el premio con Trump»
En el caso de Pillay, la primera reacción al conocer el galardón fue pensar que era una broma: «Como abogada y jueza, sigo queriendo verificarlo», afirmó.
La jurista mencionó su labor al frente de la Comisión Internacional Independiente de Investigación de la ONU.
«Lo último que hice fue presentar el informe sobre Gaza, en el que calificaba lo que está ocurriendo allí como genocidio», afirmó.
«Una de las principales reacciones a ese informe es rendirme homenaje por mi valentía. Y pueden imaginarse lo sorprendida que estaba, ¿por qué necesitaría valor para decir la verdad?», añadió ella.
En 2024 la CPI emitió una orden de detención contra el primer ministro israelí, Benjamin Netanyahu, por presuntos crímenes de guerra en Gaza, y contra varios miembros del movimiento islamista palestino Hamás ya fallecidos.
Washington considera que es una institución «politizada», y en la pasada Asamblea General de la ONU, en septiembre, el presidente Trump pidió a todos los países miembros «retirarse oficial e inmediatamente».
El Comité Nobel marca distancias sin embargo con las conclusiones del informe sobre Gaza.
«No somos un tribunal»
«No somos un tribunal. Se trata de su informe, del informe de la comisión, y por supuesto tenemos una gran confianza en su profesionalismo y su integridad», dijo su presidente Jørgen Watne Frydnes, a la AFP.
El Comité Nobel Noruego dice haber otorgado el prestigioso premio a la sudafricana por «promover la paz y el derecho internacional».
«Ha sido fundamental para asegurar que los crímenes de guerra, los crímenes de lesa humanidad y el genocidio sean perseguidos», afirmó el jurado, que alabó su «brújula moral».
En una época marcada por muchas guerras y conflictos el derecho internacional ya no es solo un complemento de la paz y la seguridad. «Es una necesidad absoluta», afirma el comité Nobel.
La justicia internacional «está bajo tremenda presión y sus instituciones bajo ataque», recalcó.
En la actualidad Navi Pillay es magistrada de la Corte Internacional de Justicia en el caso en el que se acusa a Birmania de genocidio.
El Nobel de la Paz otorgado a Navi Pillay da fe «de la necesidad y el valor» de los derechos humanos, destacó la ONU inmediatamente después del anuncio.
Para la presidenta de la CPI, Tomoko Akane, el galardón reviste «una importancia especial» en un momento de «grandes desafíos para el orden jurídico internacional y el Estado de derecho».
El premio consiste en una medalla de oro, un diploma y 1,2 millones de dólares.
Se entregará en una ceremonia oficial en Oslo el 10 de diciembre, cuando se conmemora el aniversario de la muerte, en 1896, del creador de los premios, el inventor y filántropo sueco Alfred Nobel.