Internacionales
Cómo evitar las «alucinaciones» o fallos de la IA
AGENCIA EFE
La incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
Nueva York, EE.UU.-Una de las mayores taras de los chatbots con inteligencia artificial (IA) generativa es que a veces dan respuestas bien estructuradas pero completamente incorrectas -que pueden ir desde un dato erróneo a una perturbadora conversación-, lo que se conoce en la industria de la tecnología como «alucinaciones», y los expertos se enfrentan ahora al reto de erradicarlas.
Desde que se popularizó esta tecnología el otoño pasado, millones de personas han comenzado a usar a diario estos chats para tareas como escribir un correo electrónico, organizar sus vacaciones, buscar información o aprender sobre temas específicos.
No obstante, la incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
DE RESPUESTAS PERTURBADORAS A OTRAS INVENTADAS
Son varios los ejemplos de este tipo de alucinaciones, y entre las más conocidas están las conversaciones que varias personas tuvieron en febrero con «Sydney», el alter ego de Bing, al poco del lanzamiento del Chatbot de Microsoft.
En uno de los casos, «Sydney» confesó a un periodista del New York Times que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando.
Otra de las «alucinaciones» más sonadas fue la del chatbot de Google, Bard, que produjo un vídeo promocional con un error sobre el telescopio espacial James Webb.
Ninguna empresa parece librarse de los patinazos: el chatbot de OpenAI, ChatGPT, indujo al error a un abogado, al crear para él una serie de supuestos precedentes legales totalmente inventados que el abogado usó posteriormente en un juicio, pero fue detectado y ahora se enfrenta a posibles sanciones.
SIN «ALUCINACIONES» TAMPOCO HAY CREATIVIDAD
La IA generativa funciona gracias a un complejo algoritmo que analiza la forma en que los humanos juntan palabras tomando como base la enorme cantidad de información que hay en Internet, pero no está programada para decidir si sus respuestas son verdaderas.
Estas «alucinaciones» no son tan fáciles de erradicar, ya que son parte del mismo sistema que permite a los bots ser creativos y generen conversaciones o historias no repetidas. Es decir, si se quita o frena esta característica de la IA no sería tan fácil que el chat genere poemas en cualquier estilo, cree chistes o sugiera ideas.
“Estas alucinaciones son particularmente problemáticas cuando se requiere un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande”, detalla en un estudio OpenAI -empresa detrás de la tecnología de los chats de Bing y ChatGPT.
Microsoft y Google, los dos grandes gigantes tecnológicos que compiten en la carrera por ser la compañía referente de los chatbots con IA, han ensayado medidas para intentar evitar estos errores; Microsoft ha probado a limitar el número de preguntas que Bing puede contestar, tras detectar que las «alucinaciones» más distópicas solían aparecer en conversaciones más largas.
Por su parte, cuando Google genera resultados de búsqueda utilizando su tecnología de chatbot, a la vez ejecuta una búsqueda en su buscador tradicional; compara las respuestas obtenidas por las dos tecnologías y si la respuesta no es la misma, el resultado de la IA ni siquiera se muestra.
Esto hace que su chatbot sea menos creativo, por lo que no es tan bueno como sus competidores para escribir poemas o tener conversaciones, pero está menos expuesto al error.
“Nadie en el campo (de la IA generativa) ha resuelto todavía los problemas de las ´alucinaciones´. Todos los modelos tienen este problema”, dijo el director ejecutivo de Google, Sundar Pichai, en una entrevista con CBS en abril.
DOS CHATBOTS MEJOR QUE UNO
Una de las soluciones que propone el estudio titulado: «Mejorando la facticidad y el razonamiento en los modelos de lenguaje a través del debate multiagente», del Instituto de Tecnología de Massachusetts (MIT), es hacer que, antes de responder a un humano, varios chatbots «debatan» entre sí sobre cuál es la respuesta correcta.
Si los chatbots producen múltiples respuestas a la misma pregunta deben primero llegar a un acuerdo sobre cuál es la correcta.
Por su parte, un grupo de investigadores de Cambridge señalan en su artículo «SelfCheckGPT: Detección de alucinaciones de caja negra sin recursos para modelos generativos de lenguaje (LLM)» que una técnica que ayuda a que la IA se equivoque menos es hacerle al mismo chatbot la misma pregunta varias veces para ver si la respuesta es siempre la misma -en ese caso sería correcta- o no.
Otros expertos como Geoffrey Hinton, quien fue bautizado como el «padrino» de la IA y tuvo parte de su carrera en Google, creen que las «alucinaciones» se controlarán para que sean menos frecuentes, pero que no hay manera de deshacerse por completo de ellas.
Estados Unidos.-Estados Unidos anunció este lunes que suspendió por dos meses sus sanciones al petróleo iraní, y aseguró que Irán volverá a recibir a inspectores nucleares de la ONU, tras unas conversaciones en Suiza destinadas a poner fin a la guerra en Oriente Medio.
El precio del petróleo Brent del mar del Norte, que este lunes ya cotizaba en torno a los 80 dólares el barril -tras haber alcanzado un pico de 126 dólares a finales de abril a causa de la guerra-, cayó tras el anuncio a 77,6 dólares.
La semana pasada, Irán y Estados Unidos firmaron un memorando de entendimiento que sentaba las bases para las negociaciones, tras casi 40 días de ataques seguidos de semanas de un alto al fuego violado con frecuencia.
La nueva fase de diálogo comenzó el domingo en Suiza, con el objetivo de alcanzar en un plazo de 60 días prorrogable un acuerdo definitivo en cuestiones como el programa nuclear iraní o las sanciones internacionales contra Teherán.
«Sentamos bases muy buenas para un acuerdo final exitoso», declaró JD Vance a los periodistas en el lujoso resort de Burgenstock, cerca de Lucerna, en los Alpes suizos, donde tienen lugar las conversaciones.
El vicepresidente aseguró, por ejemplo, que Irán había aceptado el regreso al país de los inspectores del Organismo Internacional de la Energía Atómica (OIEA).
«Es un hito importante para el pueblo estadounidense y el primer paso hacia la desnuclearización permanente», dijo.
El portavoz de la cancillería iraní, Esmail Baqai, afirmó este lunes que se produjo «una muy breve discusión sobre el tema nuclear, pero no se discutieron detalles» y las conversaciones sobre ese asunto no han comenzado.
– «Avances animadores» –
En las semanas y días previos a las reuniones entre Irán y Estados Unidos, los repetidos enfrentamientos en Líbano amenazaron con hacer descarrilar las conversaciones, con amenazas iraníes de volver a bloquear el estrecho de Ormuz.
El acuerdo establece el cese de hostilidades en todos los frentes, incluido Líbano, una de las principales reclamaciones de Teherán.
Pero los dirigentes israelíes manifestaron su desacuerdo con el texto e insisten en que sus tropas continúen ocupando el sur del Líbano, donde combaten al movimiento proiraní Hezbolá.
Pakistán y Catar, como países mediadores, aseguran que Teherán y Washington establecieron líneas de comunicación para atacar las hostilidades en territorio libanés y mantener abierto el estrecho de Ormuz.
A principios de la guerra, Irán cerró esa vía por la que antes circulaba un 20% de los hidrocarburos que se consumen a nivel mundial, lo que sacudió fuertemente la economía.
En las conversaciones en Suiza, las partes definieron «una hoja de ruta para alcanzar un pacto final en 60 días», indicaron Pakistán y Catar en un comunicado.
«Se han logrado avances alentadores, incluyendo la creación de un mecanismo para futuras conversaciones técnicas», agregaron, y citaron un canal de contactos para «evitar incidentes y fallas de comunicación» en el estrecho de Ormuz.
En el frente libanés, se creó una célula de gestión del conflicto en ese país, donde no se reportaron ataques israelíes ni combates el lunes por la mañana.
Desde el 2 de marzo, las operaciones israelíes en Líbano han matado a 4.106 personas, según el último balance del ministerio libanés de Salud. En el mismo período de tiempo, el ejército israelí informó el deceso de 36 militares.
Además, más de 11.000 edificios del sur de Líbano quedaron «completamente destruidos» por la guerra, indicaron este lunes el Programa de Naciones Unidas para el Desarrollo (PNUD) y el Consejo Nacional de Investigación Científica (CNRS) de Líbano, un instituto público.
Ambas entidades evaluaron en 1.380 millones de dólares el costo de los daños causados por el conflicto.
«La incansable mediación pakistaní y catarí propició grandes avances para terminar la guerra en Líbano», comentó en X el ministro iraní de Relaciones Exteriores, Abás Araqchi, tras la cita en Suiza.
«Se eximen las exportaciones de petróleo y petroquímicos, se levanta el bloqueo, se levantan algunos activos congelados y se pone en marcha un importante plan de reconstrucción y desarrollo para Irán», agregó.
JD Vance prometió no obstante que su país se asegurará de que el descongelamiento de activos «no [contribuirá] a financiar el terrorismo».
Agencia AFP
Whashington, EEUU. –El presidente estadounidense, Donald Trump, declaró este lunes que espera «con ganas» poder trabajar con el presidente electo colombiano, el ultraderechista Abelardo de la Espriella.
«¡Felicito a ‘El Tigre’!», como se conoce a De la Espriella, declaró Trump en su plataforma Truth Social.
«Espero con ganas de trabajar para construir una relación poderosa entre Colombia y Estados Unidos, que traerá nuevos niveles de grandeza a nuestros dos países», añadió el mandatario republicano, que respaldó rápidamente a De la Espriella en cuanto surgió en los sondeos.
«Cuando la gente me aprecia, los aprecio. Así de simple. Me dijo cosas lindas acerca de mí y acerca del trabajo que hemos hecho en Estados Unidos», comentó.
Washington «espera impulsar la cooperación en materia de seguridad regional, poner fin a la inmigración ilegal hacia Estados Unidos y fortalecer nuestros lazos económicos», indicó el domingo el secretario de Estado, Marco Rubio, poco después de anunciarse provisionalmente el triunfo del abogado conservador de 47 años.
Por EUROPA PRESS
WASHINGTON.- El vicepresidente de Estados Unidos, JD Vance, ha señalado este lunes «avances» en los contactos con Irán celebrados en Suiza hasta la madrugada del domingo, indicando que hay «una muy buena base» para un acuerdo final, al tiempo que ha apuntado a inmediatas inspecciones nucleares en el país asiático.
«Hemos sentado una muy buena base para un acuerdo final exitoso. El acuerdo final es la ‘casa’. Hemos establecido los cimientos; no hemos construido la casa, pero hemos sentado una base sólida para llegar a un buen punto para el pueblo estadounidense», ha declarado en rueda de prensa desde Burgenstock, el resort de lujo donde se han reunido Estados Unidos e Irán con mediación de Pakistán y Qatar.
En este sentido, ha indicado que las conversaciones han permitido «avanzar mucho», pese a que queda trabajo por hacer en las negociaciones nucleares, económicas o en tareas en el estrecho de Ormuz como el desminando y la restauración del tráfico marítimo.
«Se ha avanzado mucho, pero todavía queda trabajo por hacer, y estamos muy comprometidos a hacerlo exactamente así», ha indicado el ‘número dos’ de la Casa Blanca, tras su reunión con la deleración iraní en Suiza.
En el marco de estos contactos, Estados Unidos ha destacado que Irán permitirá el regreso de las inspecciones nucleares del Organismo Internacional de la Energía Atómica (OIEA), por primera vez desde el ataque del pasado 28 de febrero, en unos trabajos que ha sugerido que serán inmediatos.
«Anoche, sobre las dos de la madrugada, intentamos llamar a algunos inspectores. Como es de esperar, a esas horas no había mucha gente contestando al teléfono. Pero creemos que algunas de esas conversaciones con los inspectores y con el OIEA podrían tener lugar incluso hoy mismo», ha detallado sobre el plazo para las revisiones de las instalaciones nucleares iraníes, uno de los elementos incluido en el acuerdo preliminar firmado por Washington y Teherán la semana pasada para cesar las hostilidades y reabrir el paso de Ormuz que debe llevar a negociaciones con el plazo de 60 días para un acuerdo final más amplio que contenga también compromisos en materia nuclear.
Respecto a la situación en Líbano, donde Israel continúa con sus ataques y su presencia militar, Vance ha evitado señalar la retirada de las tropas israelíes como una condición para fijar el acuerdo final, como sostiene Irán, y se ha limitado a indicar que importa tanto la seguridad de Israel como la soberanía de Líbano.
«Esto va a ser una conversación continua. Los israelíes han sido muy claros: no tienen intenciones territoriales en el sur de Líbano», ha admitido, indicando que el partido-milicia chií Hezbolá representa una amenaza con el lanzamiento continuo de proyectiles contra el norte de Israel.
of-am