Internacionales
Cómo evitar las «alucinaciones» o fallos de la IA
AGENCIA EFE
La incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
Nueva York, EE.UU.-Una de las mayores taras de los chatbots con inteligencia artificial (IA) generativa es que a veces dan respuestas bien estructuradas pero completamente incorrectas -que pueden ir desde un dato erróneo a una perturbadora conversación-, lo que se conoce en la industria de la tecnología como «alucinaciones», y los expertos se enfrentan ahora al reto de erradicarlas.
Desde que se popularizó esta tecnología el otoño pasado, millones de personas han comenzado a usar a diario estos chats para tareas como escribir un correo electrónico, organizar sus vacaciones, buscar información o aprender sobre temas específicos.
No obstante, la incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
DE RESPUESTAS PERTURBADORAS A OTRAS INVENTADAS
Son varios los ejemplos de este tipo de alucinaciones, y entre las más conocidas están las conversaciones que varias personas tuvieron en febrero con «Sydney», el alter ego de Bing, al poco del lanzamiento del Chatbot de Microsoft.
En uno de los casos, «Sydney» confesó a un periodista del New York Times que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando.
Otra de las «alucinaciones» más sonadas fue la del chatbot de Google, Bard, que produjo un vídeo promocional con un error sobre el telescopio espacial James Webb.
Ninguna empresa parece librarse de los patinazos: el chatbot de OpenAI, ChatGPT, indujo al error a un abogado, al crear para él una serie de supuestos precedentes legales totalmente inventados que el abogado usó posteriormente en un juicio, pero fue detectado y ahora se enfrenta a posibles sanciones.
SIN «ALUCINACIONES» TAMPOCO HAY CREATIVIDAD
La IA generativa funciona gracias a un complejo algoritmo que analiza la forma en que los humanos juntan palabras tomando como base la enorme cantidad de información que hay en Internet, pero no está programada para decidir si sus respuestas son verdaderas.
Estas «alucinaciones» no son tan fáciles de erradicar, ya que son parte del mismo sistema que permite a los bots ser creativos y generen conversaciones o historias no repetidas. Es decir, si se quita o frena esta característica de la IA no sería tan fácil que el chat genere poemas en cualquier estilo, cree chistes o sugiera ideas.
“Estas alucinaciones son particularmente problemáticas cuando se requiere un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande”, detalla en un estudio OpenAI -empresa detrás de la tecnología de los chats de Bing y ChatGPT.
Microsoft y Google, los dos grandes gigantes tecnológicos que compiten en la carrera por ser la compañía referente de los chatbots con IA, han ensayado medidas para intentar evitar estos errores; Microsoft ha probado a limitar el número de preguntas que Bing puede contestar, tras detectar que las «alucinaciones» más distópicas solían aparecer en conversaciones más largas.
Por su parte, cuando Google genera resultados de búsqueda utilizando su tecnología de chatbot, a la vez ejecuta una búsqueda en su buscador tradicional; compara las respuestas obtenidas por las dos tecnologías y si la respuesta no es la misma, el resultado de la IA ni siquiera se muestra.
Esto hace que su chatbot sea menos creativo, por lo que no es tan bueno como sus competidores para escribir poemas o tener conversaciones, pero está menos expuesto al error.
“Nadie en el campo (de la IA generativa) ha resuelto todavía los problemas de las ´alucinaciones´. Todos los modelos tienen este problema”, dijo el director ejecutivo de Google, Sundar Pichai, en una entrevista con CBS en abril.
DOS CHATBOTS MEJOR QUE UNO
Una de las soluciones que propone el estudio titulado: «Mejorando la facticidad y el razonamiento en los modelos de lenguaje a través del debate multiagente», del Instituto de Tecnología de Massachusetts (MIT), es hacer que, antes de responder a un humano, varios chatbots «debatan» entre sí sobre cuál es la respuesta correcta.
Si los chatbots producen múltiples respuestas a la misma pregunta deben primero llegar a un acuerdo sobre cuál es la correcta.
Por su parte, un grupo de investigadores de Cambridge señalan en su artículo «SelfCheckGPT: Detección de alucinaciones de caja negra sin recursos para modelos generativos de lenguaje (LLM)» que una técnica que ayuda a que la IA se equivoque menos es hacerle al mismo chatbot la misma pregunta varias veces para ver si la respuesta es siempre la misma -en ese caso sería correcta- o no.
Otros expertos como Geoffrey Hinton, quien fue bautizado como el «padrino» de la IA y tuvo parte de su carrera en Google, creen que las «alucinaciones» se controlarán para que sean menos frecuentes, pero que no hay manera de deshacerse por completo de ellas.
Agencia Efe
Lisboa.- Varias decenas de personas protestaron este lunes en Lisboa contra el ataque de Estados Unidos en Venezuela y la captura el pasado sábado del presidente venezolano, Nicolás Maduro.
Concentración frente a la estatua de Simón Bolívar
Los manifestantes, en su mayoría portugueses, se concentraron delante de la estatua de Simón Bolívar, que se encuentra en la céntrica Avenida da Liberdade, con cánticos como «Venezuela no se rinde, la soberanía no se vende», «Venezuela no está sola» y «Venezuela soberana y bolivariana».
Entre los asistentes también se podían ver carteles con fotos de Maduro y mensajes pidiendo su liberación, pancartas en las que exigían la no intervención estadounidense, así como banderas venezolanas y cubanas.
Convocatoria y declaraciones del CPPC
La protesta fue convocada por varias organizaciones, entre ellas el Consejo Portugués para la Paz y la Cooperación (CPPC), contra «las amenazas y las agresiones de Estados Unidos», así como para pedir a la comunidad internacional y al Gobierno portugués que condenen sus acciones.
«El Gobierno portugués, al no condenar este acto, está violando lo establecido en nuestra Constitución, que establece que las relaciones entre los pueblos deben basarse en el respeto por la soberanía, la autodeterminación y la libre elección de su destino», dijo a EFE Isabel Camarinha, presidenta del CPPC.
Camarinha agregó que detrás de la acción de Washington «están los intereses del petróleo y las inmensas riquezas que quieren de Venezuela y otros países de América Latina y del Caribe». «Esta amenaza de Trump ahora se ha materializado en Venezuela, pero ya amenaza también a otros países de América Latina«, concluyó.
Diversos sectores políticos, sociales y organizaciones civiles en Europa y América Latina han expresado históricamente su oposición a sanciones, bloqueos económicos y acciones militares que consideran violatorias de la soberanía venezolana.
Agencias
Mientras el país despertaba con la noticia de la caída del régimen, una pregunta comenzó a resonar entre analistas y ciudadanos: ¿por qué figuras clave como Diosdado Cabello y Vladimir Padrino López permanecieron en libertad y no fueron arrestadas durante el operativo?
Según explicó el secretario de Estado de Estados Unidos, Marco Rubio, en una entrevista concedida a la cadena CBS News, la decisión no fue producto de la improvisación, sino el resultado de una estrategia cuidadosamente planificada. El objetivo principal de la operación era capturar al hombre que, en palabras de Rubio, “afirmaba ser el presidente del país, sin serlo”, quien encabezaba la lista de prioridades para Washington.
Rubio precisó que tanto Nicolás Maduro como su esposa fueron arrestados en el marco de la operación, al estar señalados por delitos. Al ser consultado sobre si otras figuras del régimen, como Diosdado Cabello y Padrino López, continúan siendo buscadas por la justicia estadounidense, el funcionario respondió que la operación no contemplaba una intervención prolongada ni múltiples detenciones simultáneas.
“No vamos a entrar y simplemente capturarlos a todos. Imaginen la reacción internacional si hubiéramos tenido que permanecer allí varios días para arrestar a otras personas”, explicó Rubio. “Conseguimos lo prioritario. El número uno en la lista era el hombre que decía ser el presidente del país, y fue arrestado junto con su esposa, quien también está acusada”.
El secretario de Estado subrayó la complejidad logística del operativo, que incluyó el aterrizaje de helicópteros en una de las bases militares más resguardadas del país, la irrupción en la residencia de Maduro, su detención formal y su extracción del territorio venezolano en cuestión de minutos, todo sin bajas entre el personal estadounidense.
Para quienes veían en la operación una oportunidad para desmantelar por completo el círculo cercano del régimen, Rubio aclaró que la decisión respondió a un cálculo estratégico y a la necesidad de priorizar objetivos. “¿Esperaban que aterrizáramos en otras cinco bases militares?”, cuestionó. Según explicó, la misión fue diseñada para minimizar riesgos y asegurar el éxito del objetivo central: la captura de Nicolás Maduro.
Internacionales
Nicolás Maduro: Soy el presidente de Venezuela y me considero un prisionero de guerra
Agencia EFE
Nueva York, Estados Unidos.-El presidente de Venezuela, Nicolás Maduro, aseveró este lunes en su primera comparecencia ante el tribunal del Distrito Sur de Nueva York (SDNY) que sigue siendo el presidente del país suramericano y que se considera «un prisionero de guerra«.
«Soy el presidente de Venezuela y me considero un prisionero de guerra. Fui capturado en mi casa en Caracas», afirmó Maduro durante la vista, en la que tanto él como su esposa, Cilia Flores, se declararon no culpables de los cargos que afrontan.