Internacionales
Cómo evitar las «alucinaciones» o fallos de la IA
AGENCIA EFE
La incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
Nueva York, EE.UU.-Una de las mayores taras de los chatbots con inteligencia artificial (IA) generativa es que a veces dan respuestas bien estructuradas pero completamente incorrectas -que pueden ir desde un dato erróneo a una perturbadora conversación-, lo que se conoce en la industria de la tecnología como «alucinaciones», y los expertos se enfrentan ahora al reto de erradicarlas.
Desde que se popularizó esta tecnología el otoño pasado, millones de personas han comenzado a usar a diario estos chats para tareas como escribir un correo electrónico, organizar sus vacaciones, buscar información o aprender sobre temas específicos.
No obstante, la incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
DE RESPUESTAS PERTURBADORAS A OTRAS INVENTADAS
Son varios los ejemplos de este tipo de alucinaciones, y entre las más conocidas están las conversaciones que varias personas tuvieron en febrero con «Sydney», el alter ego de Bing, al poco del lanzamiento del Chatbot de Microsoft.
En uno de los casos, «Sydney» confesó a un periodista del New York Times que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando.
Otra de las «alucinaciones» más sonadas fue la del chatbot de Google, Bard, que produjo un vídeo promocional con un error sobre el telescopio espacial James Webb.
Ninguna empresa parece librarse de los patinazos: el chatbot de OpenAI, ChatGPT, indujo al error a un abogado, al crear para él una serie de supuestos precedentes legales totalmente inventados que el abogado usó posteriormente en un juicio, pero fue detectado y ahora se enfrenta a posibles sanciones.
SIN «ALUCINACIONES» TAMPOCO HAY CREATIVIDAD
La IA generativa funciona gracias a un complejo algoritmo que analiza la forma en que los humanos juntan palabras tomando como base la enorme cantidad de información que hay en Internet, pero no está programada para decidir si sus respuestas son verdaderas.
Estas «alucinaciones» no son tan fáciles de erradicar, ya que son parte del mismo sistema que permite a los bots ser creativos y generen conversaciones o historias no repetidas. Es decir, si se quita o frena esta característica de la IA no sería tan fácil que el chat genere poemas en cualquier estilo, cree chistes o sugiera ideas.
“Estas alucinaciones son particularmente problemáticas cuando se requiere un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande”, detalla en un estudio OpenAI -empresa detrás de la tecnología de los chats de Bing y ChatGPT.
Microsoft y Google, los dos grandes gigantes tecnológicos que compiten en la carrera por ser la compañía referente de los chatbots con IA, han ensayado medidas para intentar evitar estos errores; Microsoft ha probado a limitar el número de preguntas que Bing puede contestar, tras detectar que las «alucinaciones» más distópicas solían aparecer en conversaciones más largas.
Por su parte, cuando Google genera resultados de búsqueda utilizando su tecnología de chatbot, a la vez ejecuta una búsqueda en su buscador tradicional; compara las respuestas obtenidas por las dos tecnologías y si la respuesta no es la misma, el resultado de la IA ni siquiera se muestra.
Esto hace que su chatbot sea menos creativo, por lo que no es tan bueno como sus competidores para escribir poemas o tener conversaciones, pero está menos expuesto al error.
“Nadie en el campo (de la IA generativa) ha resuelto todavía los problemas de las ´alucinaciones´. Todos los modelos tienen este problema”, dijo el director ejecutivo de Google, Sundar Pichai, en una entrevista con CBS en abril.
DOS CHATBOTS MEJOR QUE UNO
Una de las soluciones que propone el estudio titulado: «Mejorando la facticidad y el razonamiento en los modelos de lenguaje a través del debate multiagente», del Instituto de Tecnología de Massachusetts (MIT), es hacer que, antes de responder a un humano, varios chatbots «debatan» entre sí sobre cuál es la respuesta correcta.
Si los chatbots producen múltiples respuestas a la misma pregunta deben primero llegar a un acuerdo sobre cuál es la correcta.
Por su parte, un grupo de investigadores de Cambridge señalan en su artículo «SelfCheckGPT: Detección de alucinaciones de caja negra sin recursos para modelos generativos de lenguaje (LLM)» que una técnica que ayuda a que la IA se equivoque menos es hacerle al mismo chatbot la misma pregunta varias veces para ver si la respuesta es siempre la misma -en ese caso sería correcta- o no.
Otros expertos como Geoffrey Hinton, quien fue bautizado como el «padrino» de la IA y tuvo parte de su carrera en Google, creen que las «alucinaciones» se controlarán para que sean menos frecuentes, pero que no hay manera de deshacerse por completo de ellas.
Europa Press
España.-El Partido Popular español, haciendo uso de su mayoría en el Senado, ha aprobado una iniciativa en la que reclama al Gobierno un informe detallado motivando las razones de cada uno de los vuelos del Falcon con destino final o escala de repostaje en la República Dominicana desde la llegada de Sánchez a Moncloa, así como explicar si participaron en estos viajes el exministro José Luis Ábalos, su exasesor Koldo García o la esposa del presidente del Gobierno, Begoña Gómez.
Asimismo, el PP quiere que el Gobierno identifique y detalle «de manera individualizada» a los cargos públicos, asesores y demás acompañantes, excluyendo a militares y personal perteneciente a la Casa Real, que hayan formado parte de cada uno de esos vuelos a República Dominicana.
Internacionales
Estados Unidos deporta a Osiel Cárdenas Guillén, el sanguinario exlíder del Cartel del Golfo
El capo de 57 años ha sido ingresado al penal del Altiplano y enfrenta tres procesos federales
Los Ángeles.-Osiel Cárdenas Guillén va de vuelta a México, el país en el que impuso su ley del terror como líder del Cártel del Golfo (CDG). El narcotraficante, conocido en el bajo mundo con el apodo de mata amigos, ha sido deportado este lunes desde Estados Unidos, donde cumplió algo más de la mitad de una condena de 25 años por su buena conducta. El capo no será hombre libre en su país. Las autoridades federales mexicanas han confirmado a este diario que Cárdenas, de 57 años, ha sido trasladado al penal del Altiplano donde enfrentará tres procesos, por delincuencia organizada, delitos contra la salud y lavado de dinero.
La entrega del capo ha sido confirmada esta tarde por las autoridades de Seguridad Interior en San Antonio, Texas. “Después de 14 años en prisión, Osiel Cárdenas, un ciudadano mexicano y antiguo líder del Golfo y Los Zetas ha sido regresado a México”, informó la institución en las redes sociales. La rendición del capo ante las autoridades mexicanas tuvo lugar en un puente fronterizo del Valle del Río Grande, una zona que colinda con el Estado de Tamaulipas, la región desde la que Cárdenas operó para traficar cocaína y marihuana a suelo estadounidense.
Cárdenas fue liberado a finales de agosto de la prisión de Terre Haute, en el Estado de Indiana. El capo estaba sujeto a cinco años de libertad condicional tras recobrar su libertad. Pero su deportación era inminente desde entonces, cuando su custodia pasó a manos del Servicio de Control de Inmigración y Aduanas (ICE, por sus siglas en inglés). Las autoridades migratorias han cortado su periodo de libertad a cuatro meses. La Fiscalía mexicana reclamaba al capo, también conocido como El ingeniero, por varios procesos judiciales federales vinculados al tráfico de drogas.
Cárdenas llegó a Estados Unidos desde México en enero de 2007, apenas meses después de que el presidente Felipe Calderón asumiera el cargo e iniciara una serie acciones judiciales y sobre el terreno en contra de los cárteles del narcotráfico. Una de sus decisiones fue enviar al sanguinario líder del CDG a enfrentar a las autoridades estadounidenses. Osiel no llegó solo, fue parte de un traslado que incluyó a 14 personas que estaban en prisiones mexicanas, entre ellas Héctor El Güero Palma, uno de los viejos socios de Joaquín El Chapo Guzmán en el Cártel de Sinaloa.
El entonces capo fue recluido en una prisión de máxima seguridad de Texas. Su juicio fue aplazado en dos ocasiones y el interés mediático que despertó en Estados Unidos se fue diluyendo. Fue finalmente sentenciado de forma secreta tres años después de su llegada al país, en febrero de 2010. La jueza encargada de la sentencia dictó un “secreto perpetuo” sobre las condiciones de su condena, de 25 años. Nadie, fuera de Osiel, sus abogados y los fiscales, presenciaron la audiencia. El sistema de rastreo de prisioneros registró meses después que Cárdenas fue trasladado a un penal de mediana seguridad a las afueras de Atlanta, Georgia. Después fue movido una vez más al centro de Florida.
El exlíder del Cártel del Golfo fue detenido en 2003 en la ciudad de Matamoros (Tamaulipas), de donde es originario. El mata amigos se hizo un nombre en el mundo criminal de la frontera después de eliminar a socios y rivales para así escalar posiciones dentro del cártel de la frontera, que quedó acéfalo después de la captura de Juan García Ábrego, un veterano traficante que operaba en Tamaulipas. A Cárdenas se le atribuye haber creado a Los Zetas, una organización criminal muy violenta que llegó a tener casi 10.000 hombres armados durante los años del Calderonato.
elpais.com
Donald Trump, presidente electo de los Estados Unidos, anunció este lunes que nominó a Leah Francis Campos como embajadora de ese país en la República Dominicana. El anuncio lo hizo Trump en su cuenta de Truth (su red social). Se llenaría un puesto que estaba vacante desde el 2021, cuando Robin Bernstein dejó el país con el cambio de poder en la Casa Blanca.
Trump citó que Leah sirvió a Estados Unidos como oficial de casos de la CIA antes de convertirse en asesora principal para el hemisferio occidental en el Comité de Asuntos Exteriores de la Cámara de Representantes.
Además, dijo que es madre de cuatro hijos y «proviene de una familia de patriotas».
«Su hermana, la destacada Rachel Campos-Duffy, de FoxNews, y su cuñado Sean Duffy, que será secretario de Transporte, también son unos patriotas maravillosos», citó el magnate, que regresará a la Casa Blanca el 6 de enero del 2025.
Llenado de vacante
Durante el gobierno de Joe Biden, Estados Unidos no tuvo embajador en el país. Solo instaló encargados de negocios. El primero de ellos, Robert W. Thomas, que salió del país a principios de este año; luego Isiah Parnell, que asumió el cargo en mayo, y Patricia Aguilera.