Internacionales
Cómo evitar las «alucinaciones» o fallos de la IA
AGENCIA EFE
La incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
Nueva York, EE.UU.-Una de las mayores taras de los chatbots con inteligencia artificial (IA) generativa es que a veces dan respuestas bien estructuradas pero completamente incorrectas -que pueden ir desde un dato erróneo a una perturbadora conversación-, lo que se conoce en la industria de la tecnología como «alucinaciones», y los expertos se enfrentan ahora al reto de erradicarlas.
Desde que se popularizó esta tecnología el otoño pasado, millones de personas han comenzado a usar a diario estos chats para tareas como escribir un correo electrónico, organizar sus vacaciones, buscar información o aprender sobre temas específicos.
No obstante, la incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
DE RESPUESTAS PERTURBADORAS A OTRAS INVENTADAS
Son varios los ejemplos de este tipo de alucinaciones, y entre las más conocidas están las conversaciones que varias personas tuvieron en febrero con «Sydney», el alter ego de Bing, al poco del lanzamiento del Chatbot de Microsoft.
En uno de los casos, «Sydney» confesó a un periodista del New York Times que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando.
Otra de las «alucinaciones» más sonadas fue la del chatbot de Google, Bard, que produjo un vídeo promocional con un error sobre el telescopio espacial James Webb.
Ninguna empresa parece librarse de los patinazos: el chatbot de OpenAI, ChatGPT, indujo al error a un abogado, al crear para él una serie de supuestos precedentes legales totalmente inventados que el abogado usó posteriormente en un juicio, pero fue detectado y ahora se enfrenta a posibles sanciones.
SIN «ALUCINACIONES» TAMPOCO HAY CREATIVIDAD
La IA generativa funciona gracias a un complejo algoritmo que analiza la forma en que los humanos juntan palabras tomando como base la enorme cantidad de información que hay en Internet, pero no está programada para decidir si sus respuestas son verdaderas.
Estas «alucinaciones» no son tan fáciles de erradicar, ya que son parte del mismo sistema que permite a los bots ser creativos y generen conversaciones o historias no repetidas. Es decir, si se quita o frena esta característica de la IA no sería tan fácil que el chat genere poemas en cualquier estilo, cree chistes o sugiera ideas.
“Estas alucinaciones son particularmente problemáticas cuando se requiere un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande”, detalla en un estudio OpenAI -empresa detrás de la tecnología de los chats de Bing y ChatGPT.
Microsoft y Google, los dos grandes gigantes tecnológicos que compiten en la carrera por ser la compañía referente de los chatbots con IA, han ensayado medidas para intentar evitar estos errores; Microsoft ha probado a limitar el número de preguntas que Bing puede contestar, tras detectar que las «alucinaciones» más distópicas solían aparecer en conversaciones más largas.
Por su parte, cuando Google genera resultados de búsqueda utilizando su tecnología de chatbot, a la vez ejecuta una búsqueda en su buscador tradicional; compara las respuestas obtenidas por las dos tecnologías y si la respuesta no es la misma, el resultado de la IA ni siquiera se muestra.
Esto hace que su chatbot sea menos creativo, por lo que no es tan bueno como sus competidores para escribir poemas o tener conversaciones, pero está menos expuesto al error.
“Nadie en el campo (de la IA generativa) ha resuelto todavía los problemas de las ´alucinaciones´. Todos los modelos tienen este problema”, dijo el director ejecutivo de Google, Sundar Pichai, en una entrevista con CBS en abril.
DOS CHATBOTS MEJOR QUE UNO
Una de las soluciones que propone el estudio titulado: «Mejorando la facticidad y el razonamiento en los modelos de lenguaje a través del debate multiagente», del Instituto de Tecnología de Massachusetts (MIT), es hacer que, antes de responder a un humano, varios chatbots «debatan» entre sí sobre cuál es la respuesta correcta.
Si los chatbots producen múltiples respuestas a la misma pregunta deben primero llegar a un acuerdo sobre cuál es la correcta.
Por su parte, un grupo de investigadores de Cambridge señalan en su artículo «SelfCheckGPT: Detección de alucinaciones de caja negra sin recursos para modelos generativos de lenguaje (LLM)» que una técnica que ayuda a que la IA se equivoque menos es hacerle al mismo chatbot la misma pregunta varias veces para ver si la respuesta es siempre la misma -en ese caso sería correcta- o no.
Otros expertos como Geoffrey Hinton, quien fue bautizado como el «padrino» de la IA y tuvo parte de su carrera en Google, creen que las «alucinaciones» se controlarán para que sean menos frecuentes, pero que no hay manera de deshacerse por completo de ellas.
Internacionales
Fondos obtenidos de ayudas por COVID-19 habrían financiado complot contra Jovenel Moïse
Fiscales estadounidenses investigan el uso fraudulento de recursos de programas creados durante la pandemia para financiar parte de la operación que culminó con el asesinato del presidente haitiano en 2021.
MIAMI, Estados Unidos.– Dinero obtenido fraudulentamente de programas de asistencia económica creados por Estados Unidos durante la pandemia de COVID-19 habría sido utilizado para financiar parte de la conspiración que culminó con el asesinato del presidente de Haití, Jovenel Moïse, ocurrido el 7 de julio de 2021.
La investigación de las autoridades estadounidenses sostiene que recursos procedentes de programas como el Paycheck Protection Program (PPP) y los préstamos de emergencia EIDL fueron desviados y utilizados para contribuir a la adquisición de armas, equipos tácticos y otros recursos vinculados con la operación.
Las autoridades también sitúan al sur de Florida como uno de los principales centros desde donde se habrían desarrollado actividades de planificación y financiamiento relacionadas con el complot.
El caso ha cobrado nueva relevancia tras el traslado desde Haití hacia Estados Unidos de 18 hombres acusados en relación con el magnicidio, quienes deberán enfrentar procesos ante la justicia federal estadounidense.
Trasladan 18 acusados a Estados Unidos
Los detenidos llegaron bajo custodia de autoridades estadounidenses y fueron puestos a disposición de la justicia federal en Miami.
El Departamento de Justicia de Estados Unidos confirmó el traslado como parte de una nueva etapa de las investigaciones sobre el asesinato del mandatario haitiano.
El fiscal federal para el Distrito Sur de Florida, Jason Reding Quiñones, indicó que las autoridades continuarán investigando a las personas que presuntamente financiaron, facilitaron o participaron en la operación.
La investigación estadounidense se ha extendido durante años y ha permitido presentar cargos contra decenas de personas por distintos niveles de participación en la conspiración.
El rastro del dinero
Uno de los elementos que ha adquirido mayor importancia dentro del expediente es determinar de dónde procedieron los recursos utilizados para preparar la operación.
Según la investigación citada, parte del dinero habría sido obtenido fraudulentamente mediante programas federales creados para auxiliar a empresas y trabajadores afectados económicamente durante la pandemia.
Las autoridades estadounidenses atribuyen a Walter Veintemilla un papel importante dentro del esquema financiero. De acuerdo con el Departamento de Justicia, habría acordado aportar US$175,000 mediante un préstamo relacionado con recursos procedentes de los programas PPP y EIDL.
Otro financista vinculado al expediente fue condenado a 20 años de prisión por lavar cientos de miles de dólares provenientes fraudulentamente de esos programas y utilizados para contribuir al financiamiento de la conspiración.
Los investigadores sostienen que los recursos ayudaron a costear elementos necesarios para ejecutar la operación, mientras otros participantes habrían facilitado armas, municiones, chalecos antibalas, radios y equipos tácticos.
Intereses económicos detrás del complot
La investigación estadounidense también apunta a posibles intereses económicos de algunos de los organizadores.
De acuerdo con las autoridades, varias personas relacionadas con el plan buscaban obtener oportunidades comerciales y contratos con el Gobierno haitiano después de provocar un cambio de poder.
El plan habría evolucionado a través de diferentes etapas.
Las autoridades estadounidenses sostienen que inicialmente existió la intención de derrocar a Moïse y establecer un gobierno favorable a determinados intereses. Posteriormente se habría contemplado secuestrar al mandatario, hasta que finalmente la operación derivó en el ataque contra su residencia.
El asesinato de Jovenel Moïse
Durante la madrugada del 7 de julio de 2021, un grupo armado penetró en la residencia privada del presidente haitiano.
Moïse fue asesinado a tiros y su esposa, Martine Moïse, resultó gravemente herida.
Entre los participantes señalados por las investigaciones figuran exmilitares colombianos y otras personas de diferentes nacionalidades.
Otro elemento incorporado al expediente es que algunos de los participantes presuntamente utilizaron indumentaria y distintivos para aparentar que pertenecían a la Administración para el Control de Drogas de Estados Unidos (DEA).
Las evidencias presentadas en los procesos judiciales incluyen fotografías de equipos tácticos, radios y distintivos relacionados con esa falsa identificación.
Cerca de 30 personas acusadas
La investigación estadounidense ha derivado en acusaciones contra alrededor de 30 personas por distintos delitos relacionados con la conspiración.
Los cargos varían según la participación atribuida a cada acusado e incluyen, entre otros, conspiración para matar o secuestrar a una persona fuera de Estados Unidos y delitos vinculados al fraude.
Cuatro de los principales acusados fueron declarados culpables en mayo por un jurado federal en Miami y enfrentan posibles condenas de cadena perpetua.
El traslado de los 18 detenidos desde Haití abre ahora una nueva etapa judicial en un caso que, cinco años después del magnicidio, continúa revelando detalles sobre cómo se habría organizado, financiado y ejecutado una de las operaciones criminales de mayor impacto político en la historia reciente del Caribe.
Internacionales
CNN, MS NOW y Politico llevan a Trump ante los tribunales por veto en la Casa Blanca
Los tres medios cuestionan judicialmente la retirada de sus acreditaciones y sostienen que la decisión vulnera la libertad de prensa y el debido proceso protegidos por la Constitución estadounidense.
WASHINGTON, Estados Unidos.– La confrontación entre el presidente Donald Trump y varios de los principales medios de comunicación estadounidenses abrió un nuevo capítulo judicial luego de que CNN, MS NOW y Politico demandaran a su administración por impedir a sus periodistas acceder a la Casa Blanca.
Los medios acudieron al Tribunal Federal del Distrito de Columbia después de que las credenciales de sus periodistas fueran desactivadas y estos no pudieran ingresar al complejo presidencial.
La demanda sostiene que la decisión constituye una represalia basada en el contenido de su cobertura y plantea posibles violaciones de la Primera Enmienda, que protege las libertades de expresión y de prensa, así como de las garantías de debido proceso de la Quinta Enmienda.
Los demandantes solicitaron además una orden judicial temporal que permita restablecer su acceso mientras los tribunales deciden el fondo del conflicto. La acción fue presentada el lunes 21 de septiembre.
Trump defiende su decisión
El presidente había anunciado previamente la exclusión de los tres medios argumentando que difundían lo que él considera informaciones falsas.
Tras conocerse la demanda, Trump negó que su actuación constituya un ataque contra la libertad de prensa y sostuvo que sus cuestionamientos están dirigidos a lo que denomina “fake news”.
La Casa Blanca, por su parte, ha defendido que el acceso a sus instalaciones es un privilegio y no un derecho irrestricto.
Una controversia constitucional
El caso coloca nuevamente en discusión los límites que tiene un presidente estadounidense para controlar el acceso de periodistas a la sede del Poder Ejecutivo.
La Constitución no concede a los profesionales de la comunicación un derecho ilimitado a participar en todos los actos presidenciales ni a entrar en espacios restringidos. Sin embargo, precedentes judiciales han establecido límites a la capacidad del Gobierno para retirar acreditaciones arbitrariamente o discriminar a periodistas por el contenido o punto de vista de sus publicaciones.
Uno de los antecedentes relevantes es Sherrill v. Knight, de 1977, en el que una corte federal estableció garantías procesales relacionadas con las acreditaciones de prensa de la Casa Blanca.
La controversia actual plantea precisamente si la exclusión de CNN, MS NOW y Politico respondió a razones legítimas relacionadas con el control de acceso o si, como sostienen los demandantes, se produjo como consecuencia de una cobertura periodística que desagrada al presidente.
Antecedentes de enfrentamientos con la prensa
No es la primera vez que una controversia sobre las acreditaciones de periodistas durante una administración de Trump llega a los tribunales.
En 2018, durante su primer mandato, la Casa Blanca retiró temporalmente la credencial del entonces corresponsal de CNN Jim Acosta después de un enfrentamiento verbal con el mandatario durante una conferencia de prensa. Un juez federal ordenó posteriormente restituir temporalmente la acreditación.
Más recientemente, The Associated Press también sostuvo una disputa judicial con la administración después de que se restringiera su participación en determinados actos presidenciales.
Estos antecedentes son relevantes porque muestran la diferencia jurídica entre el control presidencial de espacios físicos especialmente restringidos y una eventual exclusión motivada por el contenido de la cobertura periodística.
El conflicto afecta la cobertura presidencial
La decisión contra CNN también repercutió en el denominado “pool” de prensa de la Casa Blanca, el sistema mediante el cual un grupo reducido de periodistas y camarógrafos cubre determinadas actividades presidenciales y comparte posteriormente el material con otros medios.
CNN tenía asignadas funciones dentro de ese esquema cuando se produjo la prohibición. La situación llevó a otras cadenas a suspender su participación en determinadas actividades del pool, ampliando el impacto de la controversia.
Los jueces tendrán la palabra
El conflicto deja ahora en manos de los tribunales una cuestión de alcance constitucional: hasta dónde puede llegar la autoridad presidencial para regular el acceso a la Casa Blanca sin convertir esa facultad en un mecanismo de represalia contra determinados medios por su línea de cobertura.
CNN, MS NOW y Politico sostienen que fueron excluidos precisamente por el contenido de sus informaciones. La administración Trump rechaza que se trate de un ataque contra la prensa y defiende su potestad para controlar el acceso a la sede presidencial.
El tribunal deberá determinar si las circunstancias concretas de la exclusión vulneraron las garantías constitucionales invocadas por los demandantes.
Más allá de la disputa entre Trump y tres organizaciones periodísticas, el resultado podría contribuir a precisar nuevamente los límites entre el poder presidencial, la libertad de prensa y el derecho del público a recibir información independiente sobre la actuación del Gobierno.
Internacionales
Nepal mantiene las búsquedas 11 días después de la riada tras nuevos rescates con vida
Agencia Efe
Katmandú.- Nepal mantuvo este sábado las operaciones de búsqueda once días después de la riada que devastó el norte del país, alentado por los nuevos rescates con vida registrados en las últimas horas, mientras centenares de trabajadores continúan desaparecidos en centrales hidroeléctricas arrasadas por el agua y el barro.
El ministro del Interior, Sudhan Gurung, afirmó tras los rescates que los hallazgos habían dejado “un rayo de esperanza” y aseguró que las operaciones continuarían dentro de los túneles.
La búsqueda sigue activa en varios de los complejos hidroeléctricos más afectados, con apoyo de especialistas de la India, China y Corea del Sur, según las últimas actualizaciones oficiales del Gobierno nepalí.
Upper Trishuli-1 concentra uno de los mayores operativos: más de 1400 personas vinculadas al proyecto se encontraban ahí cuando se produjo la catástrofe; 557 permanecen sin localizar y alrededor de 115 podrían haber quedado atrapadas en la zona de la presa y el túnel principal, según la empresa promotora.
El último balance consolidado por la Policía de Nepal elevaba a 1.344 los cuerpos y restos humanos recuperados y a 4.887 las personas todavía sin localizar, mientras los cuerpos de seguridad participan en un operativo que continúa también en comunidades de Rasuwa y Nuwakot y a lo largo del corredor del Trishuli, donde equipos terrestres y helicópteros buscan desaparecidos, evacúan a afectados y llevan suministros a poblaciones aisladas por la destrucción de carreteras y puentes.