Internacionales
Cómo evitar las «alucinaciones» o fallos de la IA
AGENCIA EFE
La incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
Nueva York, EE.UU.-Una de las mayores taras de los chatbots con inteligencia artificial (IA) generativa es que a veces dan respuestas bien estructuradas pero completamente incorrectas -que pueden ir desde un dato erróneo a una perturbadora conversación-, lo que se conoce en la industria de la tecnología como «alucinaciones», y los expertos se enfrentan ahora al reto de erradicarlas.
Desde que se popularizó esta tecnología el otoño pasado, millones de personas han comenzado a usar a diario estos chats para tareas como escribir un correo electrónico, organizar sus vacaciones, buscar información o aprender sobre temas específicos.
No obstante, la incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
DE RESPUESTAS PERTURBADORAS A OTRAS INVENTADAS
Son varios los ejemplos de este tipo de alucinaciones, y entre las más conocidas están las conversaciones que varias personas tuvieron en febrero con «Sydney», el alter ego de Bing, al poco del lanzamiento del Chatbot de Microsoft.
En uno de los casos, «Sydney» confesó a un periodista del New York Times que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando.
Otra de las «alucinaciones» más sonadas fue la del chatbot de Google, Bard, que produjo un vídeo promocional con un error sobre el telescopio espacial James Webb.
Ninguna empresa parece librarse de los patinazos: el chatbot de OpenAI, ChatGPT, indujo al error a un abogado, al crear para él una serie de supuestos precedentes legales totalmente inventados que el abogado usó posteriormente en un juicio, pero fue detectado y ahora se enfrenta a posibles sanciones.
SIN «ALUCINACIONES» TAMPOCO HAY CREATIVIDAD
La IA generativa funciona gracias a un complejo algoritmo que analiza la forma en que los humanos juntan palabras tomando como base la enorme cantidad de información que hay en Internet, pero no está programada para decidir si sus respuestas son verdaderas.
Estas «alucinaciones» no son tan fáciles de erradicar, ya que son parte del mismo sistema que permite a los bots ser creativos y generen conversaciones o historias no repetidas. Es decir, si se quita o frena esta característica de la IA no sería tan fácil que el chat genere poemas en cualquier estilo, cree chistes o sugiera ideas.
“Estas alucinaciones son particularmente problemáticas cuando se requiere un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande”, detalla en un estudio OpenAI -empresa detrás de la tecnología de los chats de Bing y ChatGPT.
Microsoft y Google, los dos grandes gigantes tecnológicos que compiten en la carrera por ser la compañía referente de los chatbots con IA, han ensayado medidas para intentar evitar estos errores; Microsoft ha probado a limitar el número de preguntas que Bing puede contestar, tras detectar que las «alucinaciones» más distópicas solían aparecer en conversaciones más largas.
Por su parte, cuando Google genera resultados de búsqueda utilizando su tecnología de chatbot, a la vez ejecuta una búsqueda en su buscador tradicional; compara las respuestas obtenidas por las dos tecnologías y si la respuesta no es la misma, el resultado de la IA ni siquiera se muestra.
Esto hace que su chatbot sea menos creativo, por lo que no es tan bueno como sus competidores para escribir poemas o tener conversaciones, pero está menos expuesto al error.
“Nadie en el campo (de la IA generativa) ha resuelto todavía los problemas de las ´alucinaciones´. Todos los modelos tienen este problema”, dijo el director ejecutivo de Google, Sundar Pichai, en una entrevista con CBS en abril.
DOS CHATBOTS MEJOR QUE UNO
Una de las soluciones que propone el estudio titulado: «Mejorando la facticidad y el razonamiento en los modelos de lenguaje a través del debate multiagente», del Instituto de Tecnología de Massachusetts (MIT), es hacer que, antes de responder a un humano, varios chatbots «debatan» entre sí sobre cuál es la respuesta correcta.
Si los chatbots producen múltiples respuestas a la misma pregunta deben primero llegar a un acuerdo sobre cuál es la correcta.
Por su parte, un grupo de investigadores de Cambridge señalan en su artículo «SelfCheckGPT: Detección de alucinaciones de caja negra sin recursos para modelos generativos de lenguaje (LLM)» que una técnica que ayuda a que la IA se equivoque menos es hacerle al mismo chatbot la misma pregunta varias veces para ver si la respuesta es siempre la misma -en ese caso sería correcta- o no.
Otros expertos como Geoffrey Hinton, quien fue bautizado como el «padrino» de la IA y tuvo parte de su carrera en Google, creen que las «alucinaciones» se controlarán para que sean menos frecuentes, pero que no hay manera de deshacerse por completo de ellas.
Florida, Fort Lauderdale, EEUU.-En el aeropuerto internacional de Fort Lauderdale-Hollywood, en Florida, los oficiales de Aduanas y Protección Fronteriza de Estados Unidos (CBP, en inglés) se enfrentan a un delito que hace años era poco común, pero hoy aparece todos los días: la pornografía infantil.
Se trata de un crimen federal que ha ido en aumento y ha encendido las alarmas en distintos puntos de entrada del país, según las autoridades.
“Yo he estado aquí 20 años. Hace 15 años lo veíamos poco; ahora lo vemos a diario”, afirma el oficial CBP Barrezueta, encargado de la división que investiga tráfico de personas, terrorismo y narcóticos en el aeropuerto.
Los delitos de pornografía infantil han aumentado un 34% desde el año fiscal 2020, de acuerdo con datos de la Comisión de Sentencias de Estados Unidos. En el año fiscal 2024 se registraron 1,375 casos.
El distrito medio de Florida —que abarca desde Jacksonville hasta Fort Myers— fue el que cerró con más personas sentenciadas por este delito: 71 en ese mismo período.
“Desafortunadamente, ha subido mucho ese crimen”, sostiene Barrezueta, al tiempo que indica que los implicados provienen de “todo el mundo”.
Las edades de las víctimas son diversas. Los oficiales han encontrado material que involucra desde bebés de pocos meses hasta adolescentes de 17 o 18 años.
“Me gustaría decir que hay una edad más común, pero hay de todos”, admite Barrezueta.
Periodistas latinoamericanos conversaron con oficiales de CBP en el aeropuerto como parte de un programa de cobertura sobre inmigración organizado por el Departamento de Estado estadounidense y la firma Inquire First.
Oficial Barrezueta, del equipo de Oficiales de Aduanas y Protección Fronteriza de Estados Unidos (CBP, en inglés).Fuente Externa
Pero el trabajo de este equipo en Fort Lauderdale no siempre estuvo enfocado en la pornografía infantil.
Barrezueta explica que el grupo comenzó investigando prostitución y redes de tráfico de personas. En sus inicios, oficiales del aeropuerto viajaron a Miami para entrenarse en ese tipo de casos.
“Comenzamos aquí con dos oficiales”, recuerda. En la actualidad, son cuatro.
Durante esos primeros años detectaban principalmente redes que traían personas desde América Latina para trabajar en condiciones cercanas a la esclavitud o con pagos muy por debajo de lo prometido.
También encontraron casos en los que mujeres eran trasladadas desde Sudamérica y Centroamérica para vender sus óvulos con fines reproductivos.
“Alguna gente sabía a qué venía. Otra gente no sabía”, dice.
Un crimen impulsado por internet
Según Barrezueta, el auge de la pornografía infantil está muy ligado a la facilidad con la que hoy se puede acceder y compartir contenido en internet.
“Antes tenías que buscar, conocer a alguien para compartir revistas o lo que sea; ahora en Google Search (buscador de Google), en cinco segundos (se hace)”, explica.
En los últimos años, asegura, los casos que detectan y presentan para persecución judicial prácticamente se han duplicado.
La magnitud del problema llevó a que el aeropuerto de Fort Lauderdale, junto con Miami y otros aeropuertos del sur de Florida, organizara recientemente un simposio para autoridades aeroportuarias de EEUU.
Oficiales de distintos aeropuertos del país, e incluso de otros países, acudieron para aprender cómo investigar este tipo de delitos.
“Nuestro equipo fue uno de los primeros que se enfocó en esto”, dice Barrezueta. “Ahora viajamos a otros aeropuertos para enseñarles cómo hacerlo”, agrega.
Investigaciones que comienzan en redes sociales
Muchas investigaciones comienzan con alertas enviadas por empresas tecnológicas.
En Estados Unidos, las plataformas digitales están obligadas por ley a reportar a las autoridades cuando detectan usuarios que podrían estar accediendo o compartiendo pornografía infantil.
Esos reportes llegan a un centro nacional especializado, que luego remite la información a los investigadores. A partir de ahí comienza el trabajo de los oficiales.
“Cuando cogemos a una persona, vemos con quién está contactado y comenzamos a hacer más investigaciones a gente que puede estar involucrada en compartir las imágenes y los videos que no nos han permitido”, explica.
Casos detectados en cruceros
Aunque el delito aparece en todo tipo de viajeros, los oficiales han detectado numerosos casos vinculados a trabajadores de cruceros.
Muchos pasan meses embarcados —contratos de tres, seis o nueve meses— y, según Barrezueta, algunos terminan compartiendo material ilegal entre contactos.
“Muchos de nuestros casos vienen de los cruceros, porque nuestras operaciones especialmente se han enfocado en el pasado con los trabajadores que están en los cruceros y encontramos muchos que comparten” contenidos de abuso sexual de menores, dice.
“Me imagino que se aburren y comienzan a hablar y a compartir cosas que no deben”, añade.
Los oficiales de CBP no ofrecieron más detalles sobre estos casos.
Explotación de personas
Durante sus investigaciones, los oficiales también se enfrentan a redes de explotación de personas.
En algunos casos, las víctimas llegan a Estados Unidos engañadas con promesas de trabajo. Otras veces, saben que van a realizar ciertas actividades, pero desconocen las condiciones en las que terminarán trabajando.
Los oficiales han encontrado casos en los que las personas entran al país como turistas con promesas de empleo legal.
Una vez dentro, los responsables les retienen los documentos, les pagan menos de lo acordado o les impiden abandonar el lugar donde trabajan.
“No van a poder escapar después”, dice Barrezueta.
Miami, EE.UU.-Estados Unidos y casi 20 países latinoamericanos y caribeños firmaron este jueves un acuerdo para combatir a los grupos «narcoterroristas» en la conferencia inaugural de las ‘Américas contra los carteles’, en Miami, donde destacó la ausencia de representantes de México, Colombia y Brasil.
El secretario de Guerra estadounidense, Pete Hegseth, leyó la declaración conjunta que «reafirma las relaciones» entre Washington y sus vecinos, «respetando la soberanía» y «reconociendo la importancia estratégica del hemisferio», donde buscan «promover la paz a través de la fuerza».
«Y declara nuestra intención de ampliar la cooperación multilateral y bilateral para mejorar la seguridad en el hemisferio, cooperaron en esfuerzos gubernamentales de seguridad fronteriza, combatir el ‘narcoterrorismo’ y narcotráfico, asegurando infraestructura crítica y otras áreas por determinarse», agregó.
Hegseth lideró la conferencia en la sede del Comando Sur de Estados Unidos (Southcom) en Doral, en el sur de Florida, donde congregó a representantes de casi 20 países de Latinoamérica y el Caribe, como Argentina, Bolivia, Chile, Costa Rica, Ecuador, El Salvador, Guatemala, Panamá, Paraguay, Perú, Honduras y República Dominicana.
La conferencia, que reunió a gobiernos «con ideas afines» y excluyó a naciones como México, Colombia, Brasil y Nicaragua, ocurre como preámbulo de la cumbre ‘Escudo de las Américas’ que el presidente Donald Trump albergará el sábado en Miami con mandatarios de la derecha latinoamericana.
El jefe del Pentágono avisó que Washington está listo para lanzar en solitario una «ofensiva» militar contra los carteles, por lo que urgió a los latinoamericanos a combatir a los «narcoterroristas».
Mientras que Stephen Miller, asesor de seguridad nacional de Trump, pidió luchar contra los narcotraficantes como si fuesen grupos terroristas como ISIS (Estado Islámico) o Al-Qaeda, además de aseverar que la inmigración ilegal es una «forma de terrorismo».
La reunión ocurre días después de la primera operación militar conjunta de Estados Unidos y Ecuador contra organizaciones «narcoterroristas» en el país suramericano, tras una visita de Francis Donovan, comandante del Southcom.
Además, la Administración de Trump ha bombardeado 44 embarcaciones presuntamente ligadas al narcotráfico en el Pacífico y el Caribe desde septiembre pasado, lo que ha dejado al menos 150 muertos, bajo la operación ‘Lanza del Sur’.
Agencia EFE
El Ejército de Israel anunció en la madrugada de este lunes una nueva oleada de ataques contra Irán, particularmente contra el «corazón de Teherán», la capital de la república islámica, en una ofensiva que no cesa desde que Estados Unidos e Israel bombardearon el país el sábado, desatando una escalada bélica regional.
«La Fuerza Aérea, bajo la dirección de la Jefatura de Inteligencia, acaba de lanzar una nueva oleada de ataques contra objetivos del régimen terrorista de Irán en el corazón de Teherán», informaron en su canal de Telegram las Fuerzas de Defensa Israelíes (FDI).
Medios iraníes como la agencia Tasnim reportaron explosiones en la capital del país persa.
Por su parte, Irán ha respondido a los ataques con oleadas de bombardeos contra Israel, donde han fallecido al menos nueve personas, y contra países de la región aliados de Washington y que acogen bases militares de Estados Unidos, como Kuwait, Baréin, Arabia Saudita, Catar y Emiratos Árabes, donde se registraron tres víctimas mortales.