Internacionales
Cómo evitar las «alucinaciones» o fallos de la IA
AGENCIA EFE
La incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
Nueva York, EE.UU.-Una de las mayores taras de los chatbots con inteligencia artificial (IA) generativa es que a veces dan respuestas bien estructuradas pero completamente incorrectas -que pueden ir desde un dato erróneo a una perturbadora conversación-, lo que se conoce en la industria de la tecnología como «alucinaciones», y los expertos se enfrentan ahora al reto de erradicarlas.
Desde que se popularizó esta tecnología el otoño pasado, millones de personas han comenzado a usar a diario estos chats para tareas como escribir un correo electrónico, organizar sus vacaciones, buscar información o aprender sobre temas específicos.
No obstante, la incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
DE RESPUESTAS PERTURBADORAS A OTRAS INVENTADAS
Son varios los ejemplos de este tipo de alucinaciones, y entre las más conocidas están las conversaciones que varias personas tuvieron en febrero con «Sydney», el alter ego de Bing, al poco del lanzamiento del Chatbot de Microsoft.
En uno de los casos, «Sydney» confesó a un periodista del New York Times que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando.
Otra de las «alucinaciones» más sonadas fue la del chatbot de Google, Bard, que produjo un vídeo promocional con un error sobre el telescopio espacial James Webb.
Ninguna empresa parece librarse de los patinazos: el chatbot de OpenAI, ChatGPT, indujo al error a un abogado, al crear para él una serie de supuestos precedentes legales totalmente inventados que el abogado usó posteriormente en un juicio, pero fue detectado y ahora se enfrenta a posibles sanciones.
SIN «ALUCINACIONES» TAMPOCO HAY CREATIVIDAD
La IA generativa funciona gracias a un complejo algoritmo que analiza la forma en que los humanos juntan palabras tomando como base la enorme cantidad de información que hay en Internet, pero no está programada para decidir si sus respuestas son verdaderas.
Estas «alucinaciones» no son tan fáciles de erradicar, ya que son parte del mismo sistema que permite a los bots ser creativos y generen conversaciones o historias no repetidas. Es decir, si se quita o frena esta característica de la IA no sería tan fácil que el chat genere poemas en cualquier estilo, cree chistes o sugiera ideas.
“Estas alucinaciones son particularmente problemáticas cuando se requiere un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande”, detalla en un estudio OpenAI -empresa detrás de la tecnología de los chats de Bing y ChatGPT.
Microsoft y Google, los dos grandes gigantes tecnológicos que compiten en la carrera por ser la compañía referente de los chatbots con IA, han ensayado medidas para intentar evitar estos errores; Microsoft ha probado a limitar el número de preguntas que Bing puede contestar, tras detectar que las «alucinaciones» más distópicas solían aparecer en conversaciones más largas.
Por su parte, cuando Google genera resultados de búsqueda utilizando su tecnología de chatbot, a la vez ejecuta una búsqueda en su buscador tradicional; compara las respuestas obtenidas por las dos tecnologías y si la respuesta no es la misma, el resultado de la IA ni siquiera se muestra.
Esto hace que su chatbot sea menos creativo, por lo que no es tan bueno como sus competidores para escribir poemas o tener conversaciones, pero está menos expuesto al error.
“Nadie en el campo (de la IA generativa) ha resuelto todavía los problemas de las ´alucinaciones´. Todos los modelos tienen este problema”, dijo el director ejecutivo de Google, Sundar Pichai, en una entrevista con CBS en abril.
DOS CHATBOTS MEJOR QUE UNO
Una de las soluciones que propone el estudio titulado: «Mejorando la facticidad y el razonamiento en los modelos de lenguaje a través del debate multiagente», del Instituto de Tecnología de Massachusetts (MIT), es hacer que, antes de responder a un humano, varios chatbots «debatan» entre sí sobre cuál es la respuesta correcta.
Si los chatbots producen múltiples respuestas a la misma pregunta deben primero llegar a un acuerdo sobre cuál es la correcta.
Por su parte, un grupo de investigadores de Cambridge señalan en su artículo «SelfCheckGPT: Detección de alucinaciones de caja negra sin recursos para modelos generativos de lenguaje (LLM)» que una técnica que ayuda a que la IA se equivoque menos es hacerle al mismo chatbot la misma pregunta varias veces para ver si la respuesta es siempre la misma -en ese caso sería correcta- o no.
Otros expertos como Geoffrey Hinton, quien fue bautizado como el «padrino» de la IA y tuvo parte de su carrera en Google, creen que las «alucinaciones» se controlarán para que sean menos frecuentes, pero que no hay manera de deshacerse por completo de ellas.
Agencia EFE
Madrid, España.-El cantante español Diego el Cigala afronta un juicio por violencia machista tras las denuncias presentadas por su exmujer, que aseguró este jueves ante el juez que vivió un «infierno» con el artista.
Conocida artísticamente como Kina Méndez, la víctima se ha referido a distintos episodios de insultos, amenazas, humillaciones y agresiones físicas como una bofetada, empujones o un pateo en el suelo.
El cantaor, por su parte, ha negado las acusaciones y ha atribuido su denuncia a supuestos celos por parte de ella.
“Nunca le he puesto una mano (encima) a ninguna mujer, en la vida”, ha asegurado el artista, que adquirió la nacionalidad dominicana hace una década.
El cantaor ha dicho que su exmujer llegó incluso a amenazarlo con denunciarlo por malos tratos y arruinar su carrera si no llegaban a un acuerdo económico en la separación.
La pareja mantuvo una relación de seis años y tiene dos hijos en común.
Con más de dos millones de discos vendidos, Ramón Jiménez Salazar, conocido popularmente como «el Cigala», es uno de los artistas españoles más conocidos y cuenta, entre otros galardones, con siete premios Grammy.
Su álbum «Lágrimas negras», con el pianista cubano Bebo Valdés, le catapultó a la fama en América Latina.
Agencia EFE
Washington.-Donal Trump, vencedor de las elecciones de este pasado 5 de noviembre en los Estados Unidos, se convierte en el primer convicto criminal ocupante de la Casa Blanca, cuya votación alcanzó un total 277 votos electorales frente a los 224 de su rival, la demócrata Kamala Harris, según las proyecciones hechas hasta el momento por esta publicación.
El expresidente ya se había atribuido la victoria frente a la vicepresidenta Harris durante un mitin ante sus seguidores en Palm Beach (Florida), tras obtener buenos resultados parciales y ganar el voto popular, según el escrutinio preliminar.
Será la primera vez en más de un siglo que un antiguo presidente vuelve a serlo (ya gobernó entre 2017 y 2021) después de perder unas elecciones (las de 2020) y también la primera ocasión en que un criminal convicto llega a la Presidencia del país.
El Colegio Electoral es un órgano integrado por 538 delegados que eligen los estados en función de su población. El candidato ganador en cada estado, aunque sea por un solo voto, se lleva todos sus compromisarios con la excepción de Nebraska y Maine. El aspirante que llega a 270 gana las elecciones.
Acompañado de su familia y directivos de su campaña, el expresidente aseguró desde Palm Beach que gobernará para todos y que «juntos» harán un Estados Unidos mejor.
«El éxito nos va a unir, y vamos a empezar poniendo a Estados Unidos en primer lugar. No los defraudaré», dijo durante un discurso de menos de media hora en el centro de convenciones de Palm Beach (en la costa este de Florida).
El expresidente republicano agradeció a cada uno de los miembros de su familia y a los estadounidenses en un pronunciamiento que tuvo un tono mayormente conciliador y en el que invitó a «poner atrás las divisiones de los últimos años».
Trump celebró sus buenos resultados en estados clave como Carolina del Norte, Georgia, Pensilvania y Wisconsin, y se preció de haber recobrado la mayoría en el Senado para los republicanos.
Antes de finalizar el recuento y tras conocerse algunos datos importantes sobre la tendencia de voto en todo el país, Harris decidió cancelar el discurso que estaba previsto que ofreciera al final de la jornada electoral y lo pospuso hasta este miércoles, según su campaña.
Por EUROPA PRESS
Las primeras proyecciones de los medios estadounidenses apuntan a que el candidato republicano, Donald Trump, se ha hecho con la victoria en las elecciones presidenciales en los estados de Indiana y Kentucky, mientras que la candidata demócrata, Kamala Harris, ha ganado las elecciones en el estado de Vermont.
Estas primeras victorias entran dentro de los pronósticos. Kentucky aportará a Trump ocho votos electorales e Indiana sumará otros once, mientras que Vermont representa tres votos para Harris. Hay que recordar que hace falta 270 votos electorales para alcanzar la Presidencia.
También han comenzado a aparecer las primeras proyecciones para un estado clave como es Georgia, que aporta 16 votos electorales, pero ahora mismo los votantes en el estado sureño no parecen decantarse por ningún candidato en concreto.