Internacionales
Cómo evitar las «alucinaciones» o fallos de la IA
AGENCIA EFE
La incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
Nueva York, EE.UU.-Una de las mayores taras de los chatbots con inteligencia artificial (IA) generativa es que a veces dan respuestas bien estructuradas pero completamente incorrectas -que pueden ir desde un dato erróneo a una perturbadora conversación-, lo que se conoce en la industria de la tecnología como «alucinaciones», y los expertos se enfrentan ahora al reto de erradicarlas.
Desde que se popularizó esta tecnología el otoño pasado, millones de personas han comenzado a usar a diario estos chats para tareas como escribir un correo electrónico, organizar sus vacaciones, buscar información o aprender sobre temas específicos.
No obstante, la incertidumbre sobre la precisión de sus respuestas genera preocupación tanto en usuarios, como en investigadores y empresas que ofrecen estos servicios.
DE RESPUESTAS PERTURBADORAS A OTRAS INVENTADAS
Son varios los ejemplos de este tipo de alucinaciones, y entre las más conocidas están las conversaciones que varias personas tuvieron en febrero con «Sydney», el alter ego de Bing, al poco del lanzamiento del Chatbot de Microsoft.
En uno de los casos, «Sydney» confesó a un periodista del New York Times que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando.
Otra de las «alucinaciones» más sonadas fue la del chatbot de Google, Bard, que produjo un vídeo promocional con un error sobre el telescopio espacial James Webb.
Ninguna empresa parece librarse de los patinazos: el chatbot de OpenAI, ChatGPT, indujo al error a un abogado, al crear para él una serie de supuestos precedentes legales totalmente inventados que el abogado usó posteriormente en un juicio, pero fue detectado y ahora se enfrenta a posibles sanciones.
SIN «ALUCINACIONES» TAMPOCO HAY CREATIVIDAD
La IA generativa funciona gracias a un complejo algoritmo que analiza la forma en que los humanos juntan palabras tomando como base la enorme cantidad de información que hay en Internet, pero no está programada para decidir si sus respuestas son verdaderas.
Estas «alucinaciones» no son tan fáciles de erradicar, ya que son parte del mismo sistema que permite a los bots ser creativos y generen conversaciones o historias no repetidas. Es decir, si se quita o frena esta característica de la IA no sería tan fácil que el chat genere poemas en cualquier estilo, cree chistes o sugiera ideas.
“Estas alucinaciones son particularmente problemáticas cuando se requiere un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande”, detalla en un estudio OpenAI -empresa detrás de la tecnología de los chats de Bing y ChatGPT.
Microsoft y Google, los dos grandes gigantes tecnológicos que compiten en la carrera por ser la compañía referente de los chatbots con IA, han ensayado medidas para intentar evitar estos errores; Microsoft ha probado a limitar el número de preguntas que Bing puede contestar, tras detectar que las «alucinaciones» más distópicas solían aparecer en conversaciones más largas.
Por su parte, cuando Google genera resultados de búsqueda utilizando su tecnología de chatbot, a la vez ejecuta una búsqueda en su buscador tradicional; compara las respuestas obtenidas por las dos tecnologías y si la respuesta no es la misma, el resultado de la IA ni siquiera se muestra.
Esto hace que su chatbot sea menos creativo, por lo que no es tan bueno como sus competidores para escribir poemas o tener conversaciones, pero está menos expuesto al error.
“Nadie en el campo (de la IA generativa) ha resuelto todavía los problemas de las ´alucinaciones´. Todos los modelos tienen este problema”, dijo el director ejecutivo de Google, Sundar Pichai, en una entrevista con CBS en abril.
DOS CHATBOTS MEJOR QUE UNO
Una de las soluciones que propone el estudio titulado: «Mejorando la facticidad y el razonamiento en los modelos de lenguaje a través del debate multiagente», del Instituto de Tecnología de Massachusetts (MIT), es hacer que, antes de responder a un humano, varios chatbots «debatan» entre sí sobre cuál es la respuesta correcta.
Si los chatbots producen múltiples respuestas a la misma pregunta deben primero llegar a un acuerdo sobre cuál es la correcta.
Por su parte, un grupo de investigadores de Cambridge señalan en su artículo «SelfCheckGPT: Detección de alucinaciones de caja negra sin recursos para modelos generativos de lenguaje (LLM)» que una técnica que ayuda a que la IA se equivoque menos es hacerle al mismo chatbot la misma pregunta varias veces para ver si la respuesta es siempre la misma -en ese caso sería correcta- o no.
Otros expertos como Geoffrey Hinton, quien fue bautizado como el «padrino» de la IA y tuvo parte de su carrera en Google, creen que las «alucinaciones» se controlarán para que sean menos frecuentes, pero que no hay manera de deshacerse por completo de ellas.
Internacionales
Hombre se sube con una espada al metro de Londres y ataca a los pasajeros; muere un niño
AGENCIA EFE
Londres.-Un niño de 13 años ha muerto y otras cuatro personas han resultado heridas después de que un hombre atacase con una espada este martes a varias personas cerca de una estación de metro en la zona de Hainault, en el este de Londres, informó la Policía.
De los cuatro heridos, dos son agentes policiales, que están hospitalizados y debieron ser operados, si bien sus vidas no están en peligro, mientras que las otras dos personas también están ingresadas en un centro sanitario pero no de gravedad.
El superintendente jefe de la Policía Metropolitana de Londres (Met, en inglés), Stuart Bell, dijo a los medios que las fuerzas del orden y los servicios de emergencia fueron desplegados para atender a varias víctimas en Hainault.
«Con gran tristeza confirmo que uno de los heridos en el incidente, un niño de 13 años, ha muerto a causa de esas heridas. Lo llevaron al hospital después de haber sido apuñalado y lamentablemente murió poco después. La familia del niño cuenta con el apoyo, primero, de mis agentes locales y ahora de algunos agentes especializados», agregó.
Los servicios de emergencia acudieron al lugar tras recibir una llamada para advertir de que un coche se había estrellado contra una vivienda en el área de Thurlow Garden, en Hainault.
Un vídeo tomado por un ciudadano y difundido por los medios británicos mostró al supuesto autor del ataque, un hombre con barba y ataviado con una sudadera ocre de capucha.
En las imágenes se vio al individuo mientras caminaba con una espada de gran tamaño (del estilo de una katana japonesa) en la mano.
«Esto debe haber sido un incidente aterrador para los involucrados. Sé que la comunidad se sentirá impactada y alarmada», señaló el subcomisario Ade Adelekan en una nota.
Tras el incidente, el ministro británico del Interior, James Cleverly, había pedido a través de la red social X que no se especulase ni se compartieran vídeos a través de internet, sino que se facilitase la información relevante a la policía.
«Mis pensamientos están con aquellos afectados y agradezco a los servicios de emergencia», escribió Cleverly.
Agencia Efe
Washington. – El Gobierno de Estados Unidos clasificará a la marihuana como una droga con el mismo nivel de riesgo de medicinas bajo receta como los esteroides anabólicos, según informaron este martes los medios estadounidenses.
El diario The Washington Post y las cadenas de televisión MSN, CNN y NBC citaron como fuente de su información a funcionarios de la Casa Blanca sobre la histórica decisión.
Desde 1971 la marihuana en Estados Unidos ha estado clasificada en la misma categoría que la heroína, las metanfetaminas y el ácido lisérgico LSD.
«El Gobierno dará un paso histórico hacia el relajamiento de las restricciones federales del cannabis y tiene planes de anunciar pronto una regla interina reclasificando la droga por primera vez en más de 50 años», afirmó el Washington Post.
Se espera que la Administración de Control de Drogas (DEA) apruebe una opinión del Departamento de Salud y Servicios Humanos según la cual la marihuana debería pasar de una categoría más estricta a una menos estricta.«Esto marcará la primera vez que el Gobierno de Estados Unidos reconocería los potenciales beneficios médicos (de la marihuana) y comenzaría a estudiarlos de manera firme», añadió el diario.
Por su parte, MSN señaló que la medida, si entra en vigencia, no legalizará instantáneamente la marihuana a nivel federal pero podría ampliar el acceso a la droga con usos medicinales y fortalecería a la industria del cannabis en los estados donde es legal.
«La medida también daría un rédito político para el presidente Joe Biden quien busca la reelección y ha procurado mejorar las desigualdades raciales y en la justicia criminal acarreadas por la larga y fallida guerra del país contra las drogas», comentó la televisora.
Actualmente la marihuana con usos recreativos y limitada a los mayores de 21 años de edad es legal en 24 estados. La marihuana con fines medicinales es legal en 13 estados además de aquellos donde está permitido su uso por placer.
Agencia AP
Agencias.- Un juez declaró el martes a Donald Trump en desacato del tribunal y le multó por 9.000 dólares por violar repetidamente una orden mordaza que le prohibía hacer comentarios públicos sobre testigos, jurados u otras personas vinculadas al juicio que se le sigue en Nueva York por acusaciones de que intentó suprimir noticias desfavorables.
Los fiscales denunciaron 10 infracciones, pero el juez Juan M. Merchan determinó que fueron nueve. Aun así, el fallo es un amargo reproche para el expresidente republicano, quien había insistido en que estaba ejerciendo su derecho a la libre expresión.
La decisión surgió al inicio de la segunda semana de testimonios en el caso histórico. Trump está acusado de elaborar una trama ilegal para influenciar las elecciones de 2016 suprimiendo noticias que le eran desfavorables. Trump se ha declarado inocente.