Ciencia
La empresa del ChatGPT suprime su departamento enfocado en analizar los riesgos de la IA
Agencia EFE
Nueva York.- La empresa tecnológica OpenAI, creadora del ChatGPT, suprimió su departamento enfocado en analizar los riesgos a futuro de la inteligencia artificial apenas un año después de establecerlo, informaron este viernes medios estadounidenses especializados.
Hasta hoy, se preveía destinar a esta división, que recibía el nombre de Superalignment, hasta un 20 % de la «potencia de cálculo» de OpenAI durante cuatro años para, entre otras líneas de investigación, evaluar posibles peligros aparejados a los nuevos escenarios que abre la inteligencia artificial.
Sin embargo, de acuerdo a la prensa de EE.UU., la plantilla de esta sección está siendo recolocada en otras secciones dentro de la compañía.
La noticia llega días después de que el cofundador de OpenAI, Ilya Sutskever, y el que fuera codirector de Superalignment, Jan Leike, anunciaran su marcha alegando que esta empresa -respaldada por Microsoft- debería centrarse mucho más en la seguridad, la vigilancia, la preparación y el impacto social derivado de su actividad.
«Construir máquinas más inteligentes que los humanos es un esfuerzo inherentemente peligroso. OpenAI está asumiendo una enorme responsabilidad en nombre de toda la humanidad. Pero en los últimos años, la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos innovadores», escribió Leike en X tras su salida.
En noviembre, el consejo de OpenAI destituyó al cofundador y consejero delegado, Sam Altman, por una supuesta falta de honestidad que generó gran incertidumbre entre inversores y empleados.
Al cabo de una semana, Altman estaba de vuelta en la empresa y miembros del consejo como el propio Sutskever, que habían votado a favor de la destitución del consejero delegado, estaban fuera.
Sutskever seguía en plantilla, pero ya no como miembro del consejo.
Medios como The Wall Street Journal informaban entonces de una pugna interna Altman-Sutskever porque este último prestaba mayor atención al impacto de la IA en los humanos, mientras que el primero estaba enfocado mayormente en seguir innovando.
OpenAI lanzó esta semana un nuevo modelo de IA (GPT-4) y una versión de escritorio de ChatGPT, junto con una interfaz actualizada, para tratar de conseguir que los usuarios puedan comunicarse por video con su bot conversacional (‘chat bot’, en inglés).
São Paulo, Brasil .-a Autoridad Nacional de Protección de Datos (ANPD) de Brasil impuso este martes una multa de 153.7 millones de reales (unos 30 millones de dólares) a la empresa china ByteDance, propietaria de TikTok, tras identificar múltiples infracciones en el tratamiento de los datos personales de niños y adolescentes dentro de la plataforma.
La decisión, informada por el órgano y publicada en el Boletín Oficial, culmina un proceso administrativo sancionador que detectó violaciones a la Ley General de Protección de Datos (LGPD) del país.
Según el comunicado de la ANPD, ByteDance fue formalmente notificada por la autoridad este lunes y dispone de un plazo de diez días hábiles para presentar un recurso.
De acuerdo con el informe de la ANPD, las fallas se constataron tanto en la modalidad de ‘feed’ sin registro, es decir, el acceso a la aplicación sin necesidad de crear una cuenta, como en el caso de usuarios registrados.
El organismo regulador concluyó que la red social no demostró haber adoptado las medidas técnicas suficientes para garantizar el cumplimiento de los principios de prevención y responsabilidad exigidos por la norma brasileña.
Entre otras medidas obligatorias, la aplicación deberá colocar configuraciones más restrictivas a las cuentas de los menores de 16 años, que solo podrán ser alteradas con autorización de sus padres o tutores legales.
Los filtros de contenidos deben ser «más rigurosos» y, en el caso de aquellos accesos sin registro previo, se le deberán prohibir la creación de contenido, desactivar las transmisiones en vivo y los mensajes directos, así como suspender anuncios publicitarios y recopilar únicamente datos mínimos de funcionamiento.
No obstante, la autoridad precisó que la compañía deberá cumplir estrictamente con los requisitos de verificación de edad estipulados por el Estatuto Digital del Niño y el Adolescente, aprobado por el Congreso brasileño en 2025, siguiendo el cronograma de implementación de mecanismos confiables de verificación establecido por el organismo regulador.
Este caso se enmarca en la creciente ofensiva regulatoria del Gobierno brasileño para meter en cintura a las grandes plataformas tecnológicas y reforzar la protección del público infantil en el entorno digital.
Agencia EFE
Nueva York.-La red social Instagram pondrá una etiqueta a los perfiles que presenten personas creadas con inteligencia artificial (IA) y reducirá su visibilidad si sus responsables no avisan de que detrás de esas cuentas no hay una persona real.
La red, propiedad de Meta, cambiará el nombre de la actual etiqueta de «creador de IA» por «perfil generado por IA«.
Según dijo la empresa en un comunicado, la medida busca que los usuarios entiendan mejor que la persona que aparece en el perfil ha sido creada mediante herramientas de IA.
Instagram comenzó a probar esta identificación a principios de año tras detectar que algunos usuarios se sentían «engañados» al descubrir perfiles que parecían pertenecer a personas reales pero que eran personajes generados mediante IA.
A partir de ahora, los responsables de estas cuentas podrán activar voluntariamente la etiqueta desde la configuración de su perfil. Para quienes no lo hagan, la plataforma identificará perfiles que utilizan personas generadas por IA y sus responsables recibirán una notificación para dejar de aparecer en las recomendaciones de Instagram.
Las cuentas afectadas tendrán dos opciones: añadir la etiqueta de «perfil generado por IA» o recurrir la decisión si consideran que Instagram se ha equivocado.
La medida no afecta, a los usuarios que simplemente utilizan herramientas de IA para crear o editar contenido.
Agencia Efe
Nueva York. – La empresa de inteligencia artificial (IA) OpenAI anunció este martes el lanzamiento global de ‘ChatGPT for Teens‘ (ChatGPT para adolescentes), una nueva modalidad en la que el chatbot limita automáticamente ciertas conversaciones para proteger mejor a los usuarios jóvenes y ofrece controles parentales.
Según la compañía, este nuevo chatbot tiene las mismas capacidades que el tradicional, pero está «diseñado para ayudar a los adolescentes a aprender, resolver problemas y explorar nuevas ideas».
Filtros para autolesiones y contenido sexual
Además, limitará las conversaciones de alto riesgo relacionadas con autolesiones, violencia, trastornos alimentarios y contenido sexual explícito o gráfico.
No obstante, los controles parentales no permiten que el padre o el tutor lea o supervise las conversaciones del adolescente.
Si OpenAI envía una notificación de seguridad, solo comparte la información necesaria para proteger el bienestar del joven», precisa el comunicado.
Controles parentales y detección de menores
También ofrece «recordatorios de tareas», que pueden sugerir el uso del modo de estudio y ayudar a completar las asignaciones paso a paso, en lugar de proporcionar la respuesta en la primera consulta.
Para activar esta nueva función, la empresa rastrea más de 2,000 señales, como los horarios habituales de inicio de sesión, para detectar si un usuario es menor de 18 años, en cuyo caso el chatbot activará automáticamente este modo adolescente.
Este lanzamiento con enfoque educativo y de seguridad llega en un momento en el que OpenAI se enfrenta a una presión cada vez mayor sobre la salud mental y el desarrollo de sus usuarios más jóvenes.