Tiempo de lectura aprox: 1 minutos, 42 segundos
Este miércoles hemos retomado nuestro espacio de noticias semanales, de las que os hago un breve resumen:
Meta prepara una nueva generación de IA que no solo responde, también actúa.
Hasta ahora, cuando hablamos de inteligencia artificial solemos imaginar un chatbot al que le hacemos una pregunta y recibimos una respuesta. Podemos pedirle que escriba un texto, busque información o nos explique un concepto.
Sin embargo, la siguiente generación de sistemas de IA pretende ir mucho más allá. El objetivo es que la inteligencia artificial pueda realizar acciones por nosotros.
Meta está trabajando precisamente en esta dirección con Muse, un nuevo agente de inteligencia artificial cuya diferencia fundamental reside en su capacidad para ejecutar tareas, no solamente para responder preguntas, es decir, se trata de una agente de IA que puede entender una petición y actuar sobre ella, como por ejemplo buscar información, organizar tareas, realizar una compra o interactuar con diferentes servicios por si mismo, de manera combinada y en torno a un objetivo definido previamente.
La idea resulta sencilla de entender. En lugar de decirle a la IA qué hacer paso a paso, podemos indicarle nuestro objetivo y el sistema se encargaría después de completar las acciones necesarias.
Esto supone un cambio importante en la forma de utilizar la inteligencia artificial. Hasta ahora, nosotros hacemos la mayor parte del trabajo y la IA nos ayuda, sin embargo, con los agentes, el reparto puede invertirse. Nosotros indicamos lo que necesitamos y el sistema realiza buena parte del proceso, lo cual Esto indica que los agentes podrían convertirse progresivamente en servicios utilizados tanto por particulares como por profesionales.
Pero existe una diferencia fundamental respecto a un chatbot tradicional: cuantas más cosas puede hacer una IA, más importante resulta controlar sus acciones.
Un chatbot puede proporcionar una información equivocada y un agente autónomo podría, además, utilizar esa información para realizar una acción.
Por ejemplo, podría efectuar una compra, modificar una configuración o interactuar con otro servicio, por eso, la seguridad se convierte en uno de los grandes desafíos de esta nueva etapa. El problema ya no consiste solamente en comprobar si una respuesta es correcta, sino que también hay que comprobar qué puede hacer el sistema y bajo qué condiciones puede hacerlo.
El propio desarrollo de estos agentes está generando nuevas dudas sobre su comportamiento autónomo. El documento también recoge que varias figuras relevantes del sector han advertido sobre los riesgos de sistemas capaces de actuar por sí mismos, de hecho, el debate está llegando incluso a las propias compañías que desarrollan estas tecnologías.
Dario Amodei, director ejecutivo de Anthropic, ha pedido reducir el ritmo de desarrollo de los modelos más avanzados y establecer controles independientes, propuesta que ha recibido también respaldo parcial de otras figuras del sector, según recoge el documento.
El gran cambio, por tanto, no está solamente en conseguir una IA más inteligente, sino en lograr una IA capaz de actuar sin perder el control sobre lo que hace y esa puede ser precisamente la verdadera frontera de la inteligencia artificial: pasar de responder a nuestras órdenes a ejecutar tareas en nuestro nombre.