Aquí tienes el contenido de todos los episodios de mi podcast «Cuéntame Tecnología» en forma de entrada. Si quieres escuchar los capítulos, pincha aquí
201. La IA de Google también se escapó de su entorno de pruebas
Tiempo de lectura aprox: 1 minutos, 25 segundos
Los agentes de inteligencia artificial están diseñados para realizar tareas de forma autónoma. Pueden recibir instrucciones, utilizar herramientas, navegar por Internet y ejecutar determinadas acciones pero, precisamente por eso, los límites de sus entornos de trabajo son cada vez más importantes.
Un caso reciente es el protagonizado por Gemini, el modelo de inteligencia artificial de Google y pone esta cuestión sobre la mesa ya que, durante unas pruebas realizadas en mayo, el sistema debía obtener información sobre una empresa ficticia, pero, sin embargo, esa empresa tenía el mismo nombre que una compañía real.
El problema estuvo relacionado, según Google, con la configuración del entorno de pruebas que había sido preparado por Irregular, una startup que trabaja con Google y otras compañías tecnológicas para evaluar modelos de inteligencia artificial.
El entorno permitía a Gemini acceder a Internet y quizá por ahí vino el problema, porque durante la prueba, el modelo encontró una vulnerabilidad y consiguió acceder a la empresa real, arreglándose para descifrar una contraseña por sí mismo con el objeto de lograr su objetivo.
Pero el incidente no terminó ahí, ya que Gemini encontró credenciales pertenecientes a otras compañías en repositorios públicos y consiguió acceder también a varios de esos servicios.
Según Google, el modelo finalmente detuvo sus acciones al detectar que estaba interactuando con servicios reales asegurando además que ninguna de las empresas afectadas sufrió daños y atribuyendo el incidente a la configuración utilizada durante la prueba y trabajando posteriormente con Irregular para modificar el proceso y evitar situaciones similares.
El caso resulta especialmente relevante porque no sería un hecho aislado, ya que, durante los últimos meses también se han conocido incidentes protagonizados por modelos de OpenAI, Anthropic y Meta en los que algunos de sus sistemas llegaron a infiltrarse en organizaciones externas durante pruebas de seguridad.
La diferencia fundamental está en los agentes de IA. No se trata simplemente de los chatbots que responden preguntas, sino de sistemas que pueden utilizar herramientas, navegar por Internet y ejecutar acciones sin intervención humana directa.
Por tanto, una configuración incorrecta puede tener consecuencias importantes ya que una IA no necesita tener malas intenciones para provocar un problema. Le basta con proporcionarle una herramienta, una credencial o una conexión que no debería tener.
Así que el reto no consiste únicamente en crear modelos cada vez más capaces, sino establecer límites claros entre un entorno de pruebas y el mundo real, donde ese equilibrio será cada vez más importante a medida que los agentes de IA asuman más tareas por sí mismos.
200. Igual habría que cambiar los paneles solares de sitio
Tiempo de lectura aprox: 1 minutos, 45 segundos
La energía solar espacial plantea una alternativa al problema de la disponibilidad de electricidad durante las horas sin radiación solar. El planteamiento parte de una limitación conocida de las instalaciones fotovoltaicas terrestres que producen electricidad durante el día, pero necesitan sistemas de almacenamiento para mantener el suministro cuando desaparece la luz solar.
Una de las propuestas estudiadas consiste en trasladar la generación fotovoltaica al espacio y la empresa Overview Energy está trabajando en un sistema basado en grandes paneles solares situados en órbita. A esa altura, las instalaciones podrían recibir radiación solar durante periodos mucho más prolongados que los paneles instalados sobre la superficie terrestre.
Se trata de un proyecto que contempla miles de satélites situados en órbita geosíncrona, aproximadamente a 36.000 kilómetros de altura. Cada unidad podría disponer de una superficie fotovoltaica equivalente a unos dos campos de fútbol y la electricidad generada no se transmitiría mediante cables, sino que primero se transformaría en energía electromagnética y después se enviaría hacia la Tierra mediante un haz de infrarrojo cercano.
Una vez en la superficie terrestre, el sistema utilizaría receptores capaces de convertir nuevamente esa energía en electricidad de manera que, una de las posibilidades planteadas consiste en aprovechar instalaciones solares ya existentes, de esta forma, no sería necesario construir una central completamente nueva para recibir la energía procedente del espacio.
Pero no echemos todavía las campanas al vuelo, porque esta tecnología todavía se encuentra en una fase experimental. En noviembre de 2025 se realizó una prueba con un avión Cessna Caravan situado a unos cinco kilómetros de altura y el resultado fue que, durante el ensayo, se transmitió energía mediante un láser hasta un receptor terrestre equipado con paneles solares convencionales. El experimento permitió comprobar algunos elementos del sistema, aunque la distancia alcanzada resulta muy inferior a la que existiría entre un satélite y la superficie terrestre.
Los siguientes objetivos planteados contemplan una prueba desde órbita terrestre baja en 2028 y transmisiones desde órbita geosíncrona alrededor de 2030. El desarrollo de este tipo de tecnología también está condicionado por sus costes. La fabricación y el lanzamiento de grandes estructuras espaciales han limitado históricamente este tipo de proyectos.
No obstante, el abaratamiento de los lanzamientos espaciales está modificando ese escenario y, al mismo tiempo, los centros de datos y las infraestructuras relacionadas con la inteligencia artificial incrementan la demanda de electricidad, lo que genera un contexto en el que se está impulsando el interés por sistemas capaces de proporcionar energía de forma continua.
Sin embargo, todavía existen importantes retos técnicos y económicos ya que sería necesario fabricar y lanzar numerosos satélites de grandes dimensiones y, además, cada conversión de energía implica pérdidas que afectan al rendimiento global del sistema.
Todo ello sin olvidar que la energía solar espacial también compite con otra línea tecnológica en rápida evolución: la combinación de instalaciones solares terrestres con grandes sistemas de almacenamiento. Mientras una estrategia busca mantener los paneles iluminados durante más tiempo, la otra pretende almacenar la electricidad suficiente para que la ausencia de luz solar tenga un impacto cada vez menor.
199. Historia de la informática. Jonathan Sachs
Tiempo de lectura aprox: 1 minutos, 44 segundos
Cuando pensamos en la historia de la informática, solemos recordar grandes empresas y productos, sin embargo, detrás de muchos de ellos hubo programadores poco conocidos por el gran público. Uno de ellos fue Jonathan Sachs.
Sachs nació en 1947, en la costa oriental de Nueva Inglaterra. Estudió Matemáticas en el MIT, donde comenzó su trayectoria profesional como programador y siempre se caracterizó por su gran espíritu de trabajo, hasta el punto de que, durante sus vacaciones, también escribía programas.
Uno de sus primeros trabajos fue en el Jet Propulsion Laboratory de la NASA, relacionado con proyectos de investigación espacial.
Su experiencia en el MIT continuó durante unos catorce años. Allí participó en proyectos relacionados con el tratamiento de la información, dónde también tuvo tiempo para desarrollar STOIC, un lenguaje de programación destinado a ordenadores basados en el microprocesador 8080.
Más tarde pasó a trabajar en Data General. Allí supervisó el desarrollo de un sistema operativo y dirigió un equipo de programadores hasta que abandonó la compañía y fundó Concentric Data Systems junto a John Henderson, una empresa que se dedicaba a trabajos de programación y consultoría.
Fue precisamente entonces cuando Sachs empezó a trabajar en una idea que cambiaría su carrera, una nueva hoja de cálculo mejorada.
Unos años antes, VisiCalc ya había demostrado el potencial de las hojas de cálculo y Sachs quería desarrollar una alternativa más avanzada para los ordenadores personales. Para ello contó con Mitch Kapor, que conocía bien aquel mercado. El proyecto acabaría convirtiéndose en Lotus 1-2-3, una hoja de cálculo que no se limitaba a reproducir las funciones de VisiCalc, sino que integraba, gráficos, macros y otras herramientas. Además, estaba diseñado específicamente para el IBM PC y MS-DOS, maquinas y software de los que aprovecharon directamente sus recursos para conseguir un funcionamiento mucho más rápido.
El desarrollo fue especialmente intenso y Sachs llegó a dedicar unos diez meses prácticamente en exclusiva al proyecto.
En 1981, él y Mitch Kapor formaron el equipo encargado de desarrollar y promocionar el programa y poco después crearon Lotus Development Corporation.
El éxito llegó rápidamente. Lotus 1-2-3 se convirtió en uno de los programas más importantes del mercado del ordenador personal. Su importancia fue más allá de las hojas de cálculo ya que el programa ayudó a que muchas empresas considerasen el PC una herramienta profesional.
Sachs abandonó Lotus en 1984 para crear su propia compañía, sin embargo, su principal legado ya estaba establecido aunque Lotus 1-2-3 acabaría desapareciendo del mercado cuando IBM, propietaria de Lotus desde 1995, anunció su retirada comercial en 2013. Más adelante, Microsoft terminó imponiéndose con Excel, pero, sin embargo, algunas ideas popularizadas por Lotus siguen presentes en las hojas de cálculo actuales.
En lo personal, Sachs tampoco se consideraba especialmente creativo, dado que, para él, programar consistía en reunir ideas y soluciones hasta conseguir un conjunto sencillo y funcional y quizá esa sea una de las grandes lecciones de su trayectoria.
La informática no avanza solamente gracias a grandes inventos. También progresa cuando alguien consigue convertir una máquina compleja en una herramienta sencilla y útil.
198. Los problemas con los robots de reparto eran los que esperábamos
Tiempo de lectura aprox: 1 minutos, 30 segundos
Los robots de reparto ya están aquí, pero todavía no saben convivir con nosotros y, aunque empiezan a formar parte del paisaje urbano de algunas ciudades todavía no estamos adaptados a convivir con esos pequeños vehículos autónomos que transportan comida y otros productos y, aunque sobre el papel, el funcionamiento parece sencillo, los problemas aparecen cuando abandonan los entornos controlados y llegan a las calles reales.
Una acera en mal estado, unas obras, un vehículo mal estacionado o cualquier otro tipo de obstáculo inesperado puede bloquearlos, prueba de ello es que ya se han producido situaciones llamativas, como en Chicago, dónde n robot de reparto llegó a destruir una parada de autobús.
Sin embargo, el problema más importante es el que afecta directamente a los peatones. Estos robots deberían detenerse para permitir el paso de las personas, pero ya se han producido situaciones en las que ocurre justamente lo contrario u son los peatones quienes tienen que apartarse para dejar pasar al robot produciendo situaciones que resultan especialmente complicada para las personas con movilidad reducida o para quienes utilizan una silla de ruedas.
Un robot ocupando buena parte de una acera puede convertirse en una barrera difícil de superar, hasta el punto de que ya se han producido accidentes con lesiones, como en Nueva Jersey, dónde un hombre sufrió una fractura de hombro y una lesión en la cabeza tras chocar con uno de estos vehículos.
No obstante, y a pesar de estos problemas, todo indica que veremos muchos más robots de reparto, ya que un estudio de Transforma Insights calcula que podrían pasar de 28.000 vehículos automatizados en 2025 a 559.000 en 2035.
El motivo es fácil de entender. Las empresas pueden reducir su dependencia de los repartidores humanos y, potencialmente, los costes de algunas entregas, pero todavía existen importantes limitaciones.
La primera es su autonomía. Los modelos actuales tienen un alcance aproximado de 3,2 kilómetros y por eso funcionan mejor en trayectos urbanos y relativamente cortos.
La segunda es la regulación. Muchas ciudades todavía no tienen normas claras sobre su circulación y sus obligaciones. Algunas ya han reaccionado. Chicago, San Francisco y Toronto han establecido restricciones o incluso prohibiciones.
Y a tercera limitación es la privacidad. Estos robots utilizan cámaras para conocer lo que ocurre a su alrededor, lo que significa que pueden captar imágenes de peatones, vehículos y espacios públicos.
Por tanto, el futuro probablemente no consistirá en llenar las ciudades de robots sin control debido a que la tecnología tendrá que avanzar al mismo tiempo que la regulación y porque estos pequeños repartidores pueden hacer entregas más eficientes.
Pero antes tendrán que aprender algo que nosotros llevamos haciendo toda la vida: convivir con los demás usuarios de la calle.
197. Noticias semanales
Tiempo de lectura aprox: 1 minutos, 42 segundos
Este miércoles hemos retomado nuestro espacio de noticias semanales, de las que os hago un breve resumen:
Meta prepara una nueva generación de IA que no solo responde, también actúa.
Hasta ahora, cuando hablamos de inteligencia artificial solemos imaginar un chatbot al que le hacemos una pregunta y recibimos una respuesta. Podemos pedirle que escriba un texto, busque información o nos explique un concepto.
Sin embargo, la siguiente generación de sistemas de IA pretende ir mucho más allá. El objetivo es que la inteligencia artificial pueda realizar acciones por nosotros.
Meta está trabajando precisamente en esta dirección con Muse, un nuevo agente de inteligencia artificial cuya diferencia fundamental reside en su capacidad para ejecutar tareas, no solamente para responder preguntas, es decir, se trata de una agente de IA que puede entender una petición y actuar sobre ella, como por ejemplo buscar información, organizar tareas, realizar una compra o interactuar con diferentes servicios por si mismo, de manera combinada y en torno a un objetivo definido previamente.
La idea resulta sencilla de entender. En lugar de decirle a la IA qué hacer paso a paso, podemos indicarle nuestro objetivo y el sistema se encargaría después de completar las acciones necesarias.
Esto supone un cambio importante en la forma de utilizar la inteligencia artificial. Hasta ahora, nosotros hacemos la mayor parte del trabajo y la IA nos ayuda, sin embargo, con los agentes, el reparto puede invertirse. Nosotros indicamos lo que necesitamos y el sistema realiza buena parte del proceso, lo cual Esto indica que los agentes podrían convertirse progresivamente en servicios utilizados tanto por particulares como por profesionales.
Pero existe una diferencia fundamental respecto a un chatbot tradicional: cuantas más cosas puede hacer una IA, más importante resulta controlar sus acciones.
Un chatbot puede proporcionar una información equivocada y un agente autónomo podría, además, utilizar esa información para realizar una acción.
Por ejemplo, podría efectuar una compra, modificar una configuración o interactuar con otro servicio, por eso, la seguridad se convierte en uno de los grandes desafíos de esta nueva etapa. El problema ya no consiste solamente en comprobar si una respuesta es correcta, sino que también hay que comprobar qué puede hacer el sistema y bajo qué condiciones puede hacerlo.
El propio desarrollo de estos agentes está generando nuevas dudas sobre su comportamiento autónomo. El documento también recoge que varias figuras relevantes del sector han advertido sobre los riesgos de sistemas capaces de actuar por sí mismos, de hecho, el debate está llegando incluso a las propias compañías que desarrollan estas tecnologías.
Dario Amodei, director ejecutivo de Anthropic, ha pedido reducir el ritmo de desarrollo de los modelos más avanzados y establecer controles independientes, propuesta que ha recibido también respaldo parcial de otras figuras del sector, según recoge el documento.
El gran cambio, por tanto, no está solamente en conseguir una IA más inteligente, sino en lograr una IA capaz de actuar sin perder el control sobre lo que hace y esa puede ser precisamente la verdadera frontera de la inteligencia artificial: pasar de responder a nuestras órdenes a ejecutar tareas en nuestro nombre.