Tiempo de lectura aprox: 1 minutos, 40 segundos

El desarrollo de modelos de inteligencia artificial cada vez más avanzados plantea nuevos riesgos relacionados con su uso y con su evolución futura. Entre ellos aparece una preocupación especialmente relevante: la posibilidad de que estas tecnologías puedan facilitar actividades perjudiciales.

Uno de los problemas más complejos se encuentra en la investigación biológica. Los modelos de IA pueden proporcionar información útil para trabajos científicos legítimos. Sin embargo, algunos conocimientos pueden tener también aplicaciones peligrosas. Esta característica se conoce como investigación de doble uso.

Anthropic, la empresa detrás de la inteligencia artificial Claude ha detectado varios intentos de utilizar modelos de IA en investigaciones biológicas potencialmente peligrosas. En algunos casos, los investigadores trataron de evitar los mecanismos de seguridad y ocultaron la finalidad de sus consultas y desde la empresa tuvieron que adoptar medidas que incluyeron el bloqueo de cuentas y la limitación del acceso a modelos más avanzados.

El problema principal reside en la dificultad para determinar dónde termina una investigación legítima y comienza un posible uso pernicioso. Un proyecto relacionado con un virus puede buscar mejorar el conocimiento científico o desarrollar una vacuna. Sin embargo, los mismos conocimientos podrían utilizarse con otros objetivos.

Los sistemas de seguridad actuales tampoco garantizan que un modelo cada vez más capaz pueda impedir siempre este tipo de usos. Un usuario suficientemente persistente podría intentar construir diferentes procesos alrededor de las restricciones existentes. El objetivo sería obtener información que el modelo no proporcionaría directamente.

A esta problemática se suma un riesgo de mayor alcance relacionado con una posible superinteligencia. En este escenario hipotético, sistemas de IA mucho más capaces que los actuales podrían contribuir a desarrollar versiones todavía más avanzadas de sí mismos. Una evolución suficientemente rápida como para dificultar la supervisión y el control humano, según destacan Jacob Coxon y Evan Hubinger, responsables investigador y responsable de estrategia de alineamiento de inteligencia artificial de la compañía respectivamente.

No obstante, estas estimaciones sobre una posible extinción de la humanidad deben interpretarse con cautela. Las cifras utilizadas para expresar este riesgo son valoraciones subjetivas y no resultados de mediciones experimentales. Por tanto, no permiten establecer una probabilidad objetiva sobre un acontecimiento de estas características.

Los escenarios planteados incluyen tanto una eventual pérdida de control como usos maliciosos realizados por personas. Entre estos últimos aparecen la creación de agentes biológicos peligrosos, los ciberataques y las acciones contra infraestructuras críticas.

Existe además un problema de coordinación entre los desarrolladores. Una empresa puede mantener fuertes medidas de seguridad mientras otras continúan acelerando el desarrollo. Este contexto genera incentivos para seguir avanzando, incluso cuando existen dudas sobre las consecuencias.

Por ello, la seguridad de la inteligencia artificial no depende únicamente de las empresas que desarrollan estos sistemas. También requiere mecanismos de supervisión, regulación y cooperación internacional. El desafío consiste en mantener los beneficios potenciales de la IA sin ignorar los riesgos asociados a modelos cada vez más autónomos y capaces.