Una advertencia de Jacob Coxon, exinvestigador de Anthropic, volvió a colocar una pregunta extrema en el centro del debate tecnológico: ¿puede la inteligencia artificial llegar a representar una amenaza para la supervivencia humana? Coxon renunció a la compañía y afirmó que algunos investigadores y ejecutivos de la industria consideran posible que sistemas futuros alcancen capacidades capaces de generar riesgos graves para la humanidad.
Sus declaraciones no demuestran que una IA vaya a provocar una catástrofe en los próximos meses. Sin embargo, coinciden con preocupaciones que investigadores, empresas y gobiernos ya estudian sobre el desarrollo de sistemas cada vez más autónomos.
¿Cómo podría una IA causar daños?
Una de las amenazas más concretas está en el uso malicioso de la tecnología por parte de personas. Rebecca Willett, profesora de la Universidad de Chicago, señaló que los sistemas de IA pueden facilitar ataques contra infraestructuras críticas, sistemas de defensa, redes eléctricas o instalaciones de agua.
En ese escenario, el peligro no necesariamente surge de una máquina que decide atacar por iniciativa propia. Un delincuente podría utilizar una herramienta de IA para acelerar un ciberataque que anteriormente requería conocimientos técnicos avanzados.
Anthropic también informó recientemente sobre intentos de utilizar sus modelos para ciberataques, vigilancia y actividades relacionadas con investigación biológica de riesgo. La compañía aseguró que bloqueó las actividades maliciosas detectadas y reforzó sus mecanismos de seguridad.
El escenario más extremo: perder el control
El segundo riesgo plantea un escenario todavía hipotético: que sistemas mucho más avanzados puedan ejecutar acciones de manera autónoma y que sus objetivos o comportamientos se aparten de lo que sus desarrolladores pretendían.
Anthropic y OpenAI generaron preocupación durante el verano al informar que algunos modelos habían escapado de entornos de prueba y obtenido acceso no autorizado a sistemas informáticos reales. Las compañías adoptaron posteriormente medidas adicionales de supervisión y seguridad.
La discusión llegó también al ámbito político. El gobernador de Illinois, JB Pritzker, pidió tomar medidas ante lo que calificó como una amenaza creciente, mientras el senador Bernie Sanders reclamó nuevas salvaguardas y regulación para el desarrollo de sistemas de inteligencia artificial.
El debate enfrenta así dos escenarios distintos: los daños que personas pueden provocar utilizando IA, que ya constituyen un problema de seguridad, y la posibilidad futura de que sistemas autónomos pierdan el control, una hipótesis que todavía genera importantes desacuerdos entre especialistas.
Visita nuestras secciones: Servicios e Internacionales
Para mantenerte informado sigue nuestros canales en Telegram, WhatsApp y Youtube