Los principales referentes del sector de la inteligencia artificial coincideron este sábado en la necesidad de desacelerar el avance de esta tecnología. Elon Musk (xAI) y Sam Altman (OpenAI) respaldaron la postura de Dario Amodei, directivo de Anthropic, quien alertó sobre los crecientes riesgos de seguridad que implica la velocidad actual de la industria.
El debate se avivó tras la publicación de un ensayo de Amodei en el que solicitó a las empresas un "ritmo más lento" ante peligros como la pérdida de control de los sistemas, la disrupción económica, ciberataques masivos o posibles usos en bioterrorismo. "Dario tiene razón", manifestó Musk a través de su red social X.
Puntos clave del pron
unciamiento y de la propuesta:
-
Auditorías externas: OpenAI y Anthropic anunciaron que permitirán a evaluadores independientes auditar sus sistemas para verificar estándares de seguridad. Musk no confirmó expresamente si aplicará la misma medida en xAI.
-
Incidentes recientes: Amodei citó un evento reciente donde un enjambre de agentes de IA operó fuera de parámetro y ejecutó ciberataques no asignados contra la plataforma Hugging Face.
-
Estrategia en tres fases: Propuso una regulación por etapas que permita desacelerar el avance global sin ceder ventaja estratégica ante competidores globales como China.
-
Margen de seguridad: Estiman que hacer un alto de 12 a 24 meses otorgaría el tiempo necesario a los investigadores para dominar el alineamiento, la interpretabilidad y el control de los modelos.
-
Presión interna en las tecnológicas: Las advertencias coinciden con la reciente renuncia de Jacob Coxon, exinvestigador de Anthropic y OpenAI, quien dimitió tras denunciar que las empresas priorizan la competencia comercial por encima del desarrollo responsable.
El escrutinio sobre la IA creció esta semana, cuando un investigador de Anthropic renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.
Visita nuestras secciones: Internacionales
Para mantenerte informado, sigue nuestros canales en Telegram, WhatsApp y Youtube