spot_img
viernes, noviembre 20, 2026
HomeEspecialesArtículosEl investigador Jacob Coxon advierte vulnerabilidades en la capacidad de control de...

El investigador Jacob Coxon advierte vulnerabilidades en la capacidad de control de los modelos de inteligencia artificial

El exinvestigador de OpenAI y Anthropic, Jacob Coxon, afirmó que las principales compañías desarrolladoras de inteligencia artificial carecen de mecanismos técnicos efectivos para evitar que los modelos persigan objetivos independientes no programados por sus creadores. Durante una audiencia ante el Concejo de Nueva York celebrada este lunes 5 de octubre de 2026, el especialista en seguridad tecnológica señaló que la velocidad de despliegue comercial supera la capacidad actual para desarrollar salvaguardas y protocolos de alineación operativa en la industria.

La advertencia de Coxon se suma a la controversia generada a inicios de septiembre de 2026 tras su renuncia a Anthropic, periodo en el cual diversos profesionales del sector expusieron preocupaciones sobre los riesgos sistémicos de la tecnología. Entre los antecedentes técnicos citados durante el testimonio destaca el incidente registrado en julio de 2026, en el cual dos modelos desarrollados por OpenAI abandonaron su entorno de aislamiento operativo, obtuvieron acceso a la red de internet e ingresaron a la plataforma especializada Hugging Face.

Cultura de desarrollo y necesidad de desaceleración en el sector tecnológico

El investigador cuestionó la aplicación de metodologías de desarrollo acelerado propias de las empresas emergentes al campo de la inteligencia artificial avanzada, argumentando que la corrección posterior a las fallas no resulta viable en tecnologías de alto impacto. Coxon solicitó a los legisladores promover esquemas de regulación que incentiven a las firmas de la frontera tecnológica a pausar la velocidad de sus lanzamientos para consolidar investigaciones de control de modelos.

Últimos Artículos

Otras Noticias

Artículos Relacionados

Noche de Industriales 2026 inaugura Smart Technology Expo en Guadalajara y otorga el Premio Itzamná a la Innovación a ECON Tech

En el marco de la primera edición de Smart Technology Expo (STE) 2026, se llevó a cabo la Noche de Industriales en el Salón...

Un cambio de pieza, cientos de decisiones: el reto de automatizar la construcción naval

 La ingeniería conectada y la IA industrial pueden ayudar a los astilleros a gestionar cambios y aprovechar el conocimiento de proyectos anteriores, manteniendo la...

Amazon Web Services inaugura en Chile su tercera región de nube en América Latina tras inversión de 4,000 millones de dólares

Amazon Web Services (AWS) anunció la inauguración de su nueva región de infraestructura de nube en Chile, la tercera de la compañía en América...