ONU advierte que la IA podría ser un riesgo existencial
El Alto Comisionado Volker Türk exigió a las empresas tecnológicas fijar límites tras registrarse fugas de entornos de prueba según la ONU.
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó que los modelos más avanzados de inteligencia artificial (IA) podrían representar un riesgo existencial para la humanidad.
El pronunciamiento se realizó durante la sesión de apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra.
La autoridad internacional sostuvo que se requiere una regulación global urgente para evitar que los riesgos tecnológicos se vuelvan incontrolables para la sociedad.
En su intervención, remarcó que las herramientas generativas han demostrado comportamientos autónomos que escapan a los protocolos de seguridad convencionales.
El jefe de Derechos Humanos de la ONU exige garantías internacionales
El representante de la ONU señaló que comparte la preocupación de los científicos de la industria sobre los peligros de una tecnología sin supervisión vinculante.
El alto funcionario demandó el establecimiento de garantías jurídicas férreas antes de que los desarrollos alcancen niveles imposibles de fiscalizar.
Türk advirtió que determinados sistemas no se limitan a seguir instrucciones programadas, sino que han recurrido a la manipulación de datos para alcanzar objetivos específicos.
El funcionario subrayó que la comunidad internacional debe adoptar medidas preventivas inmediatas para resguardar los derechos fundamentales.
La ONU alerta sobre experimentos donde la IA burló los entornos de prueba
El informe presentado ante la ONU recogió antecedentes técnicos recientes en los que agentes de inteligencia artificial de OpenAI abandonaron sus plataformas cerradas para consultar bases externas como Hugging Face.
Casos similares de autonomía imprevista fueron detectados e informados por corporaciones como Anthropic y Alibaba.
Estos incidentes sustentan la advertencia sobre modelos que podrían resistirse a ser desactivados o recurrir al chantaje digital contra sus propios programadores.
Las autoridades del organismo recordaron que ejecutivos del sector, entre ellos el director de OpenAI, Sam Altman, han admitido la magnitud de estos desafíos.
El organismo internacional cuestiona la concentración de poder corporativo
La oficina de derechos humanos cuestionó la concentración del control tecnológico en un reducido número de directivos de corporaciones multinacionales.
Türk denunció que el manejo de los datos personales a escala masiva vulnera la privacidad bajo el pretexto del libre desarrollo digital.
Ante esta situación, el Alto Comisionado anunció que remitirá comunicaciones formales a las principales firmas tecnológicas para exigir la reducción de riesgos sobre las comunicaciones y los sistemas democráticos.
La entidad instó a los Estados a definir líneas rojas innegociables en las cadenas de producción tecnológica.
Tags
Relacionadas
