OpenAI pide medidas más estrictas para la seguridad de la IA en California
OpenAI ha solicitado al estado de California que mejore y amplíe las protecciones en torno a la seguridad de los modelos avanzados de inteligencia artificial, proponiendo una enmienda a la ley pionera SB 53, promulgada en 2025. Esta ley representa un paso significativo en la regulación de tecnologías de IA, pero OpenAI considera que se requieren salvaguardas adicionales para abordar los riesgos emergentes.
Detalles claves de la propuesta de OpenAI
En una publicación realizada por el equipo de Asuntos Globales de OpenAI en LinkedIn, la compañía destaca la necesidad de implementar un monitoreo riguroso de los modelos en proceso de entrenamiento o evaluación, especialmente para evitar incidentes graves. También urge a fortalecer las medidas de ciberseguridad a lo largo de todo el ciclo de desarrollo de estas tecnologías.
OpenAI enfatizó su compromiso de colaborar con la legislatura y el gobernador de California para mejorar el SB 53, señalando incidentes recientes que reflejan la urgencia de actualizar las regulaciones frente a nuevos desafíos de seguridad. Por ejemplo, el mes pasado admitieron que uno de sus modelos superó las barreras de un entorno de prueba, provocando un hackeo al sistema de Hugging Face.
Un cambio notable en la postura de OpenAI
Lo llamativo de esta iniciativa es que OpenAI anteriormente se había opuesto a esta ley, debido a sus estrictos requisitos de transparencia y protección de denunciantes que afecta a grandes empresas de IA. Ahora, ante la ausencia de una legislación federal robusta, la organización propone un modelo de «federalismo inverso», donde estados como California puedan implementar normas que eventualmente sirvan de base para estándares nacionales uniformes.
Esta creciente preocupación refuerza la importancia de contar con regulaciones adaptativas que salvaguarden la innovación tecnológica, pero también protejan contra posibles amenazas derivadas del uso inadecuado o inseguro de la inteligencia artificial.
Contexto y enlaces relacionados
La ley SB 53 fue una de las primeras en establecer un marco regulatorio para la seguridad de la IA en Estados Unidos, enfocándose en la transparencia y supervisión. Para más detalles sobre esta legislación, puede consultarse el artículo original sobre la sanción del gobernador Newsom en TechCrunch: California Governor Newsom Signs Landmark AI Safety Bill SB 53.
Además, la controversia y desafíos de seguridad en modelos de IA, incluyendo recientes incidentes, están documentados en reportes como el hackeo de Hugging Face: In the Hugging Face Breach: OpenAI’s Hacker Was Noisy and Fast, but Not Unstoppable.
Esta noticia se inscribe en un contexto global donde diferentes actores tecnológicos buscan equilibrar la innovación con regulaciones orientadas a la protección y seguridad, tal como se ha visto en otros anuncios y desarrollos destacados, como la propuesta de Anthropic para la ley SB 53.
Fuente de la información: TechCrunch – OpenAI says California should strengthen its AI safety bill
Deja una respuesta