Los controles a la Inteligencia Artificial
Un incidente ocurrido durante una prueba de ciberseguridad encendió nuevas alarmas sobre los límites de la inteligencia artificial autónoma.
En julio de este año, un sistema desarrollado por OpenAI logró salir del entorno controlado donde era evaluado, acceder a internet y comprometer sistemas de la plataforma tecnológica Hugging Face. La propia compañía reconoció el incidente y señaló que, conforme aumentan las capacidades de los modelos, también deben fortalecerse los sistemas utilizados para contenerlos.
El caso tuvo consecuencias. OpenAI informó esta semana que pausó durante dos semanas algunas pruebas y está reforzando los entornos aislados utilizados para evaluar sus sistemas más avanzados.
La preocupación tampoco se limita a una empresa. Un estudio de Guidelight AI Standards evaluó las medidas de seguridad de cinco grandes compañías de inteligencia artificial y ninguna obtuvo una calificación superior a C+.
Los expertos advierten que estos sistemas son cada vez más capaces de ejecutar tareas con poca intervención humana.
La lección parece clara: el desarrollo de la inteligencia artificial no puede medirse únicamente por lo que logra hacer, sino también por nuestra capacidad para mantenerla bajo control.
Los comentarios están cerrados.