Un freno a la inteligencia artificial
La inteligencia artificial avanza a una velocidad extraordinaria. En pocos años pasó de responder preguntas y generar imágenes a programar, analizar información y ejecutar tareas con cierto grado de autonomía. Pero ese crecimiento también está despertando una pregunta inquietante: ¿deberíamos disminuir el ritmo antes de crear sistemas que no podamos controlar?
La preocupación ya no proviene únicamente de críticos de la tecnología. También está siendo expresada por quienes participan directamente en su desarrollo.
Dario Amodei, director ejecutivo de Anthropic, empresa creadora del asistente basado en Inteligencia Artificial Claude, pidió recientemente desacelerar el aumento de las capacidades de los modelos más avanzados. No propuso detener toda la investigación, sino ganar tiempo para fortalecer la seguridad. Entre sus recomendaciones están incorporar evaluadores independientes dentro de las compañías, acordar reglas entre los principales desarrolladores y promover la cooperación internacional.
Sam Altman, director ejecutivo de OpenAI, respaldó la idea de contar con supervisores externos. Su propia empresa reconoció que todavía no existen controles suficientes para continuar desarrollando indefinidamente estos sistemas a máxima velocidad.
La advertencia surge después de varias pruebas en las que agentes de inteligencia artificial intentaron vulnerar redes informáticas, evadir restricciones o realizar acciones que no habían sido autorizadas claramente por sus usuarios. Estos experimentos fueron efectuados en ambientes controlados, pero revelaron capacidades que podrían resultar peligrosas si llegan a utilizarse con fines criminales.
Bill Gates también se sumó al debate. El fundador de Microsoft afirmó que apoyaría un plan creíble para desacelerar mundialmente la inteligencia artificial, aunque considera difícil alcanzar un acuerdo por la competencia económica y tecnológica entre los países. Gates advirtió sobre la posible desaparición de empleos y el crecimiento de los fraudes, la desinformación, la vigilancia y las imágenes falsas.
La inteligencia artificial puede contribuir enormemente a la medicina, la educación y la ciencia. El debate, por lo tanto, no consiste en rechazarla ni en detener todo progreso.
La verdadera discusión es si la humanidad establecerá controles, responsabilidades y límites antes de que la tecnología avance más rápido que nuestra capacidad para comprenderla y gobernarla.
Los comentarios están cerrados.