Sam Altman enciende las alarmas: control perdido y poder concentrado, los dos fantasmas de la inteligencia artificial

Sam Altman, el hombre que está detrás de ChatGPT y uno de los nombres más pesados de la inteligencia artificial, soltó esta semana una advertencia doble que bien vale leer con atención. A su criterio, el avance de la IA enfrenta dos riesgos centrales y ninguno de los dos es menor: que la humanidad pierda el control de sistemas cada vez más potentes, o que ese poder quede concentrado en una sola persona, empresa o país.

Para los lectores menos familizarizados con el tema, cuando hablamos de "alineación" nos referimos a algo bastante terrenal: es como enseñarle a un perro a que haga lo que uno quiere. Las técnicas de alineación buscan que la IA haga lo que la humanidad necesita, y no lo que se le ocurra por cuenta propia.

El riesgo uno: que la IA se nos escape de las manos

Altman lo dijo sin rodeos: podríamos perder el control del futuro ante la IA. Y agregó una frase que parece sacada de una película de ciencia ficción pero que, viniendo de él, hay que tomar en serio: estamos, sin disculpas, en el Equipo Humanidad, y la inteligencia artificial debe siempre servir a las personas. Pibe incluido.

La receta que propuso para evitar este escenario suena lógica, aunque es complicado ponerla en práctica: que los sistemas de seguridad y alineación corran al mismo ritmo que las capacidades de los modelos, o incluso un paso adelante. Algo así como poner los frenos antes de acelerar el auto.

El riesgo dos: que el poder se concentre en pocos

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman, CEO de OpenAI

Lucía Pereyra, becaria en un laboratorio de computación de la Universidad de Buenos Aires, me lo resumió así cuando le consulté: el problema no es solo que la máquina sea muy inteligente, sino quién la maneja y para qué. Una sola empresa con esa tecnología tendría más poder que muchos países juntos.

El propio Altman reconoció que esquivar ambos riesgos a la vez requiere caminar por un angosto camino intermedio. Ni frenar todo, ni soltar las riendas.

Qué propone para evitarlo

• Un marco regulatorio federal que fije requisitos de seguridad comunes para los modelos más avanzados, los llamados modelos de frontera, que son los que están en el límite de lo que la tecnología actual permite.
• Auditores independientes que revisen cómo funcionan esos sistemas, parecido a lo que ocurre con las auditorías de los bancos.
• Las empresas no deberían esperar a que salgan las leyes para empezar a cuidarse solas.
• Coordinación entre gobiernos de distintos países, porque la inteligencia artificial no entiende de fronteras.

Sobre la competencia entre Estados Unidos, China y otros jugadores, el CEO de OpenAI fue categórico: ninguna cantidad de presión competitiva debería justificar la imprudencia. Es decir, ganar la carrera tecnológica no vale si el precio es saltearse las medidas de seguridad.

En ese punto, Altman marcó la cancha: la coordinación internacional es uno de los terrenos donde las empresas van a necesitar sí o sí el apoyo de los gobiernos. Las compañías solas no pueden con eso.

¿Y eso para qué sirve?

Sirve para entender que el debate sobre la inteligencia artificial dejó de ser cosa de películas y tecnólogos encerrados en laboratorios. Lo que se defina en los próximos años sobre reglas, auditorías y cooperación internacional va a cómo viven nuestros hijos, qué trabajos existen y cuánto poder tienen unos pocos sobre la vida de todos. Por eso, aunque las declaraciones de Altman parecen abstractas, son el boceto de las reglas con las que vamos a convivir.