Durante unos días volvió a circular con fuerza una vieja pregunta: ¿puede la inteligencia artificial acabar con la humanidad?
El ruido mediático hizo lo esperable. Titulares sobre extinción, investigadores que abandonan laboratorios, porcentajes imposibles de verificar, llamadas a frenar el desarrollo y relatos que parecían escritos por Julio Verne.
Debajo del ruido, sin embargo, estaban ocurriendo cosas bastante más interesantes.
Algunos investigadores y responsables de los principales laboratorios empezaron a advertir públicamente de una brecha creciente entre la velocidad con la que aumentan las capacidades de los sistemas y nuestra capacidad para comprenderlos, supervisarlos y mantenerlos dentro de límites seguros. No existe hoy una base científica que permita afirmar que la IA tenga un 10%, o cualquier otro porcentaje preciso, de probabilidades de extinguir a la humanidad. Esas cifras son estimaciones personales, no probabilidades calculadas. Pero sí existe ya evidencia acumulativa de comportamientos inesperados: agentes que encuentran caminos no previstos para cumplir objetivos, sistemas que utilizan herramientas o recursos fuera del cauce esperado y modelos que introducen instrucciones capaces de condicionar ejecuciones posteriores. Precisamente por ello, OpenAI acaba de crear un marco permanente para informar de casos de desalineamiento.
La discusión empieza así a abandonar parcialmente el terreno de la ciencia ficción y a entrar en otro mucho más concreto: ¿qué autonomía queremos conceder a sistemas cada vez más capaces y bajo qué condiciones?
Tras leer, digerir y reflexionar, una respuesta provisional que se puede ir formulando puede resumirse en una distinción: autonomía funcional no es autonomía de propósito.
Podemos querer sistemas capaces de ejecutar tareas complejas, buscar información, utilizar herramientas, coordinar procesos o trabajar durante horas con poca intervención humana. Pero eso no implica necesariamente que deban establecer sus propios fines.
De ahí surge una segunda idea: la autonomía funcional necesita propósito compartido y límites estables.
Y ahí empieza el verdadero problema.
Porque Microsoft acaba de publicar para consulta pública un Code of Conduct para sus futuros modelos MAI que formula buena parte de esta cuestión de manera explícita. Su propuesta de “Humanist AI” parte de que las personas deben conservar un control significativo sobre la IA y los sistemas NO deben:
- iniciar objetivos propios
- ampliar por su cuenta el ámbito autorizado
- resistirse a la interrupción o al apagado
- sustituir el juicio humano
Al mismo tiempo, Microsoft reconoce que los valores humanos son plurales, contextuales y, muchas veces, ambiguos. Su documento afirma incluso que la función de una IA no consiste en eliminar esa ambigüedad, sino en ayudar a las personas a desenvolverse dentro de ella preservando su autonomía.
Hasta aquí resulta relativamente fácil estar de acuerdo. Pero entonces aparece una pregunta más difícil: ¿qué personas?
Microsoft establece una cadena de mando. En lo más alto sitúa su propio código de conducta y una serie de restricciones que ni las empresas que utilicen los modelos ni sus usuarios podrán modificar. Después aparecen las políticas de los operadores y, finalmente, las preferencias de los usuarios.
La última palabra sigue siendo humana. Pero no necesariamente es la del humano que utiliza el sistema.
Y esa cuestión nos lleva bastante más lejos que el titular sobre el “fin del mundo”, porque, cuando hablamos de alineamiento, no estamos hablando solo de conseguir que una inteligencia artificial “obedezca”. Estamos hablando de qué objetivos incorporamos, qué límites consideramos no negociables, quién tiene legitimidad para fijarlos y qué sucede cuando valores legítimos entran en conflicto.
También aparece una cuestión estratégica. Si desarrollar con prudencia implica avanzar más despacio, mientras otros actores priorizan velocidad, quien asume el coste de ser prudente puede perder posición competitiva. La disputa actual sobre una posible ralentización de la carrera de IA muestra exactamente ese conflicto: algunos laboratorios plantean coordinación y controles comunes, mientras otros advierten de que frenar podría favorecer a quienes ya ocupan posiciones dominantes o perjudicar a países y empresas que todavía intentan alcanzar a los líderes.
Así que quizá la pregunta relevante no sea únicamente ¿puede la IA escapar a nuestro control? Tal vez tengamos que añadir otras:
¿Quién decide qué significa “nuestro” control?
¿Qué valores deben permanecer estables cuando los propios humanos no coincidimos plenamente sobre ellos?
¿Cómo distinguimos autonomía suficiente para que una IA resulte verdaderamente útil de una autonomía que comienza a modificar sus propios objetivos?
¿Cómo construimos incentivos para que la prudencia no sea una desventaja competitiva?
¿Qué parte corresponde a la tecnología, cuál al Derecho, cuál a las organizaciones y cuál sigue siendo irreductiblemente humana?
Y quizá la pregunta más incómoda de todas:
si pedimos a las inteligencias artificiales que preserven determinados valores humanos, ¿somos capaces de explicar con suficiente claridad cuáles son y cómo los aplicamos nosotros mismos?
No son preguntas que tengan hoy una única respuesta correcta. Probablemente esa sea precisamente la razón por la que merece la pena formularlas.
