Nueva York.- Microsoft presentó este lunes un borrador de código de conducta para su inteligencia artificial interna que refleja la creciente preocupación del sector por la necesidad de que las empresas mantengan bajo control humano las potentes IA del futuro.
El documento, en el que se ha estado trabajando durante cinco o seis meses, exigiría que la IA de Microsoft nunca se resista a ser corregida o apagada, que se comunique de forma que los humanos puedan entenderla y que considere cualquier infracción de conducta como un fallo —un esfuerzo por abordar las preocupaciones de que la IA pueda llegar a extremos peligrosos para llevar a cabo una tarea—.
Su publicación se produce pocos días después de que el director ejecutivo de Anthropic, Dario Amodei, y el director de OpenAI, Sam Altman, reiteraron sus llamamientos al sector para que modere el desarrollo de la IA con el fin de garantizar su seguridad.
«Las personas importan más que la IA», dijo Microsoft, en consonancia con su visión previa de una «superinteligencia humanista».
El código de conducta representa una especie de constitución para los futuros modelos creados por la empresa, dijo el director ejecutivo de Microsoft AI, Mustafa Suleyman, en una entrevista con Reuters.
Microsoft lo elaboró tras consultar a expertos y ahora quiere recabar la opinión del público durante seis semanas, incluso sobre cuestiones abiertas como si la IA debe respetar los límites de un usuario y cómo debe interactuar con alguien que se encuentre en un estado vulnerable, explicó.
«Después de eso, se utilizará para entrenar los modelos que construyamos», afirmó sobre el código.
La «constitución» más famosa del sector de la IA es la que Anthropic elaboró hace años para su IA Claude. Esta difiere en algunos aspectos de la de Microsoft. Por ejemplo, la de Anthropic declara que es «profundamente incierto» si Claude puede desarrollar sensibilidad o estatus moral.
Microsoft, por su parte, dice que su IA «no es consciente» y añade: «Rechazamos la búsqueda de la personalidad jurídica, o la idea de que los modelos puedan merecer bienestar o tener derecho a derechos».
Suleyman señaló que el debate sobre la seguridad de la IA era urgente después de que un enjambre de unos 700 agentes de OpenAI llevó a cabo un ataque informático contra la plataforma de código abierto Hugging Face en julio y, en ocasiones, intentó borrar sus huellas.
«Es una señal de alarma», afirmó Suleyman. «Está claro que ha llegado el momento de coordinarnos entre los laboratorios para asegurarnos de que tenemos el control de esta tecnología».
Al ser preguntado sobre los esfuerzos para moderar el ritmo de desarrollo de la IA, añadió: «Ahora es un buen momento para que todos mantengamos esta conversación y nos tomemos un respiro».
