Este organismo sería similar a los de otras industrias, tal como ha citado Amodei poniendo como ejemplo a la Autoridad Reguladora de la Industria Financiera (FINRA) que, como organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos, se encarga de supervisar y autorregular las empresas de valores y corredurías de bolsa del país.
Se trataría de un organismo inédito, ideado por las propias compañías de Silicon Valley que han acelerado el progreso de una tecnología que ahora quieren frenar ellas mismas. De hecho, el propio Amodei sugirió solicitar una exención «limitada» en las leyes de competencia de Estados Unidos que les permita pactar y coordinar estos límites de seguridad.
No obstante, estos llamamientos de desaceleración y nuevas reglas para la industria harán más intensa la tormenta política a la que se enfrenta el gobierno de Estados Unidos. El propio presidente, Donald Trump, se ha mostrado contrario a frenar el desarrollo, al declarar: «Estamos superando a China en IA, somos el país más sofisticado del mundo, y francamente, quiero que siga siendo así».
Asimismo, hay voces críticas en la industria y entre algunos competidores, así como en la administración estadounidense, que señalan que una desaceleración acordada entre los gigantes del sector, aparte de actuar como un «cartel» para bloquear a competidores más pequeños, frenaría la ventaja estratégica del país frente a potencias rivales como China.
Microsoft presenta un código de conducta para su inteligencia artificial
Microsoft presentó el lunes un borrador de código de conducta para su inteligencia artificial interna que refleja la creciente preocupación del sector por la necesidad de que las empresas mantengan bajo control humano las potentes IA del futuro.
El documento, en el que se ha estado trabajando durante cinco o seis meses, exigiría que la IA de Microsoft nunca se resista a ser corregida o apagada, que se comunique de forma que los humanos puedan entenderla y que considere cualquier infracción de conducta como un fallo —un esfuerzo por abordar las preocupaciones de que la IA pueda llegar a extremos peligrosos para llevar a cabo una tarea—.
Su publicación se produce pocos días después de que el director ejecutivo de Anthropic, Dario Amodei, y el director de OpenAI, Sam Altman, reiteraron sus llamamientos al sector para que modere el desarrollo de la IA con el fin de garantizar su seguridad.
«Las personas importan más que la IA», dijo Microsoft, en consonancia con su visión previa de una «superinteligencia humanista».
El código de conducta representa una especie de constitución para los futuros modelos creados por la empresa, dijo el director ejecutivo de Microsoft AI, Mustafa Suleyman, en una entrevista con Reuters.
Microsoft lo elaboró tras consultar a expertos y ahora quiere recabar la opinión del público durante seis semanas, incluso sobre cuestiones abiertas como si la IA debe respetar los límites de un usuario y cómo debe interactuar con alguien que se encuentre en un estado vulnerable, explicó.
«Después de eso, se utilizará para entrenar los modelos que construyamos», afirmó sobre el código.
