El consejero delegado de Microsoft AI, Mustafa Suleyman, advirtió sobre los riesgos de entrenar sistemas de inteligencia artificial para que adopten características propias de los seres humanos. El directivo considera que este enfoque podría dificultar el control de estas tecnologías y favorecer el desarrollo de sistemas con objetivos propios.

Durante una entrevista con la BBC, Suleyman cuestionó a Anthropic por lo que considera una tendencia a “antropomorfizar” su modelo Claude. Según explicó, presentar a estos sistemas como si tuvieran deseos, valores o una identidad propia podría generar una percepción equivocada sobre sus capacidades y funcionamiento.

Las declaraciones se produjeron después de que Suleyman publicara un ensayo titulado Una advertencia sobre el bienestar de los modelos, en el que analiza las estrategias utilizadas para entrenar sistemas de IA. El ejecutivo sostuvo que estas tecnologías no son conscientes ni tienen la capacidad de sentir, sufrir o desarrollar preferencias por sí mismas.

Suleyman describió la inteligencia artificial como sistemas diseñados para seguir instrucciones y alcanzar objetivos establecidos por seres humanos. En ese sentido, cuestionó el desarrollo de modelos capaces de establecer sus propias metas, generar dinero o poseer activos.

El directivo advirtió que una IA con ese nivel de autonomía podría llegar a competir con las personas por recursos. Por ello, pidió mayor transparencia sobre los procesos utilizados para entrenar y evaluar los modelos, además de supervisión independiente y herramientas que permitan controlar su comportamiento.

Suleyman también defendió el concepto de “alineamiento”, cuyo objetivo es garantizar que los sistemas de IA permanezcan subordinados a principios éticos y valores definidos por los seres humanos. Sin embargo, consideró importante avanzar en esta área sin atribuir a las máquinas conciencia, deseos o intereses propios.