El Pentágono presenta sus 5 principios éticos para el uso de IA en la guerra

0
478

El Departamento de Defensa (DoD) de Estados Unidos lanzó este lunes los cinco principios bajo los que se regirá para el uso de la Inteligencia Artificial (IA) en la guerra.

En conferencia de prensa en el Pentágono, el pasado 24 de febrero, la Directora de Información del Departamento de Defensa, Dana Deasy, señaló que se daba inicio “a las bases para el diseño ético, el desarrollo, el despliegue y el uso de IA por parte del Departamento de Defensa”.

Asimismo, el Teniente General Jack Shanahan, director del Centro Conjunto de Inteligencia Artificial (JAIC), aseveró que la adopción de los principios separa a Estados Unidos y sus aliados de China y Rusia, cuyo uso de la IA para fines militares es inquieteante, pues “plantea serias preocupaciones sobre los derechos humanos, la ética y las normas internacionales”.

Los cinco principios determinan que el uso de la Inteligencia Artificial deberá ser:

Responsable: El personal del Departamento de Defensa ejercerá los niveles adecuados de juicio y cuidado, mientras seguirá siendo responsable del desarrollo, implementación y uso de las capacidades de IA.

Equitativa: El departamento tomará medidas deliberadas para minimizar el sesgo involuntario en las capacidades de IA.

Trazable: Las capacidades de IA del departamento se desarrollarán y desplegarán para que el personal tenga una comprensión adecuada de la tecnología, los procesos de desarrollo y los métodos operativos que se aplican a la Inteligencia Artificial. Esto incluye metodologías transparentes y auditables, fuentes de datos y procedimientos y documentación de diseño.

Fiable: Las capacidades de la IA del departamento tendrán usos explícitos y bien definidos, y la seguridad y la eficacia de dichas capacidades estarán sujetas a pruebas.

Gobernable: El departamento diseñará y construirá capacidades de IA para cumplir con sus funciones previstas mientras posee la capacidad de detectar y evitar consecuencias no deseadas, y la capacidad de desconectar o desactivar sistemas implementados que demuestren un comportamiento no intencionado.

Luego de un proceso de 15 meses, los principios siguieron las directrices y recomendaciones hechas por la Junta de Innovación en Defensa al Secretario de Defensa Mark Esper, donde se reunió a expertos en IA de la industria, el gobierno y académicos.

Se espera que el JAIC lidere los esfuerzos para implementar los principios. De acuerdo con Shanahan, se contrató a una especialista de IA, y en conjunto con otros especialistas y líderes de IA de todo el departamento, se podría acelerar su implementación.

En un memorando distribuido a las agencias federales, la oficina de Política de Ciencia y Tecnología de la Casa Blanca dijo que las regulaciones propuestas deberían fomentar “la equidad, la no discriminación, la apertura, la transparencia, la seguridad y la protección”.

LEAVE A REPLY

Please enter your comment!
Please enter your name here