Academia Mexicana de Ciencias
Boletín AMC/194/15
México, D.F., 19 de agosto de 2015

• En marco de la Conferencia Internacional de Inteligencia Artificial que se realizó en julio pasado en Buenos Aires, investigadores de esta área presentaron una carta abierta contra el desarrollo de robots militares, que sean autónomos y no requieran de la intervención humana para su funcionamiento
• La carta abierta tiene poco más de 19 mil firmas de investigadores en inteligencia artificial y robótica, entre ellos las de tres mexicanos; así como de personajes de talla internacional como el físico Stephen Hawking y el lingüista Noam Chomsky

Doctor Raúl Monroy Borja, investigador del Departamento de Tecnologías de Información y Computación del ITESM Campus Estado de México, e integrante de la Academia Mexicana de Ciencias.
Foto: ITESM.
Galería de imágenes

Cuáles serían las implicaciones de que un robot o un arma puedan tomar decisiones “autónomas”. La cuestión no es si el dispositivo falla o en quién recaería la responsabilidad legal de la misma, después de todo, detrás de estos desarrollos tecnológicos está un programador y es, por lo tanto, quien debe considerar las leyes internacionales en derechos humanos en caso de que el arma sea utilizada. El asunto es, entonces, frenar el desarrollo de armas autónomas para que un grupo radical dispuesto a realizar una “limpieza” étnica, atacar por motivos religiosos u otra razón, no pueda adquirir armas de este tipo, dijo el doctor Raúl Monroy Borja, investigador del Tecnológico de Monterrey.

Desde el punto de vista técnico no existen las armas autónomas, sin embargo, es cuestión de años para que un humano pueda instruirle a un drone (vehículo teledirigido no tripulado) buscar, identificar y posteriormente actuar en contra de objetivos, sean militares o no.

Un ejemplo de que la tecnología capaz de desarrollar máquinas autónomas está cerca, es el avión no tripulado desarrollado por el Reino Unido: el Taranis stealth, que es controlado por satélite desde cualquier lugar del mundo; entre sus características está la de evadir misiles dirigidos en su contra y por el momento, en caso de entrar en combate, necesita la autorización humana para atacar a un objetivo potencial. Otro caso es el del Super aEgis II, una torreta automatizada capaz de identificar y disparar contra un objetivo humano a una distancia de tres kilómetros, este dispositivo ya fue desplegado en la franja desmilitarizada, de cuatro kilómetros, que separa a Corea del Sur de Corea del Norte.

En este sentido, para Monroy Borja, integrante de la Academia Mexicana de Ciencias (AMC), el asunto no está en si podemos construir armas autónomas capaces de realizar determinada tarea, que puede ser atrapar a un criminal, el asunto es si esto es correcto o no, y si en el futuro estas armas podrían terminar en manos de grupos con propósitos agresivos. “Y aunque el veto no frenará el desarrollo de esta tecnología, lo que se busca es que ni el crimen organizado, ni los grupos radicales puedan adquirir armas autónomas de manera legal, en todo caso, tendrían que desarrollar ellos mismos su propia tecnología”.

Carta abierta

En julio pasado, en el marco de la Conferencia Internacional de Inteligencia Artificial que se realizó en Buenos Aires, Argentina, investigadores del área presentaron una carta abierta contra el desarrollo de robots militares, que sean autónomos y no requieran de la intervención humana para su funcionamiento.

Entre los planteamientos de la carta está que al igual que la mayoría de los químicos y los biólogos, quienes no tienen ningún interés en la construcción de armas químicas o biológicas, la mayoría de los investigadores del área de inteligencia artificial y robótica no están interesados en construir armas autónomas y, en cambio, consideran que la inteligencia artificial puede tener aspectos positivos para la humanidad.

La carta cuenta con 19 mil 65 firmas, de las cuales dos mil 810 son de investigadores en inteligencia artificial y robótica, y 16 mil 255 de otros firmantes, entre los que se encuentran el físico Stephen Hawking, Elon Musk co-fundador de PayPal y el lingüista Noam Chomsky. En lo que se refiere a México, hasta hace 15 días eran tres los investigadores firmantes: Guillermo Morales Luna, del Instituto Politécnico Nacional (IPN); Alejandro Martínez García, del Instituto Tecnológico del Valle de Morelia; y Raúl Monroy Borja, expresidente de la Asociación Mexicana de Inteligencia Artificial.

Uno de los orígenes de esta misiva es el debate acerca de si se debe o no prohibir el desarrollo de armas autónomas con propósitos ofensivos o letales, este planteamiento se dio en la segunda reunión informal de expertos convocada por miembros de la Convención Sobre Armas Convencionales de la ONU, en abril de este año. “El resultado del evento no fue favorable porque algunas naciones rechazaron el argumento, por ello un grupo de activistas empezaron a circular la idea de frenar el desarrollo de este tipo de armas”, dijo Monroy Borja.

De acuerdo con el especialista en seguridad informática e inteligencia artificial, lo que se busca con la carta, promovida principalmente por Toby Walsh, profesor de Inteligencia Artificial de la Universidad New South Wales de Australia, es que eventualmente se prohíba el desarrollo de armas autónomas y que la comunidad científica de inteligencia artificial apoye el rechazo a los programas de desarrollo de armas autónomas, lo anterior porque podría “ir en detrimento del desarrollo del área”.

Con el fin de abrir el debate en torno a las armas autónomas, se realizarán diversos eventos académicos, como la Convención sobre Armas Convencionales de la ONU, la cual se realizará en noviembre de este año. En México, se abrirá un espacio de discusión en el Congreso Internacional Mexicano de Inteligencia Artificial organizado por la Sociedad Mexicana de Inteligencia Artificial, que se llevará a cabo del 25 al 31 de octubre de este año en el Instituto de Investigaciones Eléctricas en Cuernavaca, Morelos.

Científicos unidos

La carta abierta contra el desarrollo de armas autónomas es uno de los casos en los que un grupo de investigadores se unen para dar a conocer su postura respecto a un tema. En 1955, durante una de las reuniones Lindau de Premios Nobel se firmó la Declaración de Mainau en contra de las armas nucleares, 18 laureados con el Nobel la firmaron, entre ellos el físico teórico Werner Heisenberg German, el químico y pionero en el campo de la radioactividad Otto Hahn y el físico-matemático Max Born, posteriormente este documento sumó 52 firmas de premios Nobel, en su mayoría químicos y físicos.

En julio de 2015, un total de 36 premios Nobel expresaron su preocupación ante el cambio climático al firmar la Declaración de Mainau, durante la 65ª Reunión Lindau de Premios Nobel, en el mismo lugar en el que hace 60 años reconocidos investigadores se pronunciaron en contra de las armas nucleares.

Noemí Rodríguez González.