Atticus escribió:Orel escribió:dejece escribió:¿Sí una IA comete un crimen de guerra a quién se juzga?
¿Si un soldado, un piloto... comete un crimen de guerra, a quién se juzga? No olvides que la "IA" será una herramienta más al servicio de quien da las órdenes. Un soldado también sigue órdenes, y si se desvía luego toca analizar responsabilidades siempre.
Cuidado. Que no es lo mismo "responsabilidad" que "culpabilidad". Un piloto que bombardea a sabiendas un hospital es culpable. Pero de una IA que lo hiciera, aunque no coincidiera con los deseos de sus fabricantes,
habra "responsables",que no es lo mismo. Se deberia tratar como un "malfuncionamiento" de una maquina que causa daños imprevistos...
Has ido a algo muy fácil. Ponlo en genérico: un piloto bombardea un hospital. Puede ser por motivos humanos y/o técnicos, igualmente puede haber responsables y/o malfuncionamiento. Ahora habrá que analizar:
- si era un objetivo asignado (¿por qué, quién lo asignó, etc?),
- si se sabía de antemano que era un hospital (¿fallo de inteligencia, acaso el sensor falló al asignarlo, hecho aposta, por qué, quién lo decidió?),
- si hubo fallo del sistema de armas (¿fallo sistemático, quién era el responsable de ensayos, fallo puntual de mantenimiento, quién hizo ese mto. ...?),
- si "el piloto lo hizo a sabiendas" (¿por qué, cuál era su estado psicológico, quién le hizo la última evaluación, quién le asignó esa misión?)
- Etc, etc.
Pues parecido con un "robot con IA".
Ahora pongo ejemplos para que penséis,
que YA se han dado en guerras reales:
¿A quién se juzga cuando un misil con capacidad dispara y olvida es lanzado en modo "mata lo que pilles"? P.ej. HARM lanzados en Allied Force preventivamente por delante de los grupos de ataque sin asignar objetivo para que se lancen contra lo primero que se active; o los Patriot en modo automático en Desert Storm que produjeron algún derribo amigo; o ciertos misiles anticarro que tienen esa capacidad... Incluso más simple aún,
una mina o "trampa" de toda la vida, donde
el hombre no decida lo que ataca.
Esa mina o misil "en modo autónomo" lo mismo ataca una fragata o un carro enemigo... o lo mismo ataca un crucero turístico o una ambulancia. La responsabilidad es del arma... o es de quien la lanzó; o de quien ordenó la misión; o de Inteligencia que dijo que ahí había enemigos; o del fabricante porque el arma no ha funcionado como debía; o de mto. porque el arma no estaba correctamente mantenida ; o del organismo de ensayos y certificación del arma que lo hizo mal; Etc, etc. Como digo: en cada caso habrá que analizarlo.
Saludos
Una IA lo es precisamente porque