Entrevista

Roser Martínez

Doctora en Dret, experta en legislació d'armes

“Els robots letals poden posar fi a la humanitat”

Doctora en dret i experta en legislació d’armes, lluita a l’ONU contra l’armament controlat a partir de la intel·ligència artificial

DISPOSICIÓ
“Als Estats Units no és estrany que les armes siguin un element domèstic, perquè la llei dona dret a tenir-les”
LLUITA
“A l’estat que utilitzi aquestes armes se l’ha de poder acusar de genocida”
ÚS
“Ja s’estan fent servir. Ho vam poder veure en l’atac contra aquell autocar ple de nens del Iemen, en el conflicte amb l’Aràbia Saudita”
ROBOTS
“Avui el nostre Frankenstein són els robots amb intel·ligència artificial”
NACIONS UNIDES
“L’objectiu és fer els primers passos per aconseguir que els estats estiguin d’acord amb la prohibició. Que s’accepti que les màquines no han de ser lliures per decidir cap objectiu”

Roser Martínez és doctora i professora de dret administratiu a la Universitat Autònoma de Barcelona. Va publicar el llibre Armas: ¿Libertad americana o prevención europea? (ed. Ariel) en què analitzava els models antagònics que representen els Estats Units i Europa a l’hora d’enfrontar el debat sobre la tinença d’armes. Ara surt a la llum Inteligencia artificial y armas autónomas letales (ed. Trea), que ha escrit conjuntament amb Joaquín Rodríguez. Roser Martínez és membre del grup d’experts nomenats per l’ONU per aconseguir un tractat que reguli les noves formes de guerra basades en robots que funcionen amb intel·ligència artificial (LAWS).

A Europa sempre ens sorprèn la quantitat d’armes que tenen als Estats Units i el culte que els professen...
La seva història és la resposta. Ens pensem que la construcció de l’estat modern neix a partir que el poder públic assumeix el monopoli de la violència legítima per defensar els ciutadans, i no ha estat així en tots els casos. Hi ha hagut dos models contraposats en funció de la concepció de les armes: l’europeu i el nord-americà. Els ciutadans americans tenen el monopoli de les armes perquè van haver de construir el seu estat sense que hi hagués uns poders estatals potents. Per exemple, als Estats Units, fins al segle XX no hi va haver un exèrcit professional. Eren els ciutadans organitzats a través de les milícies, els que donaven aquesta seguretat al poble. Actualment s’anomenen guàrdies nacionals de cada estat i són el 50% de l’exèrcit dels Estats Units.
És allò que es veu a les pel·lícules de la figura del xèrif?
Exactament. Com que en els orígens rebutjaven una administració que els pogués tiranitzar, es van haver de dotar de mecanismes de protecció i seguretat mitjançant organitzacions armades voluntàries formades i dirigides pel xèrif per fer les funcions de policia local. El xèrif no era un funcionari professional. Era un ciutadà armat escollit entre la comunitat. Els colons americans que provenien d’Anglaterra rebutjaven un sistema administratiu professional que pretengués oprimir-los o substituir-los en les funcions públiques. És per això que es va aprovar la segona esmena de la Constitució federal del 1787, que reconeixia el dret individual a posseir armes per a la pròpia defensa i la de la comunitat. Hi havia el ciutadà policia, ja que als Estats Units fins al segle XX no hi va haver cossos funcionarials de policia (l’FBI es va crear el 1905). Pensaven: “La policia no podrà salvar-me en el moment que ho necessiti, per tant jo, amb les armes, en qualsevol moment podré fer de bon ciutadà i fer fora els delinqüents d’aquesta comunitat.”
És habitual que cada ciutadà disposi d’una arma. Això no és perillós?
En una societat on la regulació atorga el dret a tenir-les, no és estrany que siguin un element domèstic habitual. L’origen és l’aprovació de la segona esmena americana, i això s’ha interpretat sempre com que al ciutadà no se li pot restringir el dret de defensar-se. Hi pot haver una policia, es va crear l’exèrcit..., però aquest ciutadà continua tenint aquella noció individuocèntrica que ell s’ha de garantir la pròpia seguretat. És clar que és molt perillós, com ho demostren les xifres d’homicidis, assassinats, accidents i suïcidis, deu vegades més altes que a Europa i que superen les 30.000 víctimes anuals.
Creu que el fet que hi hagi aquest nombre d’armes en mans de la gent provoca que hi hagi aquest grau de violència?
Una arma en mans de qualsevol ciutadà comporta un risc evident d’utilització i, per tant, que hi hagi una mort. No és que els americans siguin més violents de per si, sinó que disposen fàcilment de les eines per convertir-s’hi. Al país circulen 300 milions, d’armes la majoria automàtiques. Uns 100 milions d’homes estan armats. I dic homes perquè malgrat les campanyes agressives perquè les dones s’armin, fins i tot als Estats Units són una minoria. Les dones no utilitzen les armes de foc per solucionar els conflictes, no utilitzen la violència per protegir-se. S’oblida que a tot el món, només cometen menys del 10% dels delictes violents en contraposició al 90% que cometen els homes.
Si fos una ciutadana nord-americana, què hauria de fer per aconseguir una arma?
Primer, escollir un punt de venda que no faci cap tipus de restricció. Hi ha estats que fins i tot en fomenten certa utilització contra la delinqüència, per exemple la que fa referència a la immigració il·legal. Texas n’és un. Si vols fer una compravenda a través d’un establiment només cal omplir un formulari i contestar unes preguntes sobre si tens antecedents penals o problemes mentals. Els venedors han de verificar si és cert o no el que es diu abans de lliurar l’arma (llei Brady), però no sempre es fa o no sempre obtenen la informació dels registres. I en cas que no es vulgui deixar rastre, només cal anar a les fires d’armes o a un particular, perquè entre privats no hi ha cap tipus d’intervenció administrativa restrictiva. És el mercadeig lliure del salvatge oest. És pràcticament com el carnet del Super3, tu omples un formulari i no hi ha cap tipus de control seriós. És veritat que hi ha dos tipus d’accés a les armes. Si vas a una armeria pot ser que tingui la decència d’introduir les dades a la xarxa de l’FBI o l’ATF (l’agència de seguretat que controla les transaccions d’alcohol, tabac i armes de foc) per comprovar si són certes.
Hi ha algun estat on estiguin prohibides?
No, cap. En tot cas poden establir algunes restriccions, però el dret queda garantit per la segona esmena de la Constitució. Fins i tot estan permesos mecanismes (bump stocks) per convertir armes semiautomàtiques en automàtiques i aquests mecanismes han estat utilitzats per cometre algunes de les últimes massacres més sagnants. Clinton va impulsar la llei de zones lliures d’armes prop de recintes escolars, però va ser declarada inconstitucional pel Tribunal Suprem (en el cas EUA contra López del 1995) i va permetre que els estats decidissin si fer o no una regulació prohibitiva. Per això ara vuit estats dels cinquanta permeten portar armes a les escoles de primària i secundària i dotze estats obliguen les universitats a permetre l’ús de les armes en algunes zones del campus, seguint la crida del president Trump de fomentar que els professors s’armin per protegir els estudiants. És per això que tenen 10 homicidis per 100.000 i nosaltres només 1 homicidi per 100.000.
Hi ha algun país del món que s’acosti a aquestes xifres?
Als països de la Unió Europea, la directiva sobre armes és clara i molt restrictiva, i s’estableix que qualsevol arma de foc ha d’estar sotmesa a una llicència prèvia. Ara bé, aquells països del món on la regulació sobre el control de les armes és permissiva o laxa ofereixen xifres dramàtiques. Per exemple: el Brasil, Hondures o el Salvador pateixen respectivament 30, 70 i 90 homicidis per 100.000 habitants.
Vostè també alerta sobre el perill de les armes autònomes letals i el fet que puguin passar a mans privades.
Les armes autònomes letals que actuen amb certa independència del control humà gràcies als algoritmes i que estan en mans del poder militar d’alguns països són una realitat. I comporten un gran risc per a la humanitat. Si un ciutadà nord-americà es pot armar... pot tenir una AK-47, una metralleta..., qui li prohibeix que pugui tenir una arma autònoma letal? En principi, estan en mans dels estats, perquè són armes molt cares i no estan a l’abast de tothom, però si cada vegada més els drons estan a l’abast de ciutadans... imagineu-vos si a aquest dron se li posa una càrrega explosiva i un algoritme que decideixi quins són els teus objectius o enemics a abatre... Aquesta intel·ligència artificial pot arribar a separar-se del seu creador i pot decidir per si mateixa.
Quina és la situació de les armes autònomes letals?
Les armes robòtiques sense control humà estan sota el poder dels militars en una carrera competitiva d’experimentació i desenvolupament a gran velocitat entre les grans potències per aconseguir liderar el sector, ja que com va dir Putin, qui domini la intel·ligència artificial en aquestes armes dominarà el món. Ara bé, no s’adonen que desconeixem els riscos i les conseqüències incertes per a la humanitat d’aquesta tercera revolució en la guerra –després de la pólvora i l’energia nuclear– i del seu armament, ja que, a més d’explosius convencionals, en podrien dur de radioactius i bioquímics. També es podria donar el cas que aquests sistemes autònoms d’armes es poguessin autodeterminar.
Seria com una revolució de les màquines!
Seria l’últim dels perills, però el primer seria que de mans dels estats passessin a mans de terroristes, del crim organitzat o de països sense gaires escrúpols. El segon, que passessin a mans de ciutadans que diguessin que tenen dret a tenir una arma. I l’últim estadi seria que aquestes màquines tinguessin intel·ligència artificial profunda, és a dir que poguessin decidir per si mateixes quin és l’objectiu.
En mans de qui estan aquestes armes?
N’hi ha entre 300 i 350 i estan en poder dels estats. Els Estats Units, Rússia, la Xina, el Regne Unit i Israel, de moment. Tots justifiquen que són defensives. La màquina decideix quan contraatacar. Aquí hi ha un problema de tecnologia de doble ús, que neix per finalitats civils i passa a ús militar. Fins a quin punt aquesta tecnologia privada es pot fer servir per a fins militars? No només hem de tenir por del terrorisme internacional o d’estats corruptes irresponsables i totalitaris, sinó de ciutadans lliures que poden decidir armar-se amb sistemes d’aquest tipus. Per tant, el món s’està abocant a la possibilitat cada cop més real que els conflictes mundials, fins i tot els genocidis, quedin en mans de sistemes d’armament letal totalment independents del control humà en fases crítiques. Si als Estats Units hi ha deu vegades més morts que en societats com la nostra, imaginem què passaria si els ciutadans nord-americans s’armessin amb LAWS o minidrons per al seu ús particular!
I ja s’estan fent servir?
Sí. Les hem vist en el conflicte del Iemen, en aquell autocar ple de nens que, convidats per l’UNICEF, anaven a fer un campament d’estiu i que va ser massacrat abans d’arribar al seu destí. Allò era un robot autònom, un dron saudita, que es va equivocar (deliberadament o no) perquè es pensava que l’autocar era un objectiu militar.
Quan salta l’alarma per aquest tipus d’armes?
Israel, Rússia i els Estats Units fa anys que les tenen. El que passa és que el tema de la seguretat nacional és secret i en els contractes amb les empreses privades no hi ha transparència. L’objectiu és que es pugui crear un tractat internacional com el de les mines antipersones, que prohibeixi als estats fabricar-les, distribuir-les i utilitzar-les.
Quin és l’objectiu de reunir-se a l’ONU?
Com a membre i relatora del plenari de la declaració del Comitè Internacional per al Control de les Armes Robòtiques (ICRAC), aquest mes de novembre vam assistir (juntament amb el meu col·lega i coautor del llibre sobre LAWS, Joaquín Rodríguez) a l’última reunió per aconseguir aprovar un tractat que prohibeixi aquesta tecnologia quan no hi hagi control humà. I la clau la tenen les Nacions Unides, una institució on la deliberació i la cooperació és garantia per foragitar unilateralismes imperialistes. La finalitat més important és conscienciar la gent del perill.
Com ens els hauríem d’imaginar els robots intel·ligents?
Hi ha tres àmbits: per aire són els drons, un tipus d’avió. Per terra poden ser tan grans com un tanc o tan petits com un cotxe teledirigit i per mar poden ser com submarins. L’autora de Frankenstein, Mary Shelley (el 1818 i amb només 18 anys) va ser capaç d’alertar i escriure una al·legoria de la perversió a què pot conduir el desenvolupament científic amb la seva visionària obra, en què la criatura es rebel·la contra el seu creador. Es pot fer un paral·lelisme i dir que avui el nostre Frankenstein són els robots amb intel·ligència artificial.
Us espectre divers i molt perillós...
És que es pot donar els cas que l’arma vagi sola! Demanem que en el moment que l’arma no estigui controlada per un humà siguin considerades com a genocides. Que l’estat que les utilitza se’l pugui acusar perquè no només poden seleccionar la gent que volen acabar matant, sinó posar fi a la humanitat mateixa. I és que cap país pot disposar d’una sobirania absoluta que li permeti crear una arma genocida independent amb llicència per matar. El més aterrador és que un veí criminal pugui tenir minidrons armats que violin la teva privacitat i posin en perill la teva vida.

Adela Genís

agenis@lrp.cat

“Els robots letals ja són una realitat”

Els robots letals o assassins (també coneguts com a LAWS) ja són una realitat. De fet, fa anys que es fabriquen en diversos països, que defensen que s’han desenvolupat amb un ús defensiu. És per aquest motiu que els experts asseguren que és “cabdal” definir fins a quin punt una màquina d’aquest tipus pot autodeterminar-se. “És que ens poden portar la fi de la humanitat. No es pot deixar que aquests éssers puguin decidir sobre la nostra vida o la nostra mort”, denuncia la doctora en Dret, Roser Mastínez també ha participat en la campanya Stop Killer Robots (liderada per activistes com Mary Wareham de Human Rights Watch, premi Nobel de la Pau) per aturar l’experimentació i proliferació d’aquests sistemes . L’acció intenta a conscienciar la societat dinamitzant els debats i intenta que la pressió de la opinió pública sobre els governs faci modificar la posició dels estats.

Una proposta que es discuteix a l’ONU

Martínez forma part del comitè d’experts de l’ONU que ha de decidir sobre l’ús i legislació d’aquestes arme programades amb intel·ligència artificial. El control humà significatiu, és a dir, fins a a quin un una màquina pot autodeterminar-se i ser autònoma. Actualment l’experta treballa en la redacció d’una llei mundial. Fa unes setmanes es va celebrar a Ginebra la darrera reunió d’aquest grup per avançar en la prohibició d’aquestes noves armes que la comunitat científica ja ha alertat que poden ser més perilloses que les nuclears. Dels 88 estats que van participar a la reunió, només 28 han expressat la seva voluntat de prohibir aquest tipus d’armes. Rússia, els Estats Units, França, el Regne Unit, Israel, Alemanya, Bèlgica o Turquia són alguns dels països que estan en contra del tractat.

Identificar-me. Si ja sou usuari subscriptor, us heu d'identificar. Vull ser usuari subscriptor. Per escriure un comentari cal ser usuari subscriptor.
Nota: Per aportar comentaris al web és indispensable ser usuari verificat i acceptar les Normes de Participació.
[X]

Aquest és el darrer article gratuït d'aquest mes

Ja ets subscriptor? Fes-te subscriptor per només 12 € l'any (1 €/mes)