Un núvol amb peus a terra

Això d’Internet i el núvol és una imatge que ja hauríem de començar a deixar de banda: Internet és una xarxa d’ordinadors, una infrastructura gens etèria.

La teranyina de cables subterranis i submarins que s’estén per tot el món té unes despeses de manteniment considerables, i no només hi circulen dades nostres, sinó (i sobretot) serveis de comunicació operats per empreses que volen guanyar cèntims.

La xarxa (que ja es vulnerable per sí mateixa) està sotmesa a molts interessos: econòmics, socials, polítics… i la dependència que en tenim per qualsevol cosa fa que aquesta vulnerabilitat sigui encara més acusada.

En el món actual, on semblen sortir fantasmes imperials del passat i nous actors truquen a la porta, la defensa de la xarxa ja no és només un tema de ciberguerra: no es pot dependre d’un sol cable o d’un sol proveïdor, s’ha d’estar multiconnectat i controlar els punts d’accés, no poden haver-hi monopolis gestionant les comunicacions, i, a sobre, com a societat, no ens podem permetre la “facilitat” de control punxant uns quants llocs concrets (el projecte Prisma, la Gran Muralla digital xinesa, o el Red Star dels nord-coreans, per posar alguns exemples).

Baixem del núvol, toquem de peus a terra, i revisem els cables també: siguin els russos fent-se veure, sigui algú per motius laborals, una iaia a Armènia buscant coure, d’altres punxant alguns nodes o nosaltres que no encriptem comunicacions, la xarxa (i de retruc la nostra societat) és més vulnerable del que ens pensem.

La paradoxa de minimitzar el risc

No ens agraden les incerteses, acostumem a témer allò desconegut i intentem reforçar el que coneixem i el que tenim. Això ens fa desenvolupar des de teories econòmiques a moviments polítics, mou la història de tant en tant o fins i tot ens condiciona socialment.

Però el risc forma part, en molts sentits, de la nostra vida, i intentar evitar-ho a tota costa i, el que es pitjor, pensar-nos que podem evitar-lo, no ens porta res de bò. Bruce Schneier és molt clar:

We’re afraid of risk. It’s a normal part of life, but we’re increasingly unwilling to accept it at any level. So we turn to technology to protect us. The problem is that technological security measures aren’t free. They cost money, of course, but they cost other things as well. They often don’t provide the security they advertise, and — paradoxically — they often increase risk somewhere else. This problem is particularly stark when the risk involves another person: crime, terrorism, and so on. While technology has made us much safer against natural risks like accidents and disease, it works less well against man-made risks.

Intentar minimitzar riscos de potencials desastres naturals basant-se només en el que ha passat ens dona una falta sensació de seguretat: ja ens hem blindat contra allò que ha passat i no pot tornar a passar… però i el que no ha passat? Pensar que quelcom no pot passar és diferent de quelcom impensable, i aquí ja poden entrar en joc inversions necessàries, probabilitas (enganyoses, segons com) i el seny i les decisions d’aquells en càrrecs de responsabilitat… debilitats i interessos de les mateixes persones entren en joc. Tot i així, però, el número de possibilitats acaba sent finit: com diu Schneier, la natura no s’adapta a les nostres contramesures.

Intentar minimitzar riscos de situacions generades per humans es molt més difícil: nosaltres ens adaptem, fem contramesures, i s’entra en una espiral d’adaptacions i contraadaptacions: la paradoxa d’intentar minimitzar un risc conegut i, per contra, generar-ne un de nou. A més, a nivell social tractar amb riscos està a un pèl de tractar amb la por, i això políticament pot ser molt rendible i socialment molt contraproduent a la mitja o a la llarga, més quan mesures i normatives que les regulen son sempre interpretables pels grups que s’encarreguen d’aplicar-les o dissenyar-les, és a dir, son subjectives.

Cal reavaluar la percepció del risc que tenim, i veure com en podem treure partit pel bé de la llibertat en les nostres societats. Cal sortir una mica de la zona de comoditat i mirar a l’horitzó, i això ens pot permetre també pensar en el llarg termini: mesures que minimitzin riscos socials poden funcionar durant un temps, però no ataquen l’arrel del problema que produeix el risc, cal buscar-la. I segurament la solució bona a llarg termini serà en termes educatius, d’inversió i de millora d’entorns i perspectives de vida.

Tecnoamenaces?

Ha canviat la nostra percepció sobre el paper de les màquines i els ordinadors, ens preocupa fins on puguin arribar els nostres invents?

Al blog d’en Pere trobo que Exposició Et l'homme créa le RobotNicholas Carr pensa que a mesura que augmenten la capacitat i l’autonomia de les màquines (reconeixement de veu, decisió, IA, detecció) les comencem a veure més com una possible amenaça que no pas com una ajuda: com podria afectar-nos en un futur, no excessivament remot, la possible presa de consciència pròpia d’una màquina intel·ligent? Podria afectar-nos com a espècie, ser un risc per la nostra supervivència?

Tot i poder semblar una mica de ciència-ficció i allunyat de la realitat, la dependència actual de la nostra societat de les conexions entre sistemes molt especialitzats (sistemes de tractaments de dades (decisió, cerca, reacció), d’ajuda a decisions, sistemes de regulació energètica, no específicament intel·ligents) és altíssima, i qualsevol malfuncionament, desconnexió o error dels mateixos sí que pot causar conseqüències molt greus a diferents nivells… Si entrem també a sistemes d’armes automatitzats, centrals nuclears, o elements de biotecnologia, aleshores el risc és molt pitjor, i l’aplicació de més autonomia i poder de decisió propi en el control dels sistemes augmenta encara més el risc.

Pot suposar això, com diu en Carr, una amenaça per a la nostra supervivència com a espècie? Potser si, però segurament no més enllà del comportament que nosaltres programem inicialment a les màquines. A banda d’incloure coneixement, resposta i autoaprenentatge, s’hi inclou també elements més humans com ètica i responsabilitat? Dit d’una altra manera, el que nosaltres programem és el que trobarem, no seràn més que fills nostres, que hem d’educar. Potser el tecnopessimisme no és més, doncs, que la constatació de la naturalesa humana en una època dura: el problema no és tant la presa de consciència de sistemes autònoms pels quals no signifiquem res, el problema és més aviat la grandíssima dependència de sistemes falibles, no preparats per situacions imprevistes (els Cignes negres de Taleb).

Vist això, però, i coneixent-nos, potser hauriem de pensar en incloure les Tres Lleis de la Robòtica d’Asimov en alguns sistemes, no?

Preveure situacions extraordinàries

Interessant reflexió d’en Pere Quintana: de veritat estem preparats per situacions de risc o extraordinàries? Els nostres mitjans donen la talla oferint informació i opinions ben contrastades?

De cara a la primera pregunta, els últims dies he sentit a responsables polítics dir que la situació de Japó no es pot produir aquí perquè allò eren condicions extraordinàries… no hauria de ser aquesta la situació per la que un s’ha de preparar?

Aquests tipus de declaracions ens porten a pensar en la mena de previsió contra riscos i situacions fora d’allò normal que fan els responsables del país, i no cal anar arribar a l’extrem d’un desastre nuclear: aquests dies plou, i plou bastant, però tampoc sembla una situació extraordinària, més quan es repeteix cada any: guals anegats, escoles plenes d’aigua, els ja clàssics semàfors… de veritat que no ens podem preparar per això, tenir-ho en compte? Si és que ho sabem, a més! Què passarà doncs quan hi hagi una situació excepcional de veritat? (exemple: la nevada de març de 2010, i els deures pendents de fer).