Perfil de usuario

Por lo general, lo que hace que algo sea IA depende de la complejidad, tanto de las tareas realizadas como del entorno en el cual ocurren. El termostato realiza una tarea muy simple que solo debe tener en cuenta ese aspecto del entorno. Ni siquiera requiere un ordenador. Un termostato digital moderno podría detectar quién está en la habitación y predecir las necesidades futuras de calor sobre la base del uso y el pronóstico del tiempo, así como el consumo de energia en toda la ciudad y el precio de la energía segundo a segundo. Un termostato futurista de IA podría actuar como un mayordomo atento y servi cial, lo que sea que eso signifique en el contexto del control de la temperatura ambiente.

Prefiero dejar a un lado las definiciones, porque no tienen gran importancia para el propósito de esta discusión. Aparte de la toma de decisiones, las cualidades relevantes de los sisternas de IA que analizaré son la autonomía (capacidad de actuar de forma independiente), la automatización (capacidad de actuar sobre respuestas preestablecidas a desencadenantes específicos) y la agencia fisica (capacidad de alterar el entorno fisico).

Un termostato tiene automatización y agencia fisica limitados y no tiene autonomía. Un sistema que predice la reincidencia criminal no tiene agencia fisica, solo hace recomendaciones a un juez. Un coche sin conductor tiene un poco de cada una de estas cuali dades. R2-D2 tiene mucho de las tres, aunque por alguna razón sus diseñadores omitieron sintetizar su voz.

— La mente del hacker por Bruce Schneier (Página 232 - 233)

Hay una broma habitual entre los investigadores de este ámbito que dice que tan pronto como algo funciona, deja de ser IA. Es solo software. Y eso podría convertir la investigación sobre IA en algo deprimente, puesto que, por definición, los únicos avances que cuentan son los fracasos, pero la broma esconde una pizca de verdad. La IA es inherentemente un término desconcertante de ciencia ficción y cuando se convierte en realidad, deja de ser desconcertante.

Solíamos asumir que se requería un radiólogo para interpretar una radiografia de tórax es decir, un humano inteligente con la capacitación adecuada y las credenciales profesionales requeridas. Sin embargo, ya hemos comprobado que se trata de una tarea rutinaria que también puede llevar a cabo un ordenador.

— La mente del hacker por Bruce Schneier (Página 231)

La innovación es esencial para la supervivencia de los sistemas. Un sistema osificado no puede responder a los hackeos y, por tanto, tiene problemas para evolucionar. El politólogo Francis Fukuyama formula este argumento cuando teoriza que tanto los estados como las instituciones se desarrollan para responder a condiciones ambientales particulares y fracasan o son conquistados por otros porque no pueden evolucionar cuando el entorno cambia (y piso de ejemplo el Imperio Otomano). La investigación contemporánea en ciencias políticas sugiere que cuando los grupos conservadores que representan a los ricos y poderosos se niegan a permitir que sus sociedades evolucionen, los sistemas políticos en su conjunto pueden llegar a colapsar. Este poder disruptivo también es aprovechado por quienes se encuentran en la parte inferior de nuestra estructura de poder y sirve de motor para el cambio social. Así es como ocurren las revoluciones. El hacking es una de las armas de los débiles, muy importante en estos casos. [..] El futuro del hacking social debería combinar su impulso por evolucionar con un enfoque centrado en el bien común o veremos cómo nuestros sistemas sociales comienzan a colapsar. Y luego serán hackeados en forma de revoluciones.

— La mente del hacker por Bruce Schneier (Página 159 - 160)

El hacking consiste en encontrar nuevos modos que aún no han sido explotados. Cuando funcionan bien, logran resultados inesperados. Esto es importante. El hacking no es solo la manipulación maliciosa de un sistema. Un buen hackeo cambia el sistema hackeado, sobre todo cuando se usa con frecuencia y se hace popular. [..] Bien aprovechado, el hacking es una forma de acelerar la evolución del sistema mediante la incorporación de un adversario al proceso. Aprovechado para mal, puede ser una forma de acelerar la destrucción del propio sistema al exponer y explotar sus defectos con objeto de obtener ganancias egoístas de una manera que lo destroza.

— La mente del hacker por Bruce Schneier (Página 158 - 159)

Debido a que hay tantos sistemas sin parches se producen muchos hackeos de alto nivel. China hackeó Equifax en 2017 a través de una vulnerabilidad en el software de la aplicación web Apache Struts. Apache parcheó la vulnerabilidad en marzo; Equifax no actualizó rápidamente su software y fue atacado con éxito en mayo.

Para la mayoría de los usuarios individuales de móviles y ordenadores, la aplicación de parches suele tener lugar de forma automática. Las grandes redes organizativas deben lidiar con los parches de una manera más lenta y cautelosa. Podemos culpar a Equifax por no parchear Apache Struts, pero ese software tenía la reputación de tener parches defectuosos incompatibles con los demás softwares construidos alrededor de Struts.

En los sistemas sociales, los parches funcionan de forma diferente. [..] Cuando hablamos de "parchear" el código tributario o las reglas de un juego, nos referimos a cambiar las leyes o las reglas del sistema para que determinado ataque en particular deje de estar permitido. Entonces, aunque aún se puede usar un ordenador para predecir la ruleta o curvar el palo de hockey más de los tres cuartos de pulgada permitidos, todo aquel al que atrapen haciéndolo sufrirá las consecuencias. La única "instalación" necesaria es la educación: asegurarse de que cada jefe de casino y árbitro de hockey conozca las nuevas reglas y cómo detectar a los tramposos, para luego castigarlos en consecuencia. Del mismo modo, una estrategia legal de evasión fiscal se convierte en ilegal y se persigue si es descubierta (o debería perseguirse).

Esto nos conduce a otro problema: tal vez sea difícil detectar a los tramposos.

— La mente del hacker por Bruce Schneier (Página 60 - 61)

Aprobar una ley que convierte en ilegal contar cartas en el blackjack hace que la táctica sea ineficaz, pero solo si te atrapan. ¿Elimina eso la vulnerabilidad o reduce la efectividad del hackeo?

La primera defensa y la más obvia es eliminar la vulnerabilidad facilitadora. En el mundo de la informática, la principal defensa contra el hacking es la aplicación de parches.

— La mente del hacker por Bruce Schneier (Página 59)

Casi todo el que ve un sistema, se centra en su forma de funcionar. En cambio, otras personas no pueden evitar centrarse en cómo conseguir que falle y en cómo usar ese fallo para obligar al sistema a comportarse indebidamente y hacer algo que no se debería poder hacer para conseguir algún tipo de ventaja con ese comportamiento.

Eso es lo que es un "hack" o "hackeo": una actividad permitida por el sistema, que subvierte su objetivo o intención.

— La mente del hacker por Bruce Schneier (Página 10 - 11)