A veces pienso que estoy en una sesión de terapia de grupo con la introducción básica: "Hola, soy Renzo y tengo una fascinación por las IA*".
*IA: Inteligencia artificial
Entidades automatizadas que llamamos "bots" se tornaron en algo normal en estas últimas dos décadas, entre ellos: Self driving cars (un nombre de mierda, Autos que se conducen solos), la gente predice un apocalipsis estilo "Terminator" todos los días. Ven bots como un problema en vez de como una solución (aunque muchos bot son mas perniciosos que beneficiosos; algo natural, si consideramos que somos los humanos quienes los crean).
Esta clase de problema me confronta cada vez que le grito al blender porque carezco de la habilidad de detenerlo en el punto justo cuando me preparo un licuado -no lo quiero ni muy líquido ni muy espeso!!!-. Aunque se torna interesante cando se comienza a hablar de bots y valores morales; algo que suena totalmente absurdo, palabra que no uso a la ligera, déjenme explicar la razón.
Es algo así:
Supongamos que un colectivo va cargado con 10 bebés, 15 gatitos y, porque no, un mimo, bajando por una colina, con un precipicio a un lado y la pared de un barranco del otro, en un camino de doble mano. A su vez, otro vehículo viene en sentido contrario, un auto "bot" (self driving car), con un hombre de 40 años como pasajero. Justo en el momento que se van a cruzar, por una falla mecánica en el colectivo, el autobot (que bien suena!!! -aunque creo que ya está usado, no?-) está forzado a elegir entre dos opciones: A) Forzar al colectivo a caer por el precipicio y salvarse junto a su único pasajero; ó B) Tirarse por el precipicio, salvando a los pasajeros del colectivo, pero matando a su pasajero - salva los bebés, gatitos y al mimo.
Si mantenemos al mimo en la ecuación, la elección es sencilla (esperemos que al colectivo le salgan alas). Ahora, si no hubiera un mimo, las cosas se tornan un poco oscuras. Tiene el autobot que sacrificarse junto a su dueño/pasajero, siguiendo la lógica del menor de dos males? O debe prevalecer la seguridad de su pasajero por sobre todas las cosas?
Esta cuestión moral es algo que muchas personas aplican, pero tiene un grave fallo: Juzgan al bot en base a cosas que un humano ni en sus sueños podría hacer. Poniéndolo en otro sentido, porque forzar "moral humana" en un robot? Ya sabemos que los humanos somos cualquier cosa menos "morales"... La moral humana es una FALLA. Si, este es un extraño momento donde la ciencia e ingeniería dejan de ser abstractas, distantes, perfectas y mágicas; cuando se encuentran con el mundo real, interactúan con gente real, gatitos reales y mimos reales, así que, aunque no lo quiera, tenemos que recurrir a la prima lejana: Filosofía -me siento sucio-.
La primer pregunta sería, bajo otra situación donde ambos vehículos son conducidos por humanos... cuales serían las reacciones?
Hay demasiadas posibles respuestas. Primero, porque es humanamente imposible el evaluar que hay dentro del otro vehículo. Entonces (segundo), ya que un humano es incapaz de medir el daño potencial de un siniestro en una fracción de segundo. No puede evaluar cual sería el menor de dos males. Tercero, no importa cuan entrenado un humano esté, el instinto de supervivencia siempre prevalece (es una respuesta automática que requiere de muchas cosas, menos razonamiento. Esto incluye el estampar al mimo contra la pared del acantilado dejando una agradable mancha roja carmesí).
Entonces, repasemos, porqué le pedimos y juzgamos a un robot por cosas que no podemos hacer nosotros? Lo bueno es, como si esa pregunta no fuera suficiente, la gente no se pone de acuerdo acerca de las cosas que un robot debería o no hacer; considerando el beneficio comunal, cada persona tiene un juicio diferente. Un robot valuaría la vida de un mimo tanto como la de una persona realmente valiosa. Le daríamos a un robot la capacidad de juzgar el valor de la gente?
Dado que las ciencias son mas fuertes que la filosofía en este rubro, tenemos que aplicar el método científico para solucionar el dilema, un bot no trabaja con baterías de teorías y discursos. Podríamos crear funciones condicionales que evalúan el daño minimizando los riesgos humanos. Podemos configurar "valores" de cada vida donde los mas jóvenes (bebés) valen más, luego los gatitos (no habría internet sin ellos) y al final de la linea, los mimos (si, los podemos salvar a pesar de todo!). O podríamos agregar otra función condicional, en caso de ver un mimo... atropellarlo.
El MataMimos de Google
El problema persiste, "que haríamos nosotros?" contra "que haría el bot?". El problema real reside en nuestra sensación de "estar en control", libertad, incluso la privacidad de nuestras elecciones personales (vamos, todo el mundo atropellaría por "accidente" a alguien si se diera la oportunidad) valores personales contra los valores de un bot. Deja de ser mi elección si la programo en un bot? No fuí yo quien le dijo al auto: "en caso de 'mimo' goto > atropellar"? Voy a tener pesadillas si meto una línea de código que indique que hay que atropellar a un bebé y no a una junta de gerontes? Raras y difíciles preguntas; implican éstas que debamos renunciar a los "self driven cars" (autobots suena MUUUCHO mejor!)? -Que importa! no estaban TAN buenos!-.
O quizás si, entre sus ventajas tenemos:
- Reducción de hasta 90%& de accidentes - 90 de cada 100 accidentes son por error humano (o estupidez congénita), cosa que las IA no tienen. -
- Optimización del consumo de energía - uso eficiente de frenos, velocidad crucero óptima... -
-
Logística optimizada - Si los autobot usan un protocolo común, pueden organizar una manera mas eficiente para movilizarse más en menos tiempo... Sin atascar el tráfico a las 8 de la mañana... cuando ya deberías estar en el trabajo -
- Sin necesidad de estacionar - Un autobot puede ir a ofrecer servicio de transporte mientras el dueño no lo necesita (ganancias extra!)... O irse de farra con otros autobot! -
- Una predicción humilde dice que de integrarse completamente un sistema de autobots, la población vehicular total podría rebajarse a un 20% de la actual.
Aquí un ingeniero es puesto en una situación incomoda de nuevo. El punto en el cual la tecnología se vuelve más "humana", porque nuestra raza le injerta nuestros rasgos a todo lo que crea: cediéndole parte de nuestra potencial moral venenosa, cediéndole nuestras nociones borrosas de "bien" y "mal" a un sistema capaz de ver y calcular cosas más rápido que miles de nosotros juntos. Quizás, hasta capaces de tomar mejores decisiones que las que nosotros alguna vez podríamos hacer, dado que estamos limitados por ese instinto de "mantenernos vivos, no importa que", sin importar con cuantos bebés, abuelos o mimos haya que manchar el parabrisas del auto con tal de sobrevivir.
El progreso no solo significa inventos, tablets, teles grandes Google glasses que nadie quiere porque te hacen ver como un idiota. Progreso implica respuestas, a veces a preguntas nuevas, otras a preguntas tan viejas que ya dejaron cicatriz en las Universidades de Filosofía. Que es bueno? Que es malo? Cuanto mal está bien si al final es por algo bueno? Como carajo le decimos a un bot cuanto vale un gatito?
Filosofía, primita, no quiero apurarte... Pero hay unos cuantos científicos, ingenieros y pensadores que esperamos tu respuesta. Siempre quisiste que te tomemos en serio: ahora es tu oportunidad de brillar!
(Ningún mimo fue herido en la elaboración de este artículo)
El artículo es una versión en español de Moral Robots, de mi autoría.
Si te gustó el artículo y la manera informal de abordar las ciencias, dame follow para mas!
Dejá in comentario, para bien o para mal. Tomo todo de manera constructiva y realmente lo aprecio, incluso cuando viene de trolls (al menos, un troll lo leyá antes de trollear!).
Las imágenes previamente usadas son de mi autoría o bajo licencia CC0 (fuente: pixabay), al menos que se indique explícitamente.
Todas las imágenes creadas por mí están bajo licencia WTFPL (o hacé lo que se te de la puta gana con ellas) y son de libre uso para redistribuir, compartir, copiar, pegar, modificar, vender, recortar in la manera que se te antoje.
