El argentino Fredi Vivas tiene un perfil de estos tiempos: a su carrera científica como ingeniero, con especialización en Big Data Analytics, y la docencia en la Universidad de San Andrés, les suma la pasión por la literatura. El resultado de esa combinación se encuentra tanto en su libro ¿Cómo piensan las máquinas? (Galerna, 2021) como en el nuevo Invisible (Penguin Random House). “Mucho de lo que describo en los relatos, como los sistemas de transporte Hyperloop, los algoritmos predictivos de salud o los protocolos de sustentabilidad ya están presentes en la actualidad. Solo que quizás de una manera encubierta”, advierte.
Fredi Vivas es Ingeniero en Sistemas Informáticos. También, experto en inteligencia artificial, robótica, biotecnología y neurociencia. Foto cortesía del autor.
Invisible es una colección de cuentos en los que la inteligencia artificial (IA) se transforma en el personaje central: un robot salvado de convertirse en chatarra por un niño, un país entero gobernado por máquinas, viajes en el tiempo, un chico que se siente a salvo del acoso por un amigo no humano… Suena a ciencia ficción, pero hay mucha más realidad de lo que pareciera.
–¿De qué manera creés que estos relatos de ficción científica nos ayudan a entender y reflexionar sobre el impacto de la IA en nuestra vida?
–El principal objetivo de la ficción científica es ese. Por eso la ficción se encuentra adjetivada. No es cualquier ficción, sino una que busca ampararse en descubrimientos científicos recientes o posibles en un futuro cercano. Mi objetivo con estos relatos que conceptos complejos se vuelvan atractivos para que las personas que leen pierdan el miedo a la inteligencia artificial y al mismo tiempo conozcan los potenciales problemas que implicaría usarla de manera irresponsable. Y nada mejor que hacerlo mediante historias que apelen a los sentimientos más primitivos y nobles del ser humano: el amor, el temor a la muerte, la fraternidad, o la desilusión por extrañar a alguien que ya no está.
–¿Tenemos la posibilidad de controlar a la IA o ella terminará por dominarnos?
–No solamente tenemos la posibilidad sino también la responsabilidad de controlar a la IA. En términos técnicos, esto se llamaría gobernar a la IA. Hoy, quienes construimos esta tecnología, tenemos dos grandes desafíos: por un lado, crear inteligencia artificial de forma responsable y ética. Por otro, ayudar a los humanos a usar esta tecnología de la mejor manera posible. El punto es muy relevante porque estamos ante una herramienta ultrapoderosa y con ella podemos hacer tanto el bien como el mal. Necesitamos tener el control de lo que construimos mediante la IA y, para eso, el primer paso es conocerla. Este libro tiene ese objetivo: no quiero caer en la lógica aterradora de un apocalipsis tecnológico. Creo que no hace falta eso para alertar sobre los peligros que tiene el mal uso de esta herramienta. Eso sería subestimar al lector.
Más ciencia que ficción
–¿Cuáles son las referencias que dieron origen a estos cuentos?
–Desde muy chico soy lector de ciencia ficción. Es una de mis grandes pasiones. Películas como Cortocircuito o Blade Runner marcaron mi infancia, y tuvieron una buena cuota de responsabilidad en el hecho de que hoy trabaje con tecnología. Al mismo tiempo, mi profesión me impulsó, desde hace 15 años, a darme cuenta de que mucho de lo que yo creía que era parte de cuentos de ciencia ficción, no solamente estaba sucediendo, sino que también lo estábamos creando acá en la Argentina. Y a veces cuando contaba lo que hacíamos, mucha gente pensaba que era magia. De esta forma, las ideas de los relatos fueron apareciendo en situaciones muy cotidianas: comprando un souvenir en Mar del Plata con mi hija Magalí, en una conversación con ejecutivos de una empresa que provee servicios de nube, volviendo del trabajo en un embotellamiento en la autopista, y varios etcéteras. La ciencia ficción es una gran herramienta para contar historias y encarar temas técnicos como la IA. Pienso que la verdadera ciencia ficción es mucho más ciencia que ficción y tiene mucho más que ver con el presente que con el futuro. Pero además estoy convencido de que el aporte de la ciencia ficción al conocimiento humano es mucho mayor del que le solemos reconocer: estimula nuestra curiosidad y nos lleva a buscar explicaciones de lo que desconocemos, con espíritu crítico y escepticismo; la misma actitud que origina la ciencia.
En el 2017 aplicó a una beca que ofrecía Singularity, la universidad de Google y la NASA, para hacer el Global Solutions Program (GSP), un programa que dura todo el verano en la sede de NASA en California, en el corazón de Silicon Valley.
–¿Qué pasaría si, cómo en uno de los cuentos, se nos borra de todo registro digital?
–Sería casi como dejar de existir. En sentido figurado, por supuesto. Pero a medida que agregamos cada vez más funciones y protagonismo a nuestra identidad digital, vamos necesitando sistemas y bases de datos más robustas y seguras. Hoy, para ingresar al home banking a administrar nuestras cuentas, para hacer un trámite o incluso para mostrar nuestro registro de conducir ante un control policial, necesitamos una identidad digital. Estos registros, en un futuro no tan lejano, estarán interconectados entre sí para brindarnos mejores experiencias. Imaginemos que nuestro hogar sabe cuando estamos llegando a casa y nos prende el aire acondicionado, pero también programa las compras para que llegue la comida fresca al mismo tiempo que nosotros, regula de forma autónoma el consumo energético eficientemente para gastar menos y disminuir nuestro impacto en el ecosistema. Eso requiere sistemas interconectados y algoritmos predictivos que trabajan con muchos datos. Si no cuidamos esos datos, toda esa magia positiva se transforma en lo contrario.
–¿Cómo sería un país gobernado por máquinas?https://6aa65f078731d467c4aeb4c159708a6b.safeframe.googlesyndication.com/safeframe/1-0-40/html/container.html
–A la hora de pensar este relato tenía una gran disyuntiva: ¿Qué costado queremos mostrar del rol de la tecnología en las políticas públicas? Podríamos mostrar un costado estilo 1984, una especie de dictadura digital donde el algoritmo toma todas las decisiones alienando a los humanos. Pero también podemos mostrar una administración pública eficiente que pueda trabajar con algoritmos predictivos para anticiparse a una próxima pandemia, o que logre detectar casos de posible deserción escolar y generar medidas para evitarla, o manejar de forma más eficiente los residuos o el consumo energético de una ciudad. Decidí, como verán en el relato, no ir por ninguna de las dos. Sino más bien plantear la historia de dos consultores políticos que trabajan en una campaña diseñada especialmente para una IA. De esta forma, los ciudadanos pueden sacar sus propias conclusiones.
Fredi Vivas, Martín Maffioli y Diego Oyolade (de derecha a izquierda) fundaron RockingData, una startup pionera y referente en latinoamérica en el uso de machine learning, inteligencia artificial y big data. Fuente: Mariano Michkin
–Lo del bullying es un tema tan central que el relato sobre el chico que entrena a un robot para que lo ayude en la escuela tendría que ser de lectura obligatoria, ¿cómo nació esta historia?
–El bullying llegó a esta historia primero como un tema secundario, y luego comenzó a volverse cada vez más importante. En realidad, en “¿Cómo entrenar a tu robot?” busqué construir un relato que combinara dos tradiciones: una analógica y otra digital. La historia más importante ahí es la de amistad que se construye entre Julian y Don Marcelo, un joven entusiasta de la tecnología que llega con la alocada idea de construir un robot con inteligencia artificial que lo defienda del bullying que sufre en el colegio, y un anciano reticente a incorporar tecnología que trabaja en un taller mecánico especializado en vehículos no autónomos, una rareza para el siglo XXII. Lo lindo de este cuento es que finalmente, aquel robot que estaba pensado para atacar y defender, terminó siendo utilizado para otra cosa.
Sobre la firma
Fuente: Clarín.com
Sea el primero en comentar en "“Con la IA, estamos ante una herramienta ultra poderosa”"