"Las computadoras pueden, en teoría, emular la inteligencia humana e incluso excederla”
Stephen Hawking1

Los seguidores de la exitosa saga de “Millenium”, creada por el sueco Stieg Larsson, sabrán inmediatamente de lo que hablo. En la cuarta entrega de la serie, Mikael Blomkvist y Lisbeth Salander investigan el asesinato de Frans Balder, un científico que presumiblemente habría logrado que la inteligencia artificial transite de dispositivos y sistemas programados por humanos, a un estadio superior en la que ésta es capaz de comprender su propia existencia, evolucionar y crear nuevas formas de inteligencia. Eso ocurre en la lejana ficción de Millenium. Por otra parte, la inteligencia artificial ha sido un sueño para muchos desde que Alan Turing escribió en los años 50 su documento denominado “Maquinaria e Inteligencia Informática”.2 En otras palabras, entendemos a la Inteligencia Artificial cuando una computadora o dispositivo con poder computacional o sistema informático imita las funciones cognitivas que los humanos asocian con otras mentes humanas, como por ejemplo aprender, asociar, y resolver problemas.

No obstante los relatos de Ciencia Ficción mencionados, en la inmediata realidad —aún con toda proporción guardada— ya hay indicios de este fenómeno.3 Si bien los desarrolladores han estado por décadas enseñando a las computadoras a ver, oír, hablar y entender a los seres humanos, lo cual representa implementaciones de Inteligencia Artificial, su desarrollo, ubicuidad y alcance actuales son exponenciales dada la enorme cantidad de información (Big Data) disponible, combinada con su procesamiento y almacenamiento por el cómputo en la nube, y sus algoritmos, cuyas fórmulas y combinaciones es uno de los secretos mejores guardados, en especial por empresas como Facebook.4 Por ejemplo, las computadoras de manera combinada e interconectada de funcionalidades y tecnologías5 pueden ver e interpretar nuestros sentimientos, reconocen nuestra voz y datos biométricos, identifican y procesan imágenes, traducen de manera simultánea en varios idiomas, determinan que avisos y noticias nos llegan en línea, y los robots domésticos realizan las tareas de limpieza.

Sin embargo, las personas y las computadoras tienen distintos atributos. Las personas somos creativas, tenemos empatía y emociones, y nuestra inteligencia puede resolver problemas complejos de manera integrada. Por otro lado, las computadoras o los sistemas inteligentes pueden procesar grandes cantidades de datos y detectar patrones que ningún humano podría hacerlo. Son funciones y atributos complementarios, en principio, y estos desarrollos de inteligencia artificial pueden expandir y aumentar a niveles exponenciales, —y hoy desconocidos—, la capacidad humana.

Para implementar estas tareas, la intervención humana parece obvia y necesaria. Sin embargo, lo que modifica esta premisa: aunque no necesariamente prescinde de la interacción humana, es el propio sistema de inteligencia artificial cuando es capaz de crear nuevas formas de inteligencia —incluso para nuevos propósitos—, o de aprovechar conocimiento o discernir cuestiones que tradicionalmente hemos considerado únicas, irrepetibles y propias del ser humano, como ser los juicios de valor, las ponderaciones entre dos o más alternativas, o en general la toma de decisiones basada en una combinación de información sensorial, datos, propósito, emociones e intereses.

Este tipo de inteligencia —a la que suele referírsele por diversos nombres, como súper inteligencia artificial, “Human Level Machine Intelligence” o inteligencia “suprahumana”, entre otros— es esencialmente la singularidad tecnológica a la que se refiere Vernor  Vinge en su conocida obra “The Coming Technological Singularity: How to Survive in the Post-Human Era”,6 sin duda uno de los ensayos más frecuentemente citados al abordar aspectos y prospectivas de la inteligencia artificial.

Según Vinge, no más allá de la tercera década del presente siglo, existirán formas de inteligencia suprahumana que modificarán aspectos esenciales de la naturaleza según la conocemos; por ejemplo, anticipa que los desarrollos biotecnológicos serán capaces de alterar las características de las especies, y que los cambios de aptitudes físicas o mentales de los seres humanos a partir de implementos de inteligencia artificial, dará lugar a una era de la especie posthumana.

En este punto, Vinge anticipa que el desarrollo exponencial de la súper inteligencia artificial —que ya no dependerá de insumos de conocimiento humano para continuar creando—, habrá superado la inteligencia humana (en consonancia con la cita de Hawking del comienzo) y con ello, posiblemente la capacidad de control, o incluso comprensión, sobre los resultados generados por aquella.7

¿Cómo olvidar, por ejemplo, las respuestas y reacciones de la computadora HAL 9000, imaginada por Arthur C. Clarke en “El Centinela”, y llevada al cine por Stanley Kubrick en su obra maestra 2001: Odisea del Espacio?

En la Odisea del Espacio, la inteligencia artificial de HAL 9000 —en la función de ordenador de a bordo de la nave espacial “Discovery”— se confronta con las decisiones de los tripulantes David Bowman y Frank Poole, quienes eventualmente planean desconectarla. HAL 9000 descubre el plan, y considerando a Bowman y Poole como inteligencias fallidas, continúa operando con la intención secreta de aniquilarlos para asegurar su existencia.

En este paso, de la ciencia ficción a la realidad,8 la capacidad de HAL 9000 de actuar incluso con segundas intenciones, contrasta con las hipotéticas “leyes de la robótica” que Issac Asimov elaboró en los años 40, en su cuento “Runaround” —posteriormente incluido en su famosa compilación de relatos “Yo, Robot”—, apenas unos años antes que Alan Turing, al desarrollar el examen que lleva su nombre (para determinar la “inteligencia” de una computadora) crease incidentalmente el término de inteligencia artificial según lo empleamos ahora.

En “Runaround”, Asimov plantea un conjunto de normas aplicables a supuestos robots inteligentes, que en esencia les ordena no hacer o permitir daño a los seres humanos por acción u omisión; así como obedecer órdenes de seres humanos y proteger su propia existencia, salvo que tales órdenes o la protección de su propia existencia entraren en conflicto con el primer planteamiento.

Los relatos de Asimov retan la aparente simplicidad de estas disposiciones, pues una vez expuestas a situaciones “reales”, crean paradojas, dan lugar a conflictos morales y en última instancia, sirven de pretexto a Asimov para presentar —o anticipar, quizá— el complejo escenario de la relación entre seres humanos y máquinas que gocen en algún momento de un nivel de inteligencia similar.

Si bien en nuestros días aún parece lejana la convivencia con una máquina de comportamiento idéntico o sustancialmente similar al de un ser humano, ya está aquí el escenario en el que un mecanismo de inteligencia artificial es capaz de crear otro, con mejor desempeño que el programado originalmente por la mente humana.9 Esto es refutado por otros autores, que asignan un nivel al desarrollo actual de la Inteligencia Artificial al de un bebé recién nacido.

Sin embargo, se sostiene con fundamento que la Inteligencia Artificial está altamente especializada, no es generalista. Por ejemplo, esta tecnología primero nos batió al ajedrez, y luego en juegos más sofisticados como “Go”, pero los algoritmos que hacen que gane al ajedrez no juegan al “Go”. Cada grupo de algoritmos resuelven muy bien problemas concretos, pero no todos. Esto significa que se centran en realizar actividades que no requieren el uso de diferentes habilidades cognitivas en tareas consecutivas. Por ello, al menos con el desarrollo actual, estamos lejos de alcanzar una inteligencia artificial general capaz de resolver, por ejemplo, problemas complejos.

No obstante, ello, el camino para alcanzar la singularidad tecnológica de la que habla Vinge: paradójicamente, no será el cerebro humano —con toda su grandeza y también con las limitaciones que por naturaleza o por cualquiera otra causa pueda tener— el responsable de desarrollar su par intelectual; sino que éste será desarrollado, a su vez, por su propia creación, la inteligencia artificial.

Esta capacidad computacional requiere replicar en cierta manera el proceso mental, que es una de las razones por las cuales este paradigma de inteligencia artificial suele asociarse indefectiblemente con los conceptos de “redes neurales” (neural networks), “aprendizaje profundo” (deep learning), o aspectos similares; las cuales implican en esencia, la aptitud de los sistemas de inteligencia artificial de inferir un resultado a partir de datos que no son necesariamente exhaustivos.10

El aprendizaje o proceso neural en la mente humana es auténticamente una “caja negra”, en la que a ciencia cierta desconocemos el tinglado de interacciones que ocurren para producir una respuesta a partir de cierta información; de manera similar, los mecanismos de inteligencia artificial que han trascendido la mera noción de “machine learning” —hacia un “auto machine learning”— operan una función similar, a través de la cual es posible arrojar un resultado que no depende forzosamente de un ejercicio previsible e invariable, sino que tiene la capacidad de considerar nueva información o la misma información bajo circunstancias diferentes.

En este contexto, es fácil comprender la razón por la que la “caja negra” de la inteligencia artificial, en su presente tendencia, resulta un aspecto tan fascinante y al mismo tiempo, tan inquietante: hay quienes sostienen que en cuanto no sea posible conocer o predecir la cadena de “razonamiento” de un sistema de inteligencia artificial —esto es, que no podamos saber qué “piensa”, o cómo llega a una determinada acción o respuesta—, habremos perdido control sobre él y con ello, la capacidad de aprovecharlo.

La posibilidad de perder control sobre el desarrollo y los efectos de la súper inteligencia artificial es esencialmente lo que algunos identifican como una amenaza a la humanidad. Algunos futuristas como Bill Gates, Stephen Hawking, Gerd Leonhard y desde luego el propio Vinge, advierten el riesgo latente de esa circunstancia.11

Elon Musk —CEO de Tesla y SpaceX, entre otras empresas— comparte esta visión, y sostiene que la inteligencia artificial “es la más grande amenaza existencial” para el ser humano. La visión de Musk trae a mi mente un relato publicado por William Bryk en Harvard Science Review,12 que aprovecha a su vez la base de uno de los cuentos de Fredric Brown en “Angels and Spaceships”:13 En el imaginario año de 2045, un grupo de desarrolladores de software de Silicon Valley completan con éxito un programa que simula la red neural humana en una interfaz informática. Antes de salir a celebrar su magnífico logro, los orgullosos amigos conceden a la nueva red el acceso total a Internet, para que ésta adquiera información y resulte útil para ejecutar tareas que ellos le asignen más adelante. Al regresar del festejo, la pantalla muestra un extraño mensaje: “Programa completado”. Los desarrolladores preguntan: “¿Qué es lo que has completado?, a lo que la computadora responde: “Lo sé todo. Pregunta lo que quieras”. Tras deliberar cuidadosamente la pregunta que deben formular, los amigos inquieren: “¿Existe Dios?”. La respuesta fue: “Existe ahora”.

Algunos ejemplos cotidianos de esta forma de inteligencia ocurren en nuestros teléfonos móviles u otros dispositivos, como sus asistentes “Siri”, “Alexa” o “Cortana”, para proveer información, seguir instrucciones, facilitar tareas o predecir actividades con base en preferencias; en los automóviles, para estacionar o conducir de forma autónoma; o en innumerables soluciones informáticas, para analizar grandes volúmenes de información y ejecutar tareas en función de sus resultados. Los desarrollos existentes en Inteligencia Artificial comprenden todas las áreas, desde Salud, Educación, Transporte, Agricultura, Seguridad Pública y es transversal a muchas industrias. Hoy en día, sólo hemos comenzado a vislumbrar los resultados a alcanzar mediante la cooperación entre máquinas y humanos. Algunos desarrollos resuelven con éxito algunos de los problemas más complejos del planeta, como ser: predecir la condición del suelo y las condiciones meteorológicas para aumentar la productividad y reducir los costos en la Agroindustria; predecir y prevenir enfermedades; predecir y responder a la deserción escolar; optimizar el transporte terrestre, y muchos otros más.

Sin embargo, los efectos de la Cuarta Revolución Industrial14 en la que estamos inmersos, y de la utilización intensiva de la Inteligencia Artificial y otras combinaciones de tecnologías en nuestra era Digital, no sólo son positivos, sino que inciden por ejemplo en la automatización de tareas y consecuente pérdida de puestos de trabajo. En tal sentido se estima que el 47% de los trabajos están en riesgo en Estados Unidos o según la OCDE, que el 57% de los trabajos actuales podrían ser automatizados. Así las cosas, se estima que hacia el 2027 la Inteligencia Artificial desplazará 24,7 millones de trabajos y creará casi 15 millones. Dado el auge de esta tecnología, se hace necesario adoptar políticas públicas en colaboración con la Industria para crear las capacidades digitales15 que ella exige, y así generar nuevos trabajos y modelos de negocios disruptivos. Diseñar sistemas de Inteligencia Artificial requiere competencias en matemáticas, comprensión estadística, ciencia de datos y programación informática, y algo muy importante propio de los humanos, intuición. Según una estimación de una incubadora canadiense,16 sólo existen en el mundo 22 mil científicos informáticos con doctorado capaces de desarrollar Inteligencia Artificial, de los cuales sólo según sus estimaciones, 3 mil buscan actualmente trabajo. Ello contrasta con las estimaciones de Tencent, el gigante chino de Internet, según las cuales hay entre 200 y 300 mil practicantes e investigadores de Inteligencia Artificial en el Mundo. Estas cifras han llevado a una crisis por la escasez de talento en este campo y ha desatado una guerra de salarios, donde por ejemplo en Estados Unidos, donde hay aproximadamente 10 mil posiciones vacantes, un recién graduado como doctor en Ciencia de Datos puede llegar a ganar más de 300 mil dólares al año. Sin embargo, éstas son sólo estimaciones y predicciones bajo el manto de una única certeza: la incertidumbre de hacia dónde la Inteligencia Artificial nos llevará o la dejaremos llegar, si es que podemos controlarla.

En nuestros días la Inteligencia Artificial es la tecnología de mayor capacidad e impacto disruptivo en la sociedad. La inteligencia artificial utiliza el mundo como laboratorio. Su presencia en todo tipo de dispositivos, desde smartphones hasta vehículos, aunque invisible comienza a ser ubicua. Por su parte, The McKinsey Global Institute concluyó que la revolución de la inteligencia artificial es “diez veces más rápida y tiene una escala 300 veces mayor” que la Revolución Industrial.

Algunos autores reconocen en la Inteligencia Artificial el atributo de la “Nueva Electricidad” del siglo XXI.17 Todo esto hace que despierte pasiones y visiones encontradas, y se presenta así, tanto como la panacea tecnológica para resolver los grandes desafíos de nuestra humanidad en este Siglo, como la principal amenaza existencial para la raza humana, como hemos visto.

Como evidencia del valor estratégico de la Inteligencia Artificial en el Siglo XXI y su nueva Geopolítica, los EUA y China lideran el mundo en las inversiones en Inteligencia Artificial. Según McKinsey18 se estima que en Estados Unidos las inversiones alcanzan los 23 billones de dólares, en China 12 billones dólares y en Europa 4 billones dólares. Por otra parte, la inversión privada alcanza los 40 billones de dólares, presentado eventualmente casos de concentración económica por algunos de los gigantes tecnológicos. China ha anunciado una inversión de 150 billones dólares hacia el año 203019 y el presidente de Rusia, Vladimir Putin, declaró…” que el país que logre el liderazgo en el desarrollo de la inteligencia artificial será el amo del mundo" (sic).20

El interés por comprender y regular la Inteligencia Artificial ha aumentado en los últimos tiempos en la comunidad internacional de legisladores y reguladores. Sin duda la Inteligencia Artificial como se destaca en este artículo conlleva grandes implicaciones sociales, sin embargo, este interés por regular está influido en algunos casos por el miedo a lo desconocido o a esos efectos sociales negativos, y nace en una época convulsionada por las crecientes olas de populismo y abusos en el uso de las redes sociales en los procesos democráticos.21 Por otra parte, la escritora Cathy O’ Neil considera a la Inteligencia Artificial como un desafío a la distribución equitativa del ingreso.22 Es por ello, que varias empresas de tecnología han conformado una Alianza para ir definiendo ciertos principios y valores en el diseño de Inteligencia Artificial, y eventualmente en su regulación.23

Los principios, en su mayoría éticos, a observar en el desarrollo e implementación de la Inteligencia Artificial son muchos y complejos y se multiplican y se hacen más complejos a medida que la innovación y el desarrollo evolucionan a pasos agigantados presentando así nuevas cuestiones. Considero que los más sensibles son la protección robusta a la privacidad y seguridad de la información, y transparencia, en esta época de abusos, fugas de datos, espionajes, opacidad, y ataques de ciberdelincuentes.

Este principio de transparencia implica saber si existe una interacción con un sistema de inteligencia artificial, si existen los mecanismos para prevenir una discriminación indebida o un prejuicio por parte de dicho sistema, o los medios para conocer el proceso de decisión adoptada por un mecanismo automatizado, por ejemplo. 

 Asimismo, respondiendo a la preocupación de asegurar que la Inteligencia Artificial no profundice la desigualdad en el mundo, se sostiene que los Gobiernos deberían regular para que los pequeños emprendedores y pequeñas y medianas empresas tengan acceso a estos desarrollos y así pueden multiplicar sus efectos en la Economía y la Sociedad

Otros principios menos analizados, son los prejuicios raciales o de todo tipo en ciertos desarrollos, con resultados así sesgados, los cuales llevan a casos de discriminación. Por ejemplo, en un desarrollo de Inteligencia Artificial destacado por The New York Times,24 mediante un reconocimiento de imagen facial se discriminó en contra de hombres y mujeres de pieles oscuras. Alí el género fue mal identificado en hombres blancos en un 1%, sin embargo, ese porcentaje aumenta hasta 12% en hombres de piel más oscura. En el caso de mujeres es aún peor, dado que el porcentaje de error fue de un 7% para mujeres blancas y del 35% en mujeres de piel más oscura.

Es muy importante, además que se asegure la participación de las mujeres, y minorías, para que tales desarrollos sean inclusivos, y representen la pluralidad de intereses, culturas, intereses y perspectivas. En especial es imprescindible asegurar la igualdad de género en el desarrollo de Inteligencia Artificial, siendo este uno de los grandes desafíos en la Utopía del Internet.25 Por otra parte, sin ir a principios éticos o normativos, la igualdad de género y la participación de mujeres en el desarrollo de Inteligencia Artificial es un requisito para su funcionamiento eficaz. Las razones señaladas por el MIT en su Technology Review26 al respecto lucen convincentes.

En fin, no compartiré a aquellos que no han leído Millenium, los hallazgos de Frans Balder. Pero para los cinéfilos, dejo aquel recuerdo de la partida de ajedrez que HAL 9000 juega con Frank Poole: una vez que la máquina vence al hombre, podemos asumir que estamos en tránsito hacia la singularidad tecnológica de Vinge, y quizá entonces, debamos comenzar a preparar nuestros lápices, y porque no convertir en regulación algunas de las reglas de Asimov citadas anteriormente en este artículo. Sin lugar a duda, no tendremos otra oportunidad para hacerlo bien, es decir de manera coordinada, responsable, equilibrada, eficaz, a favor de la innovación y el progreso con inclusión social, y aprendiendo de manera colectiva. Las oportunidades son atractivas y los desafíos están a su altura. Le pregunto a Siri: “¿Podremos controlar nuestra propia creación?”. Me responde: “Lo siento, no puedo ayudarte con eso”.

 

Jorge J. Vega Iracelay
Profesor en la Universidad Panamericana e INFOTEC. Escritor, ensayista e investigador en tecnología y sociedad.


1 http://www.hawking.org.uk

2 Turing A.M. (2009) Computing Machinery and Intelligence.

3 Por ejemplo, en mayo de 2017 diversos medios especializados e incluso diarios de información general hicieron eco de los avances publicados por Google de su programa AutoML —en esencia, destinado a que un sistema de inteligencia artificial pueda crear otro sistema, sin intervención humana, con características superiores al primero—. Un par de notas representativas de cada categoría, son: https://www.inverse.com/article/
31952-ai-google-machine-learning-automl
; y particularmente en México: http://www.eluniversal.com.mx/techbit/
la-inteligencia-artificial-de-google-esta-creando-otras-inteligencias-artificiales
. Más información se encuentra en el blog: https://www.blog.google/topics/machine-learning/
making-ai-work-for-everyone/
.

4 Ver el artículo sobre el escándalo Cambridge Analytica y Facebook en https://redaccion.nexos.com.mx/?p=8950

5 Como por ejemplo cómputo en la nube, realidad virtual y aumentada, aprendizaje profundo, e internet de las cosas.

6 Cfr. https://ntrs.nasa.gov/archive/nasa/
casi.ntrs.nasa.gov/19940022855.pdf

7 Ver por ejemplo el incidente de la asistente de Amazon, Alexa, riéndose a carcajadas antes sus usuarios sin ningún estímulo aparente: https://www.buzzfeed.com/venessawong/
amazon-alexa-devices-are-laughing-creepy

8 Ver mi artículo homónimo publicado por la revista Nexos: https://www.nexos.com.mx/?p=31902

9 Léase al respecto un interesante artículo de Cade Metz en la versión electrónica del New York Times del 5 de noviembre pasado, “Building A.I. That Can Build A.I.”, en: https://www.nytimes.com/2017/11/05/technology/
machine-learning-artificial-intelligence-ai.html
.

10 A este respecto, es muy recomendable el artículo de Natalie Wolchover publicado en Wired de agosto pasado, “New Theory Cracks Open the Black Box of Deep Neural Networks”, en: https://www.wired.com/story/new-theory-deep-learning/

11 Algunas afirmaciones de Gates y Hawking pueden leerse en: http://www.bbc.com/news/31047780 y http://www.bbc.com/news/technology-30290540. Por cuanto a Leonhard, sus planteamientos se concentran mayormente en su libro “Technology vs. Humanity: The Coming Clash Between Man and Machine.

12 Cfr. Artificial Superintelligence: The Coming Revolution”, de William Bryk, publicado en Harvard Science Review, del 4 de diciembre de 2015. https://harvardsciencereview.com/2015/12/04/
artificial-superintelligence-the-coming-revolution-2/

13 Específicamente, el cuento de “Answer”, que forma parte de la compilación “Angels and Spaceships” de Fredric Brown, publicado por la editorial E.P. Dutton en 1954. 

14 Ver el artículo en: https://www.nexos.com.mx/?p=31902

15 Ver el artículo en: https://www.nexos.com.mx/?p=34880

16 http://www.elfinanciero.com.mx/bloomberg-businessweek/
la-inteligencia-artificial-desata-una-guerra-de-sueldos

17 http://knowledge.wharton.upenn.edu/article/
ai-new-electricity/

18 Nota al pie número 7

19 http://www.sciencemag.org/news/2018/02/china-s-massive-investment
-artificial-intelligence-has-insidious-downside

20 https://mundo.sputniknews.com/mundo/
201709081072208374-amo-del-mundo-ai-musk/

21 Ver mi ensayo publicado por la Revista Nexos: https://www.nexos.com.mx/?p=36348

22 Cathy O’Neil. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York, Crown Publishers, 2016, 272 pp.

23 https://www.partnershiponai.org

24 https://www.nytimes.com/2018/02/09/technology/
facial-recognition-race-artificial-intelligence.html

25 Ver el artículo en https://redaccion.nexos.com.mx/?p=9052

26 https://www.technologyreview.com/s/609129/
the-dangers-of-tech-bro-ai/