{"id":1849,"date":"2017-10-11T15:56:53","date_gmt":"2017-10-11T15:56:53","guid":{"rendered":"https:\/\/cibernetica.wordpress.com\/?p=1849"},"modified":"2017-10-11T15:56:53","modified_gmt":"2017-10-11T15:56:53","slug":"es-posible-relacionarnos-con-las-nuevas-inteligencias-no-humanas-desde-la-vision-reduccionista-actual","status":"publish","type":"post","link":"https:\/\/blogs.sld.cu\/cibernetica\/2017\/10\/11\/es-posible-relacionarnos-con-las-nuevas-inteligencias-no-humanas-desde-la-vision-reduccionista-actual\/","title":{"rendered":"Es posible relacionarnos con las nuevas inteligencias no humanas desde la visi\u00f3n reduccionista actual"},"content":{"rendered":"

\"\"<\/a><\/h3>\n

Hoy el temor se centra en una inteligencia artificial capaz de superar a los humanos y los peligros que esto podr\u00eda conllevar, no obstante los riesgos, cada vez se propaga m\u00e1s en los j\u00f3venes\u00a0 la idea de una IA avanzada y parece como si no existieran m\u00e1s alternativas. E<\/em>l problema radica en quela IA se est\u00e1 construyendo desde un pensamiento positivista-cognitivista-reduccionista-mecanicista, lo cual lleva a la construcci\u00f3n de una IA ajena a los verdaderos inter\u00e9s humanos, por eso no es de extra\u00f1ar que <\/em>Stephen Hawking se pregunte. \u00bfSi estamos tomando la inteligencia artificial suficientemente en serio?<\/h3>\n

\u00a0<\/strong>En el articulo \u201cLos riesgos existenciales de una singularidad tecnol\u00f3gica (3)\u201d<\/a><\/p>\n

Dec\u00eda que mi preocupaci\u00f3n no es que la IA sea m\u00e1s inteligente, m\u00e1s amigables, ni m\u00e1s robusta sino que los humanos sean capaces de ampliar su inteligencia y su sabidur\u00eda junto a la IA, y lo que sucede, en realidad, es que estamos proyectando nuestra preocupaci\u00f3n por nosotros mismos sobre la IA, y tememos que esa superinteligencia pueda hacer cosas peores que nosotros.<\/p>\n

Considero que la justificaci\u00f3n a los diferentes sistemas lo da la sinergia que se est\u00e1 produciendo entre humanos y tecnolog\u00edas. Estamos hablando de una relaci\u00f3n simbi\u00f3tica y es que, por primera vez en la historia de la humanidad; podemos decidir, ya no solo que tipo de religi\u00f3n, de moral, de sociedad y de educaci\u00f3n queremos sino tambi\u00e9n, qu\u00e9 tipo de evoluci\u00f3n queremos alcanzar y a qu\u00e9 futuro queremos llegar.<\/p>\n

Como se ve el tema es complejo y est\u00e1 cargado de interpretaciones, temores, expectativas e intenciones que nos desv\u00edan de un enfoque imparcial del problema, trataremos de analizar de forma, lo mas imparcial posible (teniendo en cuenta que tambi\u00e9n somos seres humanos y tenemos expectativas e intenciones) para ello nos apoyaremos del an\u00e1lisis realizado por Give Well \u201cPotential risks from advanced artificial intelligence\u201d<\/a>, Ya que indaga en el problema de una forma bastante imparcial.<\/p>\n

La pregunta es \u00bfPodemos dirigir la simbiosis? El mismo Nick Bostrom plantea que las tecnolog\u00edas son juguetes muy peligrosos en manos de ni\u00f1os traviesos (los humanos). Hay que trabajar en ampliaci\u00f3n de la inteligencia y la sabidur\u00eda humana (IA altruista), que se vaya construyendo por medio de la colaboraci\u00f3n con los humanos donde se vaya produciendo una sinergia mutual entre ambos donde prime el progreso humano en lugar del progreso tecnol\u00f3gico como en los casos anteriores.<\/p>\n

Esto lleva a profundos cambios de mentalidad y en una nueva educaci\u00f3n que prioriza la necesidad de aprender a manejarse con las tecnolog\u00edas que est\u00e1n emergiendo y la sabidur\u00eda que debemos alcanzar, ya que el problema no es construir una IA amigable\u00a0 sino ense\u00f1ar a la IA a que se amigable, pero primero tenemos nosotros que aprender a ser amigables y a perseguir intereses altruistas y solidarios. Tenemos que aprender a construir una IA cada vez m\u00e1s inteligente y sabia para juntos construir un mundo m\u00e1s humano.<\/p>\n

Antes de continuar con los riesgos futuros de la IA, vamos a ver los problemas m\u00e1s cercanos que ya se est\u00e1n produciendo y sus consecuencias.<\/p>\n

Problemas actuales
\n\u2022 Aumento del desempleo: \u00bfSe ir\u00e1 aumentando el desempleo seg\u00fan surja la IA? \u00bfQu\u00e9 har\u00e1n los luditas? \u00bfNo surgir\u00e1n enfrentamientos sociales?
\n\u2022 \u00bfQui\u00e9n controlara la informaci\u00f3n y los procesos en su beneficio? \u00bfQu\u00e9 har\u00e1 con ella? \u00bfSurgir\u00e1n super-monopolios, estados con el control absoluto de sus ciudadanos? \u00bfDe qui\u00e9n ser\u00e1 propiedad la super IA? (ver los conceptos de la IA propietaria)
\n\u2022 Le dar\u00e1n las tecnolog\u00edas emergentes mayor participaci\u00f3n y surgir\u00e1 una sociedad civil fuerte que pueda librarse del control del estado y de las transnacionales. Para m\u00ed este es el punto clave.
\n\u2022 Como hacer accesible los c\u00f3digos de la IA. Actualmente ya est\u00e1 sucediendo en Google, Facebook, con excepci\u00f3n de Cuba que producto del bloqueo econ\u00f3mico de los EEUU, no puede acceder a la informaci\u00f3n.
\n\u2022 Dado los dos puntos anteriores que nos llevan a una sociedad m\u00e1s abierta y participativa como se podr\u00eda ir transformando en una sociedad colaborativa e ir dejando atr\u00e1s las competencias y las desigualdades.<\/p>\n

Los problemas del presente son bien conocidos, y no creo que sean una sorpresa para nadie. Solo que al igual que con la IA queremos encontrarle soluci\u00f3n a problemas m\u00e1s abstractos y dejar de lado los problemas m\u00e1s comunes.<\/p>\n

Los riesgos de la super IA como parte del problema tecno-cientifico
\n<\/u>\u2022 El peligro de una IA fuera de control que tendr\u00eda sus propios objetivos (IA no alineada a los intereses humanos)
\n\u2022 La lenta evoluci\u00f3n humana y sus l\u00edmites biol\u00f3gicos, no compite con la acelerada evoluci\u00f3n artificial (explosi\u00f3n de inteligencia)
\n\u2022 El riesgo de una simbiosis humano-tecnolog\u00eda no favorable a los humanos.
\n\u2022 No alcanzar el conocimiento necesario para manejarse con las nuevas inteligencias.<\/p>\n

Por otra parte, no queda claro sin que una IA sea beneficiosa, quiere decir que de alguna forma va a colaborar con los humanos o, sencillamente, basta con que responda a los intereses humanos.<\/p>\n

Otra cosa, en caso de desarrollarse una IA superior a los humanos esta debe estar bajo el control humano o debe ser aut\u00f3noma (auto programarse a si misma).<\/p>\n

Si es aut\u00f3noma, entonces, deber\u00e1
\n\u2013 Integrarse al contexto social (sistema neoliberal)
\n\u2013 Tener su propio espacio vital
\n\u2013 Tener conciencia (m\u00e1quinas espirituales)
\n\u2013 Programadas para que respondan a los intereses humanos (tener en cuenta todos los casos)<\/p>\n

Con respecto a programar una IA que responda a los intereses humanos, tendr\u00edamos que construir una superinteligencia a prueba de humanos, capaz de diferencias las bromas de lo que es en serio, de comprender las pasiones humanas, de tener sentido com\u00fan, de tolerar las idioteces humanas y de diferenciar las buenas de las malas intenciones. No estar\u00edamos cometiendo el mismo error de los a\u00f1os 8Os de aspirar a construir una IA capaz de resolver los problemas m\u00e1s complejos sin tener vivencias, y aunque la IA era capaz de resolver problemas matem\u00e1ticos de alto nivel pero era incapaz de encontrar soluciones triviales que un ni\u00f1o pod\u00eda resolver al momento. Entonces se llego a la conclusi\u00f3n que la m\u00e1quina era muy buena para los problemas que requer\u00edan de an\u00e1lisis l\u00f3gico (ya esto se sab\u00eda, y se dec\u00eda que todas las funciones mentales se podr\u00eda convertir en algoritmos) pero era ineficaz ante los problemas que requer\u00edan de sentido com\u00fan, y esto si era nuevo. Y es un freno con el que se ha topado la IA desde entonces.<\/p>\n

Por lo que me surgen algunas dudas con respecto a la construcci\u00f3n de una IA<\/strong><\/p>\n