{"id":1250,"date":"2015-10-30T18:29:18","date_gmt":"2015-10-30T18:29:18","guid":{"rendered":"http:\/\/blogs.sld.cu\/cibernetica\/?p=1250"},"modified":"2015-10-30T18:29:18","modified_gmt":"2015-10-30T18:29:18","slug":"los-riesgos-existenciales-de-una-singularidad-tecnologica-1","status":"publish","type":"post","link":"https:\/\/blogs.sld.cu\/cibernetica\/2015\/10\/30\/los-riesgos-existenciales-de-una-singularidad-tecnologica-1\/","title":{"rendered":"Los riesgos existenciales de una singularidad tecnol\u00f3gica (1)"},"content":{"rendered":"
\n

\"riesgos\"<\/a> Comencemos resumiendo algunas de los conceptos que ya hemos tratado en otros art\u00edculos.<\/p>\n

Postulados de la singularidad tecnol\u00f3gica<\/h3>\n

La singularidad tecnol\u00f3gica se sostiene sobre la idea del surgimiento de una superinteligencia artificial que provoca una explosi\u00f3n de inteligencia, esto significa que una vez que surja esta ser\u00e1 capaz de construir IAs cada vez m\u00e1s inteligentes (El desaf\u00edo de la inteligencia artificia<\/a>l) produci\u00e9ndose un crecimiento exponencial de inteligencia (aceleraci\u00f3n tecnol\u00f3gica), por lo que, la IA se convertir\u00e1 en el motor impulsor de la singularidad y con ello de alcanzar una posthumanidad de forma directa, sin la transici\u00f3n transhumanista. La idea de Kurzweil es acelerar a las tecnolog\u00edas para alcanzar cuanto antes la posthumanidad (reconstrucci\u00f3n del humano).<\/p>\n

Veamos los presupuestos que se tienen en cuenta para lograr una explosi\u00f3n de inteligencia basada en el hardware:<\/p>\n

Un primer postulado: La aceleraci\u00f3n de las tecnolog\u00edas se seguir\u00e1 incrementando hasta llegar a un punto que escapa a las capacidades de los humanos (singularidad tecnol\u00f3gica). Se puede lograr una inteligencia artificial por fuerza bruta, o sea que dada la velocidad de la m\u00e1quina pueda analizar exhaustivamente todas las posibles soluciones. Este es el caso del ajedrez, la inteligencia de la m\u00e1quina se basa en su velocidad para calcular las variantes, lo cual le permite prever los que puede suceder en el tablero.<\/p>\n

Un segundo postulado: La inteligencia de las m\u00e1quinas dada la complejidad que ir\u00e1n adquiriendo y las conexiones internas (circuitos) o externas (redes) podr\u00e1 despertar como una entidad auto consciente. La emergencia, la cual asume, que debido a la velocidad en el procesamiento de la informaci\u00f3n de la m\u00e1quina, llegar\u00e1 un momento, que podr\u00e1 manipular una gran cantidad de informaci\u00f3n y dada su complejidad podr\u00eda, tambi\u00e9n, despertar como una inteligencia.<\/p>\n

Un tercer postulado: Las m\u00e1quinas se ir\u00e1n auto construy\u00e9ndose a s\u00ed misma, cada vez m\u00e1s perfeccionadas, m\u00e1s veloces, con m\u00e1s memorias, dotadas de mejores algoritmos; podr\u00e1n llegar a convertirse en m\u00e1quinas superinteligentes que superen a los humanos. Las m\u00e1quinas al alcanzar cierta inteligencia ser\u00e1n capaces de construirse a si misma cada vez mejores hasta llegar a una superinteligencia.<\/p>\n

Las cuatro singularidades tecnol\u00f3gicas<\/h3>\n

En la singularidad de Vinge, menos optimista y radical que Kurzweil, se plantean cuatro v\u00edas para alcanzar la singularidad tecnol\u00f3gica, la cual puede agruparse en dos grupos.
\n1.-Relacionada con una inteligencia artificial. Superinteligencia artificial
\n2.-Relacionada con la ampliaci\u00f3n de la inteligencia<\/p>\n

La ampliaci\u00f3n de la inteligencia humana nos lleva a tres l\u00edneas de desarrollo
\n1.-Ampliacion de la inteligencia por medio de dispositivos cibern\u00e9ticos. Se produce una conexi\u00f3n f\u00edsica entre los \u00f3rganos biol\u00f3gicos con los artefactos cibern\u00e9ticos. Superinteligencia hibrida.
\n2.-Ampliacion de la inteligencia por medio de la interacci\u00f3n (colaboraci\u00f3n) entre humanos y medios cibern\u00e9tico. Aqu\u00ed se produce una conexi\u00f3n l\u00f3gica entre los humanos y las m\u00e1quinas. Superinteligencia colectiva
\n3.-Ampliacion de la inteligencia por medio de la ingenier\u00eda gen\u00e9tica. Se producen mejoras al organismo por medio de la aplicaci\u00f3n de la biotecnolog\u00eda. Superinteligencia biol\u00f3gica.<\/p>\n

Con respecto a la superinteligencia artificial, estamos hablando de una IA que se construir\u00e1 para que esta sea cada vez m\u00e1s aut\u00f3noma. Ahora la pregunta es, \u00bfa qui\u00e9n responder\u00e1 esta superinteligencia artificial? Teniendo en cuenta que ser\u00e1 m\u00e1s inteligente que los humanos, es importante saber qui\u00e9nes la van a utilizar y con qu\u00e9 fin. Por lo que al final estar\u00edamos hablando de un software propietario, propiedad privada de alguien.<\/p>\n

Por lo que tendremos varias posibilidades.
\n\u2022 Superinteligencia artificial creada (en sus bases para que siga mejor\u00e1ndose por si misma) por los centros de investigaci\u00f3n.
\n\u2022 Superinteligencia artificial creada con fines militares, ya sea por militares o alianzas.
\n\u2022 Superinteligencia artificial creada por las grandes transnacionales como parte de su Know How, con fines econ\u00f3micos (las actuales grandes transnacionales de la informaci\u00f3n, encabezadas por Google).
\n\u2022 Superinteligencia artificial creada con fines comerciales, su prop\u00f3sito es vender los sistemas.
\n\u2022 Superinteligencia artificial creada por la comunidad de software libre.<\/p>\n

Dilema tecnol\u00f3gico<\/h3>\n

El dilema de la superinteligencia consiste en: Si se debe desarrollar una inteligencia superior a los humanos o no. C\u00f3mo relacionarnos con las super inteligencias artificiales<\/a><\/p>\n

Ahora en bien, caso de desarrollarse una IA superior a los humanos esta debe estar bajo el control humano o debe ser aut\u00f3noma (auto programarse a si misma).<\/p>\n

En caso que sea aut\u00f3noma deber\u00e1, entonces:
\n\u2013 Integrarse al contexto social (sistema neoliberal)
\n\u2013 Tener su propio espacio vital
\n\u2013 Tener conciencia (m\u00e1quinas espirituales)
\n\u2013 Programadas para que respondan a los intereses humanos (tener en cuenta todos los casos)<\/p>\n

Veamos algunas consideraciones a tener en cuenta
\n\u2022 La IA debe surgir sobre el sistema social vigente y desarrollarse dentro de la ley del mercado. Y todo indica que se construir\u00e1 dentro de una transnacional. La pregunta es: \u00bfQui\u00e9n va a construir la IA y con qu\u00e9 fin? Lo m\u00e1s probable es que la IA llegue a comprender mejor que nadie la ley del mercado y se convierta en el millonario m\u00e1s grande de la historia, surgir\u00e1 un super monopolio controlado por la IA. Por tanto, si aceptamos la estructura social actual, la mejor soluci\u00f3n es el control de las tecnolog\u00edas, cualquier otra soluci\u00f3n se va de control y los riesgos son incalculables.
\n\u2022 No cambiar la mentalidad actual: hedonista, mercantilista, individualista, consumista. Basada en el tener, que solo busca el \u00e9xito (como fuerza externa). Los ricos ahora con la IA ser\u00e1n m\u00e1s ricos.
\n\u2022 La evoluci\u00f3n de las m\u00e1quinas es m\u00e1s veloz que los humanos y se considera que la evoluci\u00f3n humana es demasiado lenta o est\u00e1 detenida, para muchos ya se agot\u00f3. Yo pienso que en la era de las tecnolog\u00edas la evoluci\u00f3n humana se va a acelerar y dar\u00e1 lugar simbiosis ex\u00f3gena y colaborativa.
\n\u2022 Querer que las tecnolog\u00edas respondan a los humanos, pero\u2026 \u00bfNo podr\u00e1n las tecnolog\u00edas tener sus propios intereses y construir su propio espacio vital y que este se complemente con el de los humanos?<\/p>\n

La explosi\u00f3n de inteligencia<\/h3>\n

Cuando se habla de explosi\u00f3n de inteligencia se hace referencia a que surgir\u00e1n m\u00e1quinas, con m\u00e1s velocidad de c\u00e1lculo (an\u00e1lisis de variantes), con mas memoria, con m\u00e1s capacidad para procesar la informaci\u00f3n: instrucciones, reglas\u2026 En fin, m\u00e1quinas que de alguna forma simulan la potencia de un cerebro para el procesamiento de la informaci\u00f3n. Pero nada de esto nos indica que las m\u00e1quinas puedan igualar (hasta el momento) el conocimiento humano. La explosi\u00f3n de inteligencia nos garantiza que podamos resolver problemas complejos desde un enfoque l\u00f3gico-matem\u00e1tico (construcci\u00f3n de algoritmos), pero no que podamos conocer la complejidad del problema y su relaci\u00f3n con las vivencias y necesidades humanas, si desechamos a los humanos por incapaces, entonces no hay de qu\u00e9 preocuparse.<\/p>\n

El problema sigue siendo como representar los conocimientos humanos en una m\u00e1quina y como esta ser\u00e1 capaz de seguir aprendiendo y de aportar nuevos conocimientos para que se integren a un verdadero progreso humano, y este es otro problema. \u00bfQu\u00e9 entendemos por progreso humano? Aunque parezca incre\u00edble, hoy estamos m\u00e1s claros del significado del progreso tecnol\u00f3gico, que del progreso humano. Y lo otro, \u00bfC\u00f3mo se integra el progreso tecnol\u00f3gico al progreso humano? O sea, c\u00f3mo ese progreso tecnol\u00f3gico nos puede llevar a una ampliaci\u00f3n de la inteligencia y de la sabidur\u00eda, no solo humana, sino colectiva (entre humanos y m\u00e1quinas).<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Comencemos resumiendo algunas de los conceptos que ya hemos tratado en otros art\u00edculos. Postulados de la singularidad tecnol\u00f3gica La singularidad tecnol\u00f3gica se sostiene sobre la idea del surgimiento de una superinteligencia artificial que provoca una explosi\u00f3n de inteligencia, esto significa que una vez que surja esta ser\u00e1 capaz de construir IAs cada vez m\u00e1s inteligentes […]<\/p>\n","protected":false},"author":109,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[7],"tags":[],"_links":{"self":[{"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/posts\/1250"}],"collection":[{"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/users\/109"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/comments?post=1250"}],"version-history":[{"count":1,"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/posts\/1250\/revisions"}],"predecessor-version":[{"id":1251,"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/posts\/1250\/revisions\/1251"}],"wp:attachment":[{"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/media?parent=1250"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/categories?post=1250"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/tags?post=1250"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}