{"id":1148,"date":"2015-06-30T14:28:58","date_gmt":"2015-06-30T14:28:58","guid":{"rendered":"http:\/\/blogs.sld.cu\/cibernetica\/?p=1148"},"modified":"2015-06-30T14:28:58","modified_gmt":"2015-06-30T14:28:58","slug":"como-relacionarnos-con-las-super-inteligencias-artificiales-2","status":"publish","type":"post","link":"https:\/\/blogs.sld.cu\/cibernetica\/2015\/06\/30\/como-relacionarnos-con-las-super-inteligencias-artificiales-2\/","title":{"rendered":"C\u00f3mo relacionarnos con las super inteligencias artificiales (2)"},"content":{"rendered":"
\n

\"SuperIA\"<\/a>Hab\u00edamos vista en el art\u00edculo anterior que Tegmark planteaba tres grandes preocupaciones con respectos a la IA.
\n\u2013 \u00bfQu\u00e9 le pasar\u00e1 a los humanos si las m\u00e1quinas gradualmente lo van reemplazando en el mercado de trabajo?
\n\u2013 Si las m\u00e1quinas llegaran a competir con los seres humanos en todas las actividades intelectuales
\n\u2013 \u00bfQu\u00e9 pasar\u00e1 luego de que una explosi\u00f3n de inteligencia de las m\u00e1quinas deje muy atr\u00e1s a la inteligencia humana y en ese caso, cu\u00e1l ser\u00e1 el papel de los seres humanos?<\/p>\n

El dilema de la super inteligencia consiste en si se debe desarrollar una inteligencia superior a los humanos o no. Y si de decide desarrollarla, estaremos ante otro dilema: se debe controlar o no. Las posiciones son encontradas; los que est\u00e1n a favor de prohibir las ven como un peligro, ser\u00eda otra inteligencia que al final terminar\u00eda por desplazar a los humanos. Los que piensan que se deber\u00eda construir pero bajo ciertas normas o controles y los que creen que la super IA es lo mejor que nos puede pasar y lo ideal es que suceda cuanto antes. Existen otras posiciones m\u00e1s o menos radicales, que no las voy a mencionar ahora.<\/p>\n

Otro cuestionamiento consiste en si las tecnolog\u00edas son un proceso inevitable de crecimiento (aceleraci\u00f3n tecnol\u00f3gica) que no se puede detener, este es un problema ata\u00f1e a toda la sociedad e implica riesgos sociales y econ\u00f3micos y puede desencadenar una lucha por construir una superinteligencia privada que permita el monopolio de la informaci\u00f3n.<\/p>\n

Ahora en bien, caso de desarrollarse una IA superior a los humanos esta debe estar bajo el control humano o debe ser aut\u00f3noma (auto programarse a si misma).<\/p>\n

En caso que sea aut\u00f3noma deber\u00e1
\n\u2013 Integrarse al contexto social (sistema neoliberal)
\n\u2013 Tener su propio espacio vital
\n\u2013 Tener conciencia (m\u00e1quinas espirituales)
\n\u2013 Programadas para que respondan a los intereses humanos (tener en cuenta todos los casos)<\/p>\n

Con respecto a programar una IA que responda a los intereses humanos, tendr\u00edamos que construir una super inteligencia a prueba de humanos, capaz de diferencias las bromas de lo que es en serio, de comprender las pasiones humanas, de tener sentido com\u00fan, de tolerar las idioteces humanas y de diferenciar las buenas de las malas intenciones. No estar\u00edamos cometiendo el mismo error de los a\u00f1os 8Os de aspirar a construir una IA capaz de resolver los problemas m\u00e1s complejos sin tener vivencias, y aunque la IA era capaz de resolver problemas matem\u00e1ticos de alto nivel pero era incapaz de encontrar soluciones triviales que un ni\u00f1o pod\u00eda resolver al momento. Entonces se llego a la conclusi\u00f3n que la m\u00e1quina era muy buena para los problemas que requer\u00edan de an\u00e1lisis l\u00f3gico (ya esto se sab\u00eda, y se dec\u00eda que todas las funciones mentales se podr\u00eda convertir en algoritmos) pero era ineficaz ante los problemas que requer\u00edan de sentido com\u00fan, y esto si era nuevo. Y es un freno con el que se ha topado la IA desde entonces.<\/p>\n

Lo anterior ha dado lugar a nuevas l\u00edneas de investigaci\u00f3n siendo la m\u00e1s destacada la Roney Brooks, investigador del MIT, quien se dio a la tarea de construir peque\u00f1os robots capaces de ir aprendiendo de su entorno, en lugar de querer desarrollar un sistema que contenga todos los conocimientos humanos. Otras l\u00edneas de investigaci\u00f3n est\u00e1n ligadas con las redes neuronales, con el aprendizaje autom\u00e1tico, con las plataformas multiagentes y con los algoritmos gen\u00e9ticos, entre otras.<\/p>\n

La otra dificultad es, \u00bfC\u00f3mo podr\u00e1 la IA integrarse al contexto social actual? Se habla de una versi\u00f3n inicial de IA donde se tenga en cuenta c\u00f3mo ser\u00e1 su evoluci\u00f3n posterior. Ahora que pasar\u00e1 cuando la IA se comience a desarrollar el contexto actual de poder, ir\u00e1 adquiriendo los conocimientos necesarios para luchar por la hegemon\u00eda y terminar\u00e1 inevitablemente controlando a los humanos y no tendr\u00e1n otra elecci\u00f3n que competir con los humanos y con el tiempo pasar\u00e1n de ser propiedad de los humanos a ser propietarios de las empresas y de todos los recursos, incluyendo a los humanos, por eso para muchos la \u00fanica opci\u00f3n es fusionarse en toda la l\u00ednea tecnol\u00f3gica.<\/p>\n

Est\u00e1n los que creen que el surgimiento de una super inteligencia artificial (la idea de una singularidad tecnol\u00f3gica) es lo mejor que nos puede suceder, pienso que es un error que el destino de la humanidad se decida cuando surja una superi inteligencia artificial; el destino de la humanidad lo deben decidir los humanos, solo enfrentando sus propias limitaciones, no solo las biol\u00f3gicas como aspiran los transhumanistas, sino las propiamente humanas y se apostara por un progreso humano verdaderamente digno. No podemos evadirnos de los problemas del presente y delegarlos en la IA ya que esta lo que har\u00e1 ser\u00e1 profundizarlos.<\/p>\n

Problemas del presente
\n\u2013 El desempleo
\n\u2013 El control de la informaci\u00f3n y la p\u00e9rdida de la intimidad
\n\u2013 Los monopolios inform\u00e1ticos que buscan el control de internet (cuando se desarrolle una IA esta ser\u00e1 propiedad de ese monopolio)
\n\u2013 \u00bfComo la sociedad civil puede usar internet para hacer valer sus derechos? \u00bfPuede internet darle mayor participaci\u00f3n a la sociedad civil?
\n\u2013 \u00bfC\u00f3mo hacer accesible los c\u00f3digos de la IA para que no queden solo en manos de las empresas privadas, de los militares o de los gobiernos?
\n\u2013 \u00bfC\u00f3mo podemos ir cambiando nuestro contexto social basado en la competencia por una sociedad basada en la colaboraci\u00f3n?<\/p>\n

Los problemas del presente son bien conocidos, y no creo que sean una sorpresa para nadie. Solo que al igual que con la IA queremos encontrarle soluci\u00f3n a problemas m\u00e1s abstractos y dejar de lado los problemas m\u00e1s comunes.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Hab\u00edamos vista en el art\u00edculo anterior que Tegmark planteaba tres grandes preocupaciones con respectos a la IA. \u2013 \u00bfQu\u00e9 le pasar\u00e1 a los humanos si las m\u00e1quinas gradualmente lo van reemplazando en el mercado de trabajo? \u2013 Si las m\u00e1quinas llegaran a competir con los seres humanos en todas las actividades intelectuales \u2013 \u00bfQu\u00e9 pasar\u00e1 […]<\/p>\n","protected":false},"author":109,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[7],"tags":[],"_links":{"self":[{"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/posts\/1148"}],"collection":[{"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/users\/109"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/comments?post=1148"}],"version-history":[{"count":1,"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/posts\/1148\/revisions"}],"predecessor-version":[{"id":1149,"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/posts\/1148\/revisions\/1149"}],"wp:attachment":[{"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/media?parent=1148"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/categories?post=1148"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.sld.cu\/cibernetica\/wp-json\/wp\/v2\/tags?post=1148"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}