Maquinas autonomas

0

A Norbert Wiener siempre le preocupó como sería la relación entre humanos y tecnologías y cuál sería el destino de los seres humanos. Él siempre entendió a la cibernética como una nueva forma de pensar y de un nuevo paradigma que rompe con el paradigma mecanicista y determinista, idea desarrollado posteriormente por Edgar Morin, quien partiendo de los conceptos de la cibernética, la teoría de sistemas y la de la  información, elaboró los tres principios que sustentan el pensamiento complejo:

  • Principio Dialógico
  • Principio de Recursividad
  • Principio Hologramático

Para la cibernética, la complejidad es vista como la evolución de cómo los cambios que se producen en los sistemas artificiales (maquinas autónomas) y su interacción (simbiosis) con los sistemas vivos. En cambio la teoría de sistemas de Bertalanffy se centra en los sistemas vivos. Por eso cuando en la cibernética se habla de maquinas se refiere a maquinas autónomas a diferencia de la inteligencia artificial que cuando habla de maquinas se refiere a maquinas inteligentes. Mientras la preocupación de la cibernética son las maquinas que se auto-regulan y se auto-organizan, para la inteligencia artificial su tema de estudia es como construir una maquina inteligente que iguale o supere la inteligencia humana.

Mientras las maquinas cibernética se sustenta sobre la idea de maquinas autónomas que están en interacción con el entorno, son sistemas abiertos informacionalmente. La IA se basa en maquinas inteligentes basadas en el procesamiento de información (programas que se ejecutan y manipulan bases de conocimientos, introducidos por el programador, por lo que son sistemas cerrados y no interactúan con el entorno.

Es significativo el hecho de que la IA ve la evolución como maquinas inteligentes que alcanzan a igualar y superar la de los humanos y que serán capaces a su vez de autoprogramarse y construir máquinas  más inteligentes. Es obvio que estamos ante una retroalimentación positiva: maquinas inteligentes que a su vez construyen maquinas más inteligentes y así infinitamente. Esta es la idea central de la singularidad tecnológica.

En cambio la cibernética, tiene como fundamento para la evolución, la retroalimentación negativa, o sea la regulación del sistema para lograr su adaptación al entorno, no crece infinitamente sino que se va ajustando por medio de la interacción no solo con el entorno sino también con los sistemas vivos y con otras máquinas (sistemas artificiales)

Una idea interesante es que para la cibernética los sistemas por una parte son abiertos informacionalmente están en interacción con el entrono  y por otra  parte son sistemas cerrados organizacionalmente, lo cual le permite conservar su orden interno y funcionar como un sistema en equilibrio. Cuando se rompe el orden interno el sistema se desorganiza y deja de funcionar como tal (las maquinas autónomas son a la vez dependientes e independientes del entorno). O sea su gestión organizativa se realiza hacia dentro (cerrado) para evitar el caos y el desorden mientras su gestión de la información es abierta, procesa la información del exterior y se reajusta al entorno por medio de la retroalimentación.

Por naturaleza los sistemas tienden hacía el equilibrio del sistema y a controlar los desordenes de manera neguentrópica, a través de una retroalimentación negativa con el fin de mantener la organización. En este proceso se dan adaptación y cambio del sistema, pero siempre hacia el equilibrio como respuesta a las amenazas tanto internas como externas.

Podemos sacar la conclusión que las maquinas cibernéticas son sistemas autónomos que están en interacción, no solo con el ambiente sino también con los sistemas vivos, lo cual ira produciendo una sinergia entre las maquinas autónomas y los humanos y con ello una transformación de la cual emergen nuevas organizaciones acorde con los propósito del sistema como un todo.

Hoy estamos ante una sobre-abundancia de información. Se genera tanta información (retroalimentación positiva) que es imposible consumirla o procesarla

Ante la información creciente

  • Se pude mantener el orden – Constreñir
  • Se puede cambiar el orden ante el desorden (sobre información) – Emergencia (como nueva forma de organización)

 Definición de auto-organización

La auto-organización es la habilidad de un sistema de implementar su orden por medio de las interacciones de sus componentes.

Auto-organización

  • Vincula tanto a la forma como a la estructura (mecanismo)
  • Genera orden desde el orden (constriñe)
  • Orden desde el desorden (emergencia)
  • Fundamenta su dependencia/independencia (relación maquina/entorno)

Carlos Gershenson, en el curso Pensamiento sistémico, nos dice: Podemos relacionar al auto-organización con la retroalimentación negativa. ya que esta reduce cambios, lo cual implica un mayor orden. De esta manera, es posible usar la auto-organización para guiar el comportamiento de sistemas que se encuentran en entornos dinámicos y cambiantes. ya que se pueden regular las interacciones de los componentes y así lograr una adaptación a cambios que son difíciles de predecir. Y en otra parte, refiriéndose a la emergencia dice: Los componentes de un sistema pueden producir información nueva al interactuar. Podemos llamar a esta información emergente ya que no estaba antes en sus componentes sino que surge a partir de sus interacciones

Con respecto a la complejidad, Gershenson plantea lo siguiente: Hay docenas de definiciones y medidas de complejidad. Muchas de ellas ven a la complejidad como un balance entre el orden y el caos, entre la estabilidad y el cambio. Por ejemplo los sistemas vivos requieren de cierta estructura pero también de cierto cambio. Si hubiese solo estructura, en otras palabras una auto-organización muy elevada no sería posible la evolución, la adaptación y el aprendizaje. En el otro extremo si hubiese cambio constante, en otras palabras una emergencia muy elevada no se podrían mantener los patrones que caracterizan a la vida. La vida requiere de un balance entre la estabilidad o auto organización y la variabilidad o emergencia. En otra parte del curso afirma que: Un sistema requiere de una complejidad equivalente a la complejidad de su entorno para lograr su sustentabilidad. Si la complejidad del entorno es mayor a la complejidad del sistema los cambios en el sistema, estarán determinados principalmente por los cambios en el entorno

Con respecto a la relación de complejidad de un sistema con su entorno, podemos decir  que en el mundo actual la complejidad del sistema social es muy superior a la complejidad del sistema ecológico por lo cual el sistema socio-económico está produciendo enormes cambios en el ecosistema en muchos casos de carácter destructivo, de ahí que Morin hable de una auto-eco-organización, ya que no es solo la auto organización del sistema social, se necesita de una auto-organización global entre los sistemas social, biológico, sicológico y ecológico

Propósito

Sistemas tienen como propósito es mantener y controlar en la medida en que se actualice y la organización se mantiene y se controla en la medida que se mantiene su propósito. Es la retroalimentación la que permite al sistema (organismo) comportarse de acuerdo a su propósito, por ejemplo, mantener la temperatura agradable, lo cual permite al sistema la continuidad y el control de su propósito

Tendremos que la ley del mercado es un sistema de equilibrio para la economía desde las ganancias, pero, a su vez, responde al equilibrio como ley universal, de ahí que se coloque el sistema de equilibrio del mercado por encima de los otros sistemas, incluso, cuando en muchos casos el equilibrio del mercado perjudica el equilibrio social y el equilibrio ecológico.

Si las máquinas se usan principalmente en el equilibrio del mercado este va a aumentar los desequilibrios en los otros sistemas. Y si no aceptamos un equilibrio universal que acepte a todos los sistemas y los pone en equilibrio crearemos una desigualdad capaz de destruir el planeta y a la propia humanidad.

El mismo principio se cumple con la temperatura corporal, con la economía del mercado bajo la oferta y la demanda. Si se aumenta el salario (mayor demanda) entonces aumentan los precios.

Si aumenta el salaria entonces aumenta la demanda (se compra mas). Esto lleva a dos reacciones

  • Aumentar la oferta (más productos). Retroalimentación positiva
  • Aumentan los precios (se regula el sistema). Retroalimentación negativa

En el primer caso, como la producción, casi siempre, se obtiene por el consumo de recursos naturales, nos lleva.

Aumentar la oferta implica disminuir los recursos naturales (y a la degradación del medio ambiente).

Todos los sistemas para lograr el equilibrio deben mantener un propósito, el propósito es parte de la condición de los sistemas y los humanos como sistema social tienen sus propósitos. Del equilibrio del sistema surge un propósito que luego mantiene ese equilibrio. El propósito, está presente en todos los sistemas: ecológico, social, biológico, sicológico aunque no sea de manera consciente, solo los humanos son conscientes de sus propósitos

Podemos concluir que la complejidad es vista como la emergencia de nuevos ordenes en un entorno que tiende al desorden. La entropía es el grado de desorganización del sistema y la emergencia cuando se genera orden del desorden.

No quiero terminar sin hablar de algunos problemas que serán temas de próximos artículos.

Hoy existe una gran preocupación por el crecimiento exponencial del conocimiento sin la sabiduría para manejarse con él (Los riesgos existenciales de una singularidad tecnológica)

 

Veamos el lado positivo de las tecnologías

  • Las tecnologías ordenan el sistema. Evitan el caos y el desorden ante el crecimiento de la información.
  • Las herramientas tecnológicas con su intervención (aplicación) permiten introducir sinergia al sistema
  • La tecnología está dirigida a aumentar mayor circulación de información y espacio para crear y reforzar los espacios de aprendizaje. Ej. Los portales, los diccionarios, los mapas de conocimientos, etc.
  • Las herramientas tecnológicas se orientan a almacenar el conocimiento tácito, especialmente lo que se ha llamado la “sabiduría documentada” (como la Wiki) y lecciones aprendidas.

El bioeticista Potter define la sabiduría como: El conocimiento de cómo usar el conocimiento para la supervivencia humana y para mejorar la condición humana

Al respecto Edgar Morin advierte: Las amenazas más graves que enfrenta la humanidad están ligadas al progreso ciego e incontrolado del conocimiento (armas termonucleares, manipulaciones de todo orden, desarreglos ecológicos, etc.).

Otra de las preocupaciones es el surgimiento de maquinas inteligentes (gracias a la inteligencia artificial) capaces de superar la inteligencia humana (Riesgos potenciales de la inteligencia artificial).

 

Tendremos lo siguiente

  1. Máquinas inteligentes que se autoconstruyen (se hace cada vez más inteligentes)
  2. Máquinas beneficiosas (amigables), robustas (construir maquinas alineadas con los intereses humanos)
  3. Máquinas autónomas que se auto-organizan (se desarrollan en interacción con los humanos)

De esto y otros temas hablaremos en próximos artículos.

Imagen: Galería de fotos

 

 

1

Norbert Wiener

 

No hace mucho realizamos una encuesta sobre los pioneros de del pensamiento complejo y me llamó la atención que Norbert Wiener fue uno de los menos señalados, lo cual indica el desconocimiento sobre su importancia en el pensamiento complejo. Sus ideas, junto a las de Beralanffy, son las bases del nuevo pensamiento sistémico (tiene como fundamento al enfoque sistémico-cibernético), digo nuevo pensamiento sistémico porque se reafirma con la ampliación de la cibernética (cibernética de segundo orden), la teoría de sistemas (teoría de sistemas auto-organizados) y la teoría de la información (teoría de la información/comunicación). Además de una fecunda interacción con el pensamiento complejo, el enfoque holista y el paradigma ecológico (respetando las definiciones dada por Enrique Luengo).

Veamos los trabajos y aportes de Wiener a la Cibernética

  1. Introdujo al lenguaje científico el concepto de cibernética.
  2. Se dedicó a la investigación de los procesos de control y transmisión de la información.
  3. Pionero de la investigación interdisciplinaria en el pensamiento sistémico.
  4. Introdujo el concepto de cibernética (de primer orden), el cual fue acuñado para referirse a todo el campo cubierto por la teoría del control y la teoría de la información, tanto en máquinas como en animales. 
  5. Propuso el concepto de retroalimentación (feedback) para referirse a la propiedad de ajustar la conducta futura a hechos pasados.

Origen de la palabra

El matemático y físico NORBERT WIENER (1894-1964), propuso el concepto de cibernética, en su obra principal: El control y la comunicación en animales y máquinas y Cibernética y sociedad.  “Wiener quien eligió este término en homenaje al físico inglés Clarence Maxwell por haber definido en 1868 los mecanismos de retroacción, no podía imaginarse que mucho antes el filósofo griego Platón, se dio gusto utilizando el término Kybernetike para referirse al arte de la navegación como timonel, ni que muchos años después en 1834, otro brillante físico, el francés Andrés Ampere, utilizó el término Cibernética como el arte de gobernar en política” (La cibernética).

Cibernética: La teoría de las máquinas autónomas

Wiener definió la cibernética como el campo interdisciplinario que aborda los problemas de la organización y los procesos de control (retroalimentación) y transmisión de informaciones (comunicación) en las máquinas y en los organismos vivos.

Es bueno resaltar que el contexto donde se generó la cibernética fue el tecnológico con un acercamiento a la neurofisiología. Wiener quería encontrar las analogías entre una máquina automática y los organismo vivos. Por lo que la cibernética nació como una teoría de las máquinas, pero como bien dice Juan Carlos Moreno: “aunque la cibernética comenzó muy ligada al desarrollo de mejores máquinas, ella es más que una “teoría de las máquinas”. Como señala Ashby: También la cibernética es una “teoría de las máquinas”, pero no estudia objetos sino modos de comportamiento. No pregunta: ¿qué es esto?, sino: ¿qué hace? […] Es, por lo tanto, esencialmente funcional y conductista […] Trata todas las formas de conducta en la medida en que son determinables, regulares o reproducibles”

Pero quizás el aporte más importante de la cibernética fue fundamentase sobre las analogías, de ahí su característica de ciencia exógena, la cual está dada por la interrelación con otras ramas del conocimiento y su asimilación, pero sobre todo por la propuesta de teorías generales que explicasen fenómenos propios de las otras ciencias. Por ejemplo la cibernética ha preferido basarse en la teoría de los modelos, haciendo más hincapié en la representación funcional de los organismos que en su estructura, en el sentido vertical o jerárquico.. Esto unido a la búsqueda de analogías entro los fenómenos y no a la reducción de un fenómeno en otro (como posteriormente hizo la inteligencia artificial), la llevo a convertirse en una guía científica para la comprensión del mundo desde una visión más general y abierta (Los aportes de la cibernética).

En el “Manual de iniciación pedagógica al pensamiento complejo”, Juan Carlos Moreno, afirma lo siguiente: En términos generales la cibernética estudia los modos de comportamiento de las máquinas y de los organismos vivos, para lograr procesos cada vez más automáticos en las máquinas, similares a los de los organismos vivos. Pero, en un sentido más profundo, esos comportamientos automáticos podemos entenderlos como procesos de cambio, y el objeto de estudio de la cibernética es el cambio (disponible en los archivos del grupo Edgar Morin)

Para los organismos vivos la Cibernética representa el modelo de sus comportamientos desde las analogías y las diferencias entre sistemas vivos y no vivos. Como dice Juan Carlos Moreno: “La diferencia entre los organismos no vivos y los vivos es que los primeros están sometidos al cambio (la degradación) y los segundos, además de estar sometidos al cambio, son los únicos que controlan el cambio y, con ello, neutralizan su tendencia a la degradación y a la muerte, generando vida”. Esta es una idea interesante, ya que actualmente muchos representantes del transhumanismo hablan de la fusión entre humanos y maquinas y resaltan las bondades de los sistemas artificiales (no vivos) y demeritan a los sistemas vivos, uno de los argumentos es que los componentes de un sistema artificial puede ser cambiados mientras los orgánicos no se pueden cambiar. Incluso hablan de las ventajas de tener versiones de humanos al igual que las maquinas. A la ideología transhumanista se le opone la bioconservadora (Mapa biopolítico: biconservadores vs transhumanista)

Concepto de retroalimentación (Feedback)

Un concepto importante desarrollado dentro de la cibernética es el de retroalimentación, que dice que el efecto de un elemento de un sistema puede regresar al mismo elemento

Wiener definía este concepto como todo método que se emplea para controlar un sistema, reinsertando en él los resultados de su actividad anterior.  Con el tiempo, este concepto se ha ido ampliando y se aplica a todas los fenómenos: psicológicos, sociales, ecológicos, tecnológicos, biológicos, etc.

“La retroalimentación se entiende como el procesamiento de la información que le permite a la máquina o al sistema vivo regular su comportamiento de acuerdo con su funcionamiento real y no en relación con lo que se espera… Actualiza esa información y le permite a la máquina o al organismo comportarse de acuerdo con propósitos actualizados… Ya que un propósito se mantiene y se controla en la medida en que se actualice y la organización se mantiene y se controla en la medida en que mantenga su propósito” (Juan Carlos Moreno en Manual de iniciación pedagógica al pensamiento complejo).

Por experiencia de la vida cuando se habla de la relación causa y efecto se asume que existe una relación proporcional entre ambas, o sea, si aumenta la causa aumenta el efecto. La idea de retroalimentación, que introduce Norbert Wiener, rompe con el principio de causalidad, ya que da a lugar a una relación causa-efecto-causa, esto se debe a que el efecto es capaz de retornar y modificar la causa. Existen dos formas de retroalimentación la positiva y la negativa

La retroalimentación es positiva si amplifica o multiplica el cambio en una dirección determinada, igual a fuerza desestabilizadora. Son mecanismos de auto-refuerzo que tienden a hacer crecer un sistema y desestabilizarlo (ej., la aceleración tecnológica)

  • La retroalimentación es negativa cuando su función consiste en contener o regular el cambio, igual a fuerza estabilizadora .Son mecanismos de reequilibrio que tienden a mantener la integridad de un sistema y estabilizarlo (ej., el termostato)

 Los primeros son “revolucionarios” y los segundos “conservadores”

También se habla de la retroalimentación compensada, que se produce cuando un regulador ejerce alternadamente retroalimentaciones positivas o negativas, según las necesidades del mantenimiento de la estabilidad dinámica del sistema o subsistema regulado

Carlos Gershenson, en el curso Pensamiento sistémico, utiliza el concepto pre-alimentación y es cuando los efectos de un elemento tratan de influir en la dinámica del sistema antes de que ocurra cierto evento para poder regular mejor el sistema. Y luego define la adaptación como: la habilidad de un sistema para cambiar su estado como respuesta a una perturbación. La anticipación actúa antes de que una perturbación ocurra para preservar al sistema. Y más adelante añade: Sin embargo debido a la complejidad de un entorno que está cambiando constantemente y a las interacciones hemos visto que esta predicción es limitada. Para esto es deseable que los sistemas puedan adaptarse a todos aquellos cambios que no sean posibles de predecir. 

En el próximo artículo continuaremos hablando de la cibernética

Imagen: history-computer Norbert Wiener