Periodista por un día > Máquinas Superinteligentes – Teoría de la Computabilidad
Máquinas Superinteligentes
Científicos, filósofos y tecnólogos han reavivado la discusión sobre los riesgos potencialmente catastróficos que conlleva una maquina superinteligente.
El concepto de maquina superinteligente se refiere a un artefacto que posee una Inteligencia superior a la de la mente humana más brillante.
Suponiendo que una superinteligencia contendrá un programa que incluye todos los programas que pueden ser ejecutados por una máquina universal de Turing, la teoría de la compatibilidad indica que la contención total de un algoritmo es imposible. En 1965 Arthur C. Clarke escribió un cuento advirtiéndonos que en cuanto las computadoras estuvieran conectadas por teléfono, tomarían el mando de nuestra sociedad. Hoy ejecutamos miles de millones de programas informáticos en máquinas y teléfonos conectados globalmente, no tenemos forma de demostrar que cuando se lanza una aplicación no se desencadenaría una reacción catastrófica. Sin embargo no habría pasado nada
En la actualidad, cuando se menciona IA, se está hablando de algoritmos, de programas, aun no se descubre cómo funciona la inteligencia humana, apenas si se conoce una pequeña parte del funcionamiento del cerebro, por el momento, no se puede decir que un programa podría representar y funcionar como un cerebro humano, simplemente porque no se conoce el funcionamiento del cerebro.
La teoría de la computabilidad se centra en la idea de representar un método, un proceso, e intentar descubrir si ese proceso tiene o no una representación matemática, un algoritmo es una forma de representar la descripción de un proceso. La teoría también define cuáles problemas se pueden computar, cuales no se pueden computar, y cuales son muy difíciles de resolver. Quizás, el problema/teorema de la teoría de la computación que genera más polémica sea «el problema de la parada de un algoritmo». Alan Turing demostró que es indecidible el problema de intentar determinar si un programa se va a detener (En 1936 se presenta su artículo denominado «On Computable Numbers, with an Application to the Entscheidungsproblem«). Basados en este teorema, se podría decir que no se podría tener control total sobre un “superprograma” como lo sería una super IA. Sin embargo, hay que tomar en cuenta que la propia teoría de la computabilidad concluye que hay procesos y problemas que no se pueden representar con un algoritmo, es decir, que no se pueden resolver con computación.
La pregunta adecuada entonces no es: “podemos controlar la IA?, sino ¿podemos representar el funcionamiento del cerebro con la IA?, la respuesta es que no tenemos el conocimiento suficiente sobre el cerebro para determinar si se puede representar con algoritmos.
Fuente:
- Manuel Alfonseca, Manuel Cebrian, Antonio Fernandez Anta, Lorenzo Coviello, Andrés Abeliuk, Iyad Rahwan. Superintelligence Cannot be Contained: Lessons from Computability Theory
- Robots en danza [Video]
