Herramientas inteligentes: entre el poder y la alucinación digital
Participa con tu nota. Contacto: [email protected]
Tecnologías inteligentes
Herramientas inteligentes: entre el poder y la alucinación digital
Estamos viviendo una verdadera mercadotecnia de información. Las tendencias y modas impuestas por la industria han colocado algunas tecnologías en un podio especial. Si bien es cierto que los asistentes virtuales son herramientas poderosas, también pueden ser peligrosos. También es cierto que son entidades regulables y totalmente manejables. La falta de prevención es la llave de algunos para abrir esa puerta personal que permite la entrada de un invasor digital no tan silencioso. En el camino se mueven millones de dólares. Este artículo es un extracto sumario de la disertación dada el 17 de agosto de 2025 en la Academia…
Para la mayoría de las personas, comunicar es algo así como expresar cierta información. Pero,¿ y si dijéramos que es más que eso, que se trata de un proceso por el cual un emisor envía una señal diseñada para manipular las acciones de un receptor y así ajustar el poder inclusión del emisor? Quien más, quien menos alguna vez algunos nos hemos puesto a pensar qué tan inocente es lo que vemos o leemos en las Redes Sociales. ¿Son seguras? ¿Son neutras?
Es difícil dar precisión de cuán to afectan nuestro pensar, pero hay especialistas en seguridad que están en alerta por lo que van encontrando en los años que ya llevamos de uso extensivo e intensivo de la tecnología. Entre otras cuestiones se ha encontrado que solemos creer, porque se basan en técnicas que las validen según nuestro pensamiento inconsciente. Y la verdad es que aquello que consideramos válido no coincide siquiera con los hechos. Pasa por nuestras creencias.
Es allí donde se pueden meter, en brechas de conocimientos y creencias que aún no han sido completadas: La desinformación se basa en creencias que no convalidan ni inhabilitan (un GAP en nuestro sistema de creencias). Lo que es peor, es que una vez instaladas es muy difícil remover una creencia.
Así el proceso de desinformación es indirectamente un proceso de comunicación con claros tintes intencionales. Pero esto no es algo nuevo, de hecho ya en los años 40 existieron videos que alertaban a los adolescentes del peligro de la desinformación y les daba tips para que no cayeran en engaños.
Hay que considerar que pueden existir procesos de desinformación basados en errores (que todos pueden cometer), pero lo que los especialistas han hallado es una sorprendente combinación de fraude, usos tácticos, procesos de inteligencia militar y hasta intenciones económicas y sociopolíticas.
Existe actualmente una intensiva campaña que se puede ver en las propagandas para aprender a usar estas tecnologías, que prometen soluciones rápidas, sencillas, que venden una seguridad fantasiosa y hasta la felicidad misma. Por otro lado, los sistemas automáticos de las redes sociales generan contenidos claramente adictivos al personalizarse instantáneamente. Generan confianza y desinformación, una combinación muy peligrosa.
(c) Foto basada en trabajo de Dayan Rodio: https://www.pexels.com/es-es/foto/mujer-en-camisa-negra-libro-de-lectura-4132936/
Los contenidos falaces se pueden difundir hasta seis veces más rápido que los normales, y lo peor es que no hace falta herramientas inteligentes: los mismos humanos se encargan de difundir este tipo de mensajes.
En algunos países hasta se han generado sistemas de contralor de contenidos, pero eso también es indicativo de que hay quienes están regulando desde su perspectiva (no socializada) qué información se debe consumir.
Otro de los hallazgos interesantes, por parte de los expertos, es que los usuarios tienen una excesiva dependencia o confianza en contenidos digitales de las RRSS. Eso se debería al uso intensivo y extensivo. Lo mismo sucede con los asistentes virtuales actuales, que se venden como inteligentes, pero no pueden ver la singularidad dentro de los hechos, ya que no tienen conciencia y por lo tanto cometen errores. En consecuencia no producen material totalmente confiable ni malo (está en un estado intermedio), realiza producciones con errores comunes (como cualquier humano) porque tienen limitaciones tecnológicas que las empresas no admiten.
A esto se suma el mito humano de que lo automático es imparcial y exacto. Pero la realidad es que estas tecnologías ya han probado incluso en producir las “alucinaciones digitales”, que no son otra cosa que respuestas plausibles pero equívocas.
En la disertación original, se aportan más elementos y algunos consejos para evitar ser manipulados o desinformados.
En todo caso el primer paso es siempre estar prevenido, desconfiar, tomar acciones por fuera del ámbito de confianza.
En la actualidad las herramientas para defenderse son pocas, y los individuos están siendo sometidos a un increíblemente intenso proceso de lavado de cerebro para adquirir y depender de estas tecnologías. El argumento es sutil pero eficaz: el miedo a quedar desactualizados.
Cuántas veces has recibido hoy una propaganda para usar una tecnología de IA? Cuánta información has consumido hoy? Cuánta de toda esa información validaste completamente?
Daniela López De Luise
Academia Nacional de Ciencias de Buenos Aires
Coordinadora académica CETI
Disertación de la dra. Daniela López De Luise, fecha 17 de Agosto 2025.
Título: Chatter bot o cheatter bots?
Lugar: Academia Nacional de Ciencias de Buenos Aires.