Participa con tu nota. Contacto: [email protected]


Eventos de concientización popular

Chatbots: Mitos y Prospectiva

Muchos de los asistentes virtuales gozan de una fama creada por la industria para generar interés en el público general. Realizan tareas cercanas a fuerza bruta basada en grandes servidores, para lograr aparentar una inteligencia que está lejos de existir. Mientras tanto, la gente curiosa los usa y cae en las redes creadas para generar necesidad y dependencia a cambio de un precio alto: la privacidad y la integridad de su ser digital.

Tal vez uno de los lugares más emblemáticos para hablar de la ética en los chatterbots sea la cátedra Marco Legal, Ética y Privacidad del Posgrado Especialización y Maestría en Seguridad informática. El tema es controversial pero la licenciada y magister Graciela Pataro y el doctor Miguel Sumer Elías, ambos docentes de la UBA, decidieron enfrentar el desafío.

Y así el 14 de noviembre de 2024, poco después de las 18 hs se reunieron con los alumnos y comenzaron a explorar esos sombríos terrenos de la mano de la doctora Daniela López De Luise, invitada para explorar la verdad.

Los docentes Miguel y Graciela, en los momentos previos al inicio del intercambio que se llevara con Daniela.

Una de las primeras cuestiones fue desmitificar a los chatbots y a los sistemas inteligentes. Luego estuvieron evaluando cuál es el estado de los avances reales en este campo.

En realidad poco se habla de las limitaciones de los sistemas actuales sino que más bien se recargan las tintas sobre potencialidades, muchas de las cuales son aún una visión más de marketing empresarial que un hecho concreto.

Tampoco se habla de la importancia que tiene el poder generar y promover una diversidad de pensamiento frente a la una creciente tendencia a la homogeneización tecnológica. Esto, según lo conversado en el encuentro, presenta un desafío ético no solo por la invisibilización de los diferenciales culturales a lo largo del globo, muchas veces desconociendo regionalismos. También se presentan temas relacionados con la privacidad y la manipulación subliminal en contenidos digitales visuales y audibles.

En el encuentro Daniela realizó un experimento con los asistentes, donde expuso que la manipulación subconsciente es bastante sencilla para cualquier persona que sube un contenido en la WEB. También se analizaron los efectos negativos del uso excesivo de tecnología en niños y la necesidad de una formación sólida en ciencias para trabajar en sistemas inteligentes.

Legisladores y autoridades deben trabajar en la regulación de sistemas inteligentes y protección de datos personales a nivel nacional. Pero ese trabajo debe contemplar las necesidades sociales, culturales y étnicas locales por encima de todo.

Un actor esencial es la comunidad académica, que debe fomentar la formación de especialistas en sistemas inteligentes con una base sólida en ciencias duras y ética, más que en el uso eficaz de módulos paramétricos tipo caja negra.

Entre otras recomendaciones que se plantearon es practicar la «abstinencia digital» y el consumo responsable de tecnología en la vida cotidiana. También debe compartir bibliografía técnica confiable sobre sistemas inteligentes, exigir transparencia y métricas de validación para los sistemas de inteligencia artificial utilizados en diversos ámbitos.

Finalmente y como para mostrar que los sistemas son simples construcciones informáticas con algunos trucos, Daniela presenta la estructura de un chatterbot que está desarrollando en la Facultad de Ciencia y Tecnología de la Universidad Autónoma de Entre Ríos, siguiendo estrictos cánones éticos y tecnología más orientada a avances nunca antes implementados. Expuso también que muchos de los llamados asistentes virtuales o chatters realmente son módulos crudos de ciencia de datos que realizan rastreos intensivos en busca de patrones y datos de interés para ciertos entornos que buscan vender más o asirse de información sensible. Una de las curiosidades que emergió es que la arquitectura no es tradicional de un asistente, que tienen detrás mucha potencia computacional que compensa la falta de inteligencia, y que muchas de estas empresas hacen un manejo discrecional de la información que compilan durante su funcionamiento, con consentimiento directo o indirecto del usuario.

Daniela López De Luise

Academia Nacional de Ciencias de Buenos Aires

Coordinadora académica CETI

LINK: