Límites éticos en el desarrollo de herramientas de IA serán tema del Fórum RNP

- 10/08/2023

¿Cómo garantizar que la Inteligencia Artificial (IA) sea desarrollada y usada de forma ética? El dilema que viene movilizando no solamente a la comunidad académica y a las big techs como a buena parte de la sociedad será tratado en la 12ª edición del Fórum RNP, que comienza el 29 de agosto, en Brasilia.

El último día del evento, 31 de agosto, el panel "La importancia del desarrollo y uso de la Inteligencia Artificial de forma ética" va a reunir a Mariza Ferro, professora de Inteligencia Artificial del Instituto de Computación da Universidad Federal Fluminense (UFF); Tatiana Pontes, pedagoga especializada en tecnologías y metodologias innovadoras aplicadas à educación, y Bianca Kremer, profesora de Direito Digital no IDP Brasília. 

Especialista en aplicaciones de IA para sostenibilidad y bienestar social, Mariza pone de relieve varias cuestiones complejas sobre el uso de esa tecnología. Ella apunta, por ejemplo, que las diversas herramientas pueden tornarse tendenciosas y acabar promoviendo preconceptos, toda vez que el entrenamiento es realizado por personas, con valores e ideas particulares.

“¿Qué usamos para entrenar esos algoritmos? Datos que reflejan el comportamento de la sociedad. Si no tomarmos cuidados especiales en la curadoría de esos datos, ellos pçueden propagar o perpetuar sesgos como estereotipos de raza, género, religión, posición política. Entonces, podemos aumentar desigualdades si no se observan principios éticos de justicia y equidad en la curadoría de conjuntos de datos y en la construcción de algoritmos”, explica Mariza.

Imagen
Mariza Ferro, palestrante do Fórum RNP

Para ella, es preciso también aclarar al público lo que las IA pueden o no hacer y llevar el debate sobre esa tecnología para más allá del ambiente técnico, de modo que él llegue a todas las esferas de la sociedad, para que el uso de esas IA se realice de forma crítica.

“Un engaño muy común es imaginar que una IA tenga algún tipo de inteligencia. No la tiene. El propio término es el que crea esa falsa concepción. Lo que existe son grandes modelos matemáticos que no poseen la capacidad de entender contextos o de tener algún tipo de emoción. Otra cuestión es pensar que la inteligencia artificial podrá dominar a la humanidad en poco tiempo. Ella consigue imitar algunos comportamientos inteligentes, pero no tenemos una IA que tenga todas las capacidades humanas, como comunicarse por voz, texto y locomoverse por un ambiente, por ejemplo”, resalta.

Impacto de las IA en las TIC

La Inteligencia Artificial va a permear toda la programación del Fórum. Uno de los paneles va a discutir los impactos de las inteligencias artificiales generativas para el área de Tecnologías de la Información y Comunicación (TIC). 

Imagen
Ilustração IA

Los dos ejemplos más famosos de IA generativa son el ChatGPT, que enfoca textos, y el DALL-Y, que genera imágenes. "La inteligencia artificial generativa puede ser una herramienta de gran utilidad para los gestores de TIC, para automatización de infraestructuras, creación de bloques de códigos de programación, atención de soporte al usuario, entre otras aplicaciones. No obstante, la IA generativa requiere algunos cuidados relacionados a la seguridad de la información y privacidad que también precisan estar al orden del día de las preocupaciones del gestor y que no sustituyen el análisis humano de profesionales de TIC", pondera Yuri Alexandro, encargado del tratamiento de datos personales de la RNP. La IA generativa debe traer cambios en ese ramo del mercado de trabajo, con mayor demanda por profesionales especializados en administración y análisis de datos.

El evento contará también con dos flash talks sobre el tema. Uno de ellos explicará cómo el aprendizaje de máquina (machine learning) puede mejorar la eficiencia y la seguridad de las redes programables. Ya el otro irá a abordar el uso de inteligencia artificial para administrar infraestructuras dentro de universidades. Vea aqui la programación completa del evento.

Fórum irá a discutir aplicaciones emergentes en diferentes áreas

La 12ª edición del Fórum RNP se realizará en Brasília entre el 29 y 31 de agosto. El tema de este año es "Aplicaciones Emergentes en la Educación, Ciencia y Cultura”, tecnologías de gran potencial ya usadas en varios negocios e iniciativas (como en la enseñanza a distancia), pero que pueden evolucionar aun más. La programación será transmitida en línea de forma gratuita. Interesados en seguir el Fórum presencialmente o por internet pueden hacer la inscripción en el sitio del Fórum.

El Fórum objetiva promover debates sobre el uso de esas tecnologías en proyectos innovadores en las diferentes áreas del conocimiento. Además de la inteligencia artificial, otros asuntos que serán abordados en el evento son: el papel de esas aplicaciones en el futuro del planeta, el aspecto filosófico de la tecnología, aplicaciones para el desarrollo de los capitales humano y cultural de las organizaciones, digitalización de la cultura, retos y dificultades de consumir y producir datos de alta calidad y muchos otros. 

12ª edición del Fórum RNP
Fecha: del 29 al 31 de agosto.
Local: Royal Tulip Brasília - Sector SHTN - Trecho 01 Conj 1B. Brasília-DF.
Horário: 8 a 18h.
Inscripciones (presencial y en línea) aquí.