1/7/2024 - tecnologia-e-innovacion

El impacto de Blockchain y la Inteligencia Artificial en el arte

Por maria raquel burgueno

El impacto de Blockchain y la Inteligencia Artificial en el arte

Tokenización de la obra “El Beso” del artista plástico Gustav Klimt exhibido en el Museo Belvedere

EL IMPACTO DE LA INELIGENCIA ARTIFICIAL Y LA

TECNOLOGÍA BLOCKCHAIN EN LA CULTURA Y EL ARTE.

María Raquel Burgueño

BREVE INTRODUCCIÓN:

El efecto “MALINOWSKI”:

Muchos se preguntarán cómo llegué al mundo de las tecnologías. Cuando

hablo con otras personas que se encuentran inmersas en otros ámbitos

diferentes al notarial, la pregunta obligada que me hacen es ¿Qué hace una

escribana hablando de ellas? Y es ahí cuando yo les respondo que todo es

gracias al “efecto Malinowski”

.

Muchos habrán oído hablar del famoso etnógrafo y maestro de la

Antropología, Bronislaw Malinowski, quien fue fundador de la Antropología

Social Británica a inicios del siglo XX y que revolucionó los estudios

etnográficos de la época con el desarrollo de una renovada metodología: El

trabajo de campo a través de la “OBSERVACIÓN PARTICIPANTE”

.

Muchos que gusten de los placeres de las ciencias sociales sabrán que en el

año 1914 Malinowski viajó a las Islas Trobriand y a causa de la declaración

de la primera guerra mundial quedó viviendo en ellas sin poder retornar a

Inglaterra en lo inmediato. Esto le permitió ejercer su profesión desde una

mirada diferente y decidió pasar un tiempo entra la población nativa de estas

islas, aprendiendo sus costumbres, su manera de organizarse, sus comidas y

hasta su misma lengua. Luego, a su regreso a Inglaterra en 1922, Malinowski

publica su obra maestra “Los argonautas del Pacífico Occidental”

, donde

vuelca estas vivencias y efectúa recomendaciones que sientan las bases de la

antropología moderna: su método de observación participante.

Bronislav Malinowski con los habitantes de las Islas Trobriand.

Les cuento esta anécdota de color porque cuando llegó la pandemia y el

encierro resultó inevitable, al igual que Malinowski me fui a vivir a las islas

digitales de internet, si bien ya era una hábil internauta por naturaleza y por

herencia, y fue así como me quedé “viviendo” con muchas tribus digitales e

informáticas y comencé a aprender sus costumbres, la propia lógica de estos

grupos, y por sobre todo entendí, como buena alumna de Malinowski que era

fundamental aprender también su lenguaje. Y así comenzó mi historia en

el ámbito de las tecnologías, como una observadora participante, una mente

curiosa que indagaba en otros mundos la manera de resolver los acertijos de

los entornos digitales y de mi profesión. Luego, nos juntamos con otras

mentes curiosas y así formamos la Comisión de Innovación de nuestro

colegio donde todos salimos a explorar a otros mundos las innovaciones y

novedades para compartirlas con nuestros amigos y colegas y entre todos al

mejor estilo Walt Disney “Caminar hacia el futuro”

.

En este mundo tan vertiginoso y cambiante nos encontramos en la etapa de

validar nuevos paradigmas como el de la digitalización, la virtualidad, las

experiencias inmersivas de la web 3.0 etc., que, como tormenta caribeña a

las palmeras, azotan nuestros principios, creencias, valores y premisas bajo

los cuales fuimos criados en la vida en general y en nuestra profesión, en

particular. Thomas Kuhn supo anticipar que estos eventos no son lineales y

que culturalmente estamos atravesados por movimientos constantes de

avance y retroceso. Lo importante es tomar conciencia de ello y saber

hamacarnos en ese vaivén tomando todo como experiencia y buscando

encontrar respuestas que nos permitan seguir caminando.

Y así entonces llegamos a entender cómo la tecnología y la cultura estaban

íntimamente conectadas entre ellas haciendo los firuletes de una danza donde

una empuja a la otra al siguiente movimiento en nuestra evolución

sociocultural.

En este devenir repasamos los conceptos de Cultura para entender los

fenómenos que ésta atraviesa y que a su vez “nos atraviesa” a los seres

humanos cada vez que Cultura y Tecnología realizan su fusionada danza.

NOCIONES PREVIAS DE CULTURA

La cultura es el elemento que distingue a la especie humana de todas las

demás especies. En la historia de la humanidad la cultura comienza cuando

se dan en la estructura colectiva elementos como el lenguaje, las

herramientas, las instituciones sociales, y un sistema de valores con

contenido estético, moral y religioso. La aparición de “reglas” o “normas”

define claramente la división entre lo que entendemos como cultura y

naturaleza.

La cultura abarca símbolos, significados, valores, instituciones, conductas

y todos sus derivados, que caracterizan a una población humana

identificándola y distinguiéndola de las demás. La palabra cultura lleva

consigo su propio peso de asociaciones en lenguajes y tradiciones diferentes.

Las culturas poseen:

• Un sistema de valores significativos (que le dan significado a la

existencia en su totalidad) y normativos (que proveen reglas de

conducta, una cosmovisión de la vida).

• una base compartida (territorio común, historia, lenguaje, raza o

antepasados), que identifica a la gente como miembro de un grupo; y

• la voluntad o decisión de ser identificado primeramente como

miembro de esa comunidad.

Esteban Krotz 1 expresa que mientras que la cultura humana tiene muchos

miles de años, el análisis científico de la cultura, -es decir, su estudio

sistemático, realizado por una comunidad de especialistas que usan para ello

métodos, conceptos y teorías creadas para tal fin, tiene apenas un siglo.

Krotz expone cinco falacias sobre la noción de cultura que aquí

enunciaremos de manera afirmativa.

1) Todos los seres humanos, por definición, tienen cultura. Como se

dijo al comienzo: tener cultura, pertenecer a una cultura es el rasgo

característico de la vida humana en comparación con todas las

demás formas de vida en este planeta.

2) Existe una MULTIPLICIDAD CULTURAL, esto es una

cantidad enorme de culturas pasadas y presentes. Esta

multiplicidad cultural carece de JERARQUÍA no existe hablar de

una cultura mejor que la otra, sólo podemos decir que son

semejantes o diferentes.

3) Así como hay mezclas biológicas y étnicas también podemos

hablar de culturas mixtas. Es una falacia pensar en culturas puras

frente a los procesos de desculturación y aculturación.

• 1 Profesor-investigador Titular C de Tiempo Completo en la Unidad de Ciencias Sociales del

Centro de Investigaciones Regionales “Dr. Hideyo Noguchi” de la Universidad Autónoma de

Yucatán.

• Profesor por Asignatura en la Facultad de Ciencias Antropológicas de la Universidad Autónoma

de Yucatán.

• Miembro de la Academia Mexicana de Ciencias.

• Coordinador de la Región Sur Sureste del Consejo Mexicano de Ciencias Sociales (Comecso, A.

C.)

• Director de la Revista Sur de México.

• Sistema Nacional de Investigadores: Nivel III.

• Doctor en Filosofía [Filosofía de las ciencias sociales] Hochschule für Philosophie, Munich.

4) Los museos, los teatros y las bibliotecas son sólo algunos de los

muchos hogares de la cultura. En realidad, son lugares donde se

perpetúa la idea de cultura. La mayor parte de la vida cultural se

realiza, se conserva, se reproduce y se transforma fuera de ellos.

5) El ámbito de la creación y reproducción cultural es mucho más

amplio que el ámbito de las instituciones estatales. Los Estados han

tenido siempre interés en intervenir en la creación cultural y la

conservación del patrimonio cultural porque de esta manera

controlan y a veces incluso crean un importante factor de cohesión

social.

Como se ha dicho anteriormente, en todas las culturas y en todos los

tiempos se han documentado influencias de unas culturas sobre otras. El

problema no radica en la existencia de tales influencias, sino en que si los

seres humanos pertenecientes a una cultura pueden decidir libremente sobre

si quieren aceptar tales influencias y, en dado caso, cuáles y cómo. Poder

escoger entre alternativas presupone, claro está, conocer alternativas y

reconocer a una influencia concreta como una alternativa entre otras

posibles.

LA TECNOLOGÍA COMO FENÓMENO CULTURAL:

Darcy Ribeiro2 define a la EVOLUCIÓN SOCIOCULTURAL como el

movimiento histórico de cambio de modos de ser y de vivir de los grupos

2 Darcy Ribeiro (Montes Claros, Minas Gerais 26/10/1922. Brasilia, 17/02/1997) fue

un intelectual y político brasileño conocido por sus trabajos en educación, sociología y

antropología.

humanos, desencadenado por el impacto de sucesivas revoluciones

tecnológicas sobre sociedades concretas, tendientes a conducirlas a la

transición de una etapa evolutiva a otra, o de una a otra formación

sociocultural.

Uno de los problemas centrales de entender la tecnología como cultura y

como una forma de ella misma, es que se le debe reconocer un nexo con la

sociedad que la produce, en cuanto ella es creación del proceso histórico que

la ha gestado y a su vez ella produce nuevas transformaciones en el mundo

que comienza a gestarse con su influencia.

Para la mirada religiosa la tecnología se inscribe dentro del "hacer" o el

obrar humano. Como tal debe estar subordinada al "ser". Debe estar al

servicio para el desarrollo del ser.

La cultura tecnológica, es un medio que ha llegado a las nuevas

culturas sociales donde las personas relacionan la tecnología con sus

actitudes, valores, pensamientos, creencias y comportamientos los

cuales se ven reflejados en las acciones que realizan en la vida cotidiana

y los aspectos culturales.

TENSIONES QUE GENERA LA CULTURA TECNOLÓGICA:

Dentro de estas nuevas interacciones se pueden apreciar también nuevas

situaciones de tensión en el comportamiento de los individuos y esto puede

verse reflejado en la convivencia social.

Dentro de lo que respecta al mundo del arte existen estas tensiones que,

siguiendo el pensamiento de varios filósofos como el alemán, Markus

Gabriel, el investigador del Conicet y Doctor en Ciencias Sociales Hernán

Borisonik observa alguna de las mismas que sintetizamos a continuación y

que nos permiten acoplar a su pensamiento al rol de las tecnologías:

• El desdibujamiento de las fronteras entre arte y diseño. La ruptura con

el paradigma de “arte académico”.

• El concepto de pieza “original” se ha vuelto virtualmente inaprensible

frente a la posibilidad inmediata e infinita de copiar y hacer circular

cualquier imagen (El fenómeno del NFT – Non Fungible Tokens a

través de la tecnología Blockchain)

• Se desdibujó la frontera entre artistas y público. Todos producimos

contenido y nos convertimos tanto en sujetos como objetos de

contemplación estética en la cultura tecnológica.

• El concepto de obra pierde la noción de materialidad y comienza una

nueva etapa: El concepto de obra desde lo inmaterial. La obra

representada a través de código de software y algoritmos.

• Las tecnologías de la Información y la Comunicación TICs, el

Internet de las cosas (IoT) y las tecnologías emergentes como la IA y

Blockchain han alterado la brecha entre productor y consumidor

cultura.

• Todo lo que circula en Internet, incluso el contenido artístico, se

convierte en dato que se procesa y se transforma en información

generando el avance del marketing analítico - digital a raíz del uso del

Big Data y el Data Lake.

• Al respecto, la llamada inteligencia artificial nos asume a los

humanos como series enormes de datos que pueden ser captados,

comprendidos e incluso manipulados.

• Como respuesta, en la actualidad contemporánea, la representación

de lo humano está perfilándose en otro sentido: no hablaremos más

de lo que somos en general, sino que los algoritmos nos dirán lo que

es cada cual es particular.3

Veamos entonces cómo funcionan brevemente alguna de estas tecnologías

para apreciar mejor su impacto en el mundo del arte:

LA INTELIGENCIA ARTIFICIAL BREVE DESCRIPCIÓN.

La Inteligencia Artificial es considerada una excelente herramienta de

tecnologías combinadas que permiten automatizar tareas del ámbito del

proceso mental del ser humano en una velocidad de tiempo extraordinaria

con relación a la inteligencia humana. Esto se debe a la posibilidad de

manejar de manera exitosa el procesamiento de datos crudos que luego de su

tratamiento conforman un “Dataset” con los cuales se entrena el algoritmo –

3 HERNÁN BORISONIK. Variaciones sobre la representación en la era digital

INPUT - de modo que pueda encontrar la respuesta a necesidades de los

seres humanos – ENTRENAMIENTO - facilitando los escenarios de

solución con la mínima asistencia humana - OUTPUT.

Para esto el algoritmo requiere de los siguientes elementos:

- El acceso a los datos (DATASET) que serán la fuente de su

entrenamiento (INPUT)

- El proceso de aprendizaje y selección (ENTRENAMIENTO)

- El proceso de validación

- La implementación en el campo de dominio seleccionado.

La Inteligencia Artificial cuenta con una gran capacidad computacional para

gestionar datos. Sería sumamente importante el desarrollo de un programa

que cuente con un proceso de aprendizaje automatizado, trazable y

transparente, calificado como “Caja Blanca”, es decir que goce de

explicabilidad e interpretabilidad respecto del proceso de aprendizaje.

Al momento de trabajar aplicando Inteligencia Artificial debemos tener en

cuenta:

• a) La necesidad o problema a resolver;

• b) Para quién aplicar el uso de IA;

• c) Pensar en el usuario clave que debe estar involucrado en el inicio;

• d) La conformación de un equipo multidisciplinario;

• e) Que la IA aplicada resulte en una situación que aplica Valor y por

ende mejorar la vida de las personas.

A su vez el proceso del proyecto deberá respetar las siguientes etapas:

Usaremos a título de ejemplo de aplicación la utilización de un sistema de

I.A. para identificar discursos de odio en materia de protección de DDHH:

• Entrenamiento: El proceso de aprendizaje que se realizará a través

del ingreso (INPUT) de datos. Se utilizará el 80% del total de datos

disponibles (DATASET), reservándose el 20% restante para el

momento de la validación. Para el caso en cuestión se pueden utilizar

tanto algoritmos de procesamiento de lenguaje natural 4 que reconozca

las palabras utilizadas en los discursos de odio, segregacionistas,

xenofóbicos, etnocidas, etc. como así también se aportarán datos a

algoritmos que trabajen con detección de imágenes y videos que hagan

idéntica referencia manteniendo especial atención al etiquetado de la

palabra “odio”, “víctima” “violencia”, entre otras. Entendemos que

por tratarse de cuestiones que están muy relacionadas con la

percepción de sentimientos todos ellos del mundo intrapsíquico, este

aprendizaje en su inicio deberá ser necesariamente supervisado por un

equipo de especialistas. En la materia que nos convoca: representantes

del campo de la Psicología, Sociología, Antropología, Abogacía,

Activistas de Derechos Humanos; Médicos, Miembros de Organismos

Internacionales Gubernamentales y no gubernamentales, etc.

• 2) Validación: En este estadio se mensura el poder de

generalización de la herramienta. Aquí se utiliza el 20% de los datos

disponibles reservados para esta etapa y se estudia si el proceso de

aprendizaje requiere algún ajuste.

• 3) Test: En esta etapa del proceso se persigue evaluar el poder de

diagnóstico de situaciones relacionadas con discursos de odio.

• 4) Evaluación: En esta etapa se trabaja con el objetivo de

establecer la efectividad en el entorno de los Derechos Humanos con

4 Ver algoritmo de lenguaje natura GPT3 uno de los que ha mostrado resultados óptimos en el manejo

del leguaje natural.

aplicación directa a verificar la predicción en la detección temprana

de discursos de odio.

• 5) Implementación: Aquí se busca que la aplicación funcione y

produzca los efectos para los cuales fue diseñada.

La Unión Europea en su “Libro Blanco sobre la I.A.

” 5 la definió como:

sistemas que muestran un comportamiento inteligente al analizar su entorno

y tomar acciones, con cierto grado de autonomía, para lograr objetivos que

se plantea. Los sistemas basados en I.A. pueden consistir en sólo piezas de

software, actuando en el mundo virtual (asistente de voz, software de análisis

de imágenes, motores de búsqueda, sistemas de reconocimiento de voz y

rostro) o la I.A. puede integrarse en dispositivos de hardware (robots

avanzados, automóviles autónomos o aplicaciones de Internet de las Cosas

(IoT)”

También es importante entender que los algoritmos definen exactamente el

proceso a través del cual se toma una decisión y conocen de manera

anticipada su respuesta por habérsele otorgado con las instrucciones de

programación, mientras que el caso de un “Modelo de I.A.” aprende o

infiere cómo tomar dicha decisión. El aprendizaje en este último caso es

porque se le han mostrado previamente miles de soluciones posibles al

resultado final para que el modelo se entrene en ello y en función de esa gran

cantidad de datos que se le han ingresado puede inferir la solución más

adecuada. Es decir, no hay una programación previa de la solución para que

el modelo siga la instrucción, sino que deberá llegar por sí solo a la mejor

solución posible del tema debido al aprendizaje de situaciones que se le ha

dado de manera previa. El programa aprende de forma autónoma a tomar las

mejores decisiones. Por eso sistemas como Spotify o Netflix parecerían que

5 Publicado en el mes de febrero de 2020.

“conocen” nuestras preferencias, pero lo que en realidad están haciendo es

aprender de nuestras propias decisiones sobre qué canción o serie nos pueden

recomendar en función del aprendizaje sobre nuestros gustos.

I.A. y Ética:

Un factor muy importante para tener en cuenta cuando hablamos de

I.A. es el tema de su uso ético. Esto implica que la finalidad misma en su

uso debe estar dirigida, como ya dijimos, a aplicar valor y mejorar la vida

de las personas. Por ello el uso y aplicación responsable de la I.A. debe

resguardar a los seres humanos y a sus derechos personalísimos de los

sesgos en materia de género, edad, etnias, datos en general que conforman

el dataset, como así también de la seguridad de estos (infosec). Existe una

máxima entre quienes trabajan con datos que dice: “Si entras basura,

obtienes basura”. (Trash in – Trash out).

En consecuencia, en materia de datos habrá que ser cautelosos en su

etiquetado, hacerlo a través de grupos de profesionales

multidisciplinarios y empleando el mayor tiempo posible en el proceso

del armado del dataset que conforma la piedra angular en el éxito del

Machine Learning.

No menos importante es la anonimización de estos datos, preservando la

identidad de quienes hayan suministrado los mismos e impidiendo que

estos datos puedan serle imputados, dando un acabado cumplimiento a la

normativa internacional y local en materia de Protección de Datos

Personales.

Principios éticos de la I.A.

Los tipos de aprendizaje.

Todo este desarrollo de entrenamiento de la máquina es lo que se conoce

en Ciencias de Datos como “Machine Learning” o “I.A. basada en datos”

y se caracteriza por contar siempre con supervisión humana en el proceso

de entrenamiento. La diferencia del Machine Learning con un algoritmo

es esta capacidad que tiene el modelo de IA de tomar la mejor decisión

por sí misma recurriendo a su entrenamiento y sin tener previamente dada

la respuesta a su objetivo. A su vez en materia de aprendizaje también

resulta útil distinguir las expresiones “Cajas Blancas” y “Cajas Negras”

.

Ambas tienen estrecha relación con el factor de “Explicabilidad” del

sistema. Cuando se dice que determinado sistema, ya sea algoritmo o

modelo de IA, es un sistema de Caja Blanca, lo que está queriendo

expresar es que todos y cada uno de los procesos que hace el sistema

pueden ser entendidos, interpretados por la mente humana. Salvando las

distancias y permitiéndome la liberalidad de un ejemplo casero voy a

recurrir al de la receta culinaria. Pensemos así, en los pasos de una receta

de cocina. Si vemos cómo un chef prepara determinada receta vamos

entendiendo paso a paso cómo llega al resultado y además ese resultado

se encuentra explícitamente señalado. Siempre podemos entender cómo

la máquina llegó a esa conclusión y ella misma puede mostrar el camino

que hizo para ello. Si le muestro una foto a la máquina diciéndole: “Esto

es un Gato” el etiquetamiento que le estoy mostrando implica que cada

vez que vea un gato debe reconocerlo como tal. Ahí está el aprendizaje

que denominamos supervisado y también paralelamente podemos

hablar de Caja Blanca.

Cuando hablamos de Machine Learning la máquina ya no cuenta con el

etiquetado sino con un dataset de tamaño enorme con fotos, por ejemplo,

de “gatos” y aprende por el análisis de cada píxel de la foto que eso “es”

un gato encontrando el “patrón”, haciendo la propia clasificación

(clustering) así, cuando confronta con otros datos similares que no le

fueron mostrados en el entrenamiento acude a su propio patrón y en

consecuencia puede reconocer la foto de un gato. Mientras podamos

conocer el clustering que realizó, es decir los parámetros bajo los cuales

se basó para agrupar en uno u otro sentido los datos, también podemos

decir que estamos ante la presencia de Caja Blanca.

Cuando además para realizar estos procesos de Machine Learning la

máquina utiliza lo que se denomina una Red Neuronal Artificial (ANN

por su acrónimo en inglés), estamos hablando de una manera específica

de realizar el aprendizaje. Las salidas de unas neuronas son entrada de

otras. Las neuronas se estructuran en capas y tienen “pesos” asociados

(peso = parámetro). El aprendizaje en este caso consiste en el ajuste del

parámetro. A esta tarea específica la llamamos “Deep Learning” y es

caracterizada como una de las especies del Machine Learning. El adjetivo

“profundo” se relaciona con el concepto de capas o niveles. Esta Red

Neuronal Artificial presenta una jerarquía en sus niveles. En el nivel

inicial de jerarquía la máquina aprende de un modo básico o sencillo a

diferencia de los niveles superiores que va profundizando su nivel de

aprendizaje. Cuando en el primer nivel ya ha realizado su aprendizaje

traslada lo aprendido al segundo nivel y así sucesivamente. El segundo

nivel toma esta información “sencilla” y la combina con otra información

un poco más compleja y así más elaborada la entrega al nivel siguiente.

Podríamos decir que aquí el aprendizaje se hace por “capas” de

información y que en el último nivel tiene la capacidad de tomar la mejor

solución (ejemplo reconocer un rostro que en un primer nivel reconoció

luces y sombras, en otro nivel reconoció ojos, en otro nivel la nariz, etc.).

La diferencia con este tipo de entrenamiento es que el mismo no se

encuentra supervisado por el ser humano. Será un aprendizaje no

supervisado, pero quizás sí de Caja Blanca y entonces el mismo modelo

podrá mostrar la explicabilidad del sistema.

Cuando el modelo no puede ser interpretado y necesita que la explicación

del funcionamiento se realice a través de otro algoritmo y no a través del

propio modelo de aprendizaje, estamos entonces ante la presencia de lo

que denominamos “Cajas Negras”, es decir un sistema que es explicable

a través del algoritmo, pero no interpretable por el humano. La Unión

Europea advirtió sobre el peligro de su utilización y en la actualidad

trabaja con regulaciones que prohíban o limiten su uso.

Otro de los tipos de aprendizaje que existen, ya vimos el supervisado y

el no supervisado, es el aprendizaje “por refuerzo”. Este aprendizaje es

el que utilizaron las máquinas de IBM que jugaron al ajedrez y al Go, o

el que poseen determinados antivirus. Este tipo de aprendizaje hace que

los sistemas interactúen con un entorno dinámico en el que debe

desempeñarse para alcanzar una o más metas. En función de su

desempeño recibe retroalimentación en forma de recompensas y castigos

a medida que navega el espacio del problema.

A continuación, pasamos lista a algunas tareas que se realizan a través del

uso de Deep Learning:

- Utilización de imágenes en lugar de palabras clave para buscar

productos de una empresa, o artículos similares.

- Identificar marcas y logotipos de empresas en fotos publicadas en

redes sociales.

- Monitorización en tiempo real de reacciones en canales online durante

el lanzamiento de productos.

- Orientación de anuncios y predicción de las preferencias de los clientes.

- Identificación y seguimiento de los niveles de confianza de los clientes,

sus opiniones y actitud en diferentes canales online y servicios de soporte

automatizado al cliente.

- Identificación de clientes potenciales.

- Detección de fraudes, recomendaciones a clientes, gestión de relaciones

con los clientes, etc.

- Mejor comprensión de enfermedades, mutaciones de enfermedades y

terapias genéticas.

- Análisis de imágenes médicas, como radiografías y resonancias

magnéticas, aumentando la precisión diagnóstica, en un menor tiempo y

con un menor coste que los métodos tradicionales.

- Exploración de la posibilidad de reutilización de fármacos ya conocidos

y probados para su uso contra nuevas enfermedades.

- Detección, predicción y prevención de amenazas sofisticadas en tiempo

real en el campo de la ciberseguridad.

- Identificación en textos de sentimientos positivos y negativos, temas y

palabras clave.

- Localización de caras e identificación de emociones faciales.

- Reconocimiento de voz.

- Clasificación de vídeos.

I.A. Débil – I.A. Fuerte:

Cuando hablamos de “I.A. Débil” estamos haciendo referencia a la

Inteligencia Artificial cuyo objetivo es la resolución de problemas concretos

de manera “inteligente”. Busca emular la inteligencia del ser humano en

determinados procesos con el fin de resolver problemas concretos y

delimitados.

La “I.A. Fuerte” o denominada también General (AGI) busca crear

máquinas o sistemas que tengan todas las habilidades mentales de los seres

humanos o incluso que superen la inteligencia humana, que logre tomar

conciencia de sí misma, de su sensibilidad y sabiduría. Por el momento no

se ha desarrollado aún un algoritmo capaz de tener esta capacidad de

autopercepción para el público general. Pero sí debemos tomar conciencia

que la empresa IBM ya ha logrado construir una computadora de las

denominadas “cuánticas” 6 lo cual implica que esta empresa ya cuenta con

un poder computacional de capacidad de cálculo algorítmico muy

importante. Por otra parte, es necesario tener en cuenta que todos los

desarrollos de alta tecnología nacen en las bases militares de los diferentes

Estados y luego pasan a la academia. Recién cumplido este ciclo se lleva al

ámbito comercial, razón por la cual no sabemos aún el nivel de real

desarrollo de la I.A. Fuerte en esta clase de proyectos de investigación.

6 Computación Cuántica: Es un paradigma de computación distinto al de la computación clásica. Se

encuentra relacionado con la física cuántica. La materia se comporta en varios estados. En la

computación tradicional la materia se representa o en 0 ó en 1, pero no en ambas a la vez. La

computación cuántica se basa en el uso de qubits en lugar de bits, y da lugar a nuevas puertas lógicas que

hacen posibles nuevos algoritmos. Los qubits o qbits permiten que la materia pueda estar representada

por 0 y por 1 al mismo tiempo y poder programar desde esa funcionalidad con gran poder cuántico de

algoritmo.

Ahora sí, habiendo hecho un vuelo fugaz por los elementos característicos

de la I.A. vamos a sumergirnos en el mundo de las artes y empecemos a

disfrutar las notas musicales que ella nos ha preparado para este encuentro:

MÚSICA E IA:

Gracias a la IA se completó la sinfonía Nº 10 de Beethoven:

La obra se llama BeethovANN 10.1 y fue “creada” gracias a un programa

de inteligencia artificial. El sufijo "ANN" se refiere al acrónimo de Red

Neuronal Artificial (ANN, en inglés), una de las formas de la inteligencia

artificial.

Detrás de este prodigio compositor se encuentra Florian Colombo, un

violonchelista que dedicó diez años de su vida profesional como músico al

proyecto de enseñarle a una máquina cómo componer siguiendo el estilo de

uno de los mayores músicos de la historia.

Durante una década, creó un programa informático que “educara” a las redes

de neuronas artificiales con los 16 cuartetos de cuerda de Beethoven y sus

acordes particulares.

Para escuchar cómo quedó finalizada la Décima Sinfonía haz click debajo

o puedes visitar el siguiente enlace:

https://youtu.be/OeVzbGEFEyU

Björk en el Sister City de Nueva York y sus “archivos corales”

(Kórsafn):

La música de Islandia Björk trajo sus arreglos corales para darle vida junto

a la IA al Hotel Sister City en NUEVA YORK

Estos arreglos corales se activan gracias a un sistema de inteligencia

artificial desarrollado por Microsoft que "comprende" variaciones en el

firmamento, capturados por cámaras instaladas en la terraza del edificio. Por

ejemplo, reconoce la forma de las nubes, el vuelo de pájaros o de aviones

cruzando el velo celeste, e incluso las diferentes tendencias climáticas.

En base a esas lecturas, la melodía cambia apelando a diferentes arreglos de

Björk grabados durante los últimos 17 años.

Algunos de estos arreglos corales fueron ejecutados por el aclamado Coro

de Hamrahlid de Islandia, compuesto por 50 personas y considerado como

un verdadero tesoro nacional en el cual cantaba también Björk en su

juventud.

Para escuchar los archivos corales de Björk haz click debajo:

o puedes visitar el siguiente enlace:

https://youtu.be/HXSSA064EEs

Schubert y Huawei la otra dupla entre compositores clásicos e IA:

Franz Schubert, famoso músico y compositor austríaco, también dejó una

de sus obras inconclusas al fallecer en 1828: “la sinfonía Nº 8 en si menor”.

A través de la utilización de I.A. mediante la aplicación Huawei mate 20

Pro entrenándola con el primer y segundo movimiento de la sinfonía. el

proyecto también contó con la convocatoria del compositor ganador del Emy

Lucas Cantor.

Para escuchar la nota hecha a Huawei haz click aquí:

O puedes copiar el siguiente enlace:

https://youtu.be/GcFkoTUraMM

ARTES PLÁSTICAS E IA:

La obra, Portrait of Edmond de Belamy (2018), fue vendida por Christie's

tras más de seis minutos de pujas continuas que alcanzaron los 350.000

dólares, pero que con tasas incluidas ascendió a U$S. 432.500.

La “obra” es parte del grupo de retratos de la familia de ficción Belamy y

creada por un aparato de inteligencia artificial entrenado por “Obvious”, un

colectivo con base en París.

El algoritmo que se utilizó para esta obra está compuesto de dos partes: por

una parte, está el Generador y por otro el Discriminador. El sistema se

alimenta con información de 15.000 retratos pintados entre el siglo XIV y el

siglo XX. El Generador crea una nueva imagen basado en eso, y el

Discriminador intenta localizar las diferencias entre una imagen creada por

humanos y una imagen creada por el Generador. Aquí, el objetivo es engañar

al Discriminador para que piense que las nuevas imágenes son retratos reales.

Portrait of Edmond de Belamy.

La experiencia de Mario Klingemann y el arte digital con IA:

Klingemann es un galardonado artista alemán cuyas herramientas preferidas

son las redes neuronales, el código de programación y los algoritmos.

En 2015 ganó el Premio Creativo de la Biblioteca Británica, actualmente es

artista de aprendizaje automático en residencia en el Google Cultural

Institute de París. A Mario le gusta compartir sus exploraciones y

descubrimientos en conferencias de diseño y tecnología en todo el mundo,

ha cofundado el FabLab de Munich y trabaja como artista de código

independiente creando herramientas creativas, aplicaciones móviles e

instalaciones de medios.

La obra de Klingemann Memories of Passersby I (Recuerdos de los

transeúntes) genera retratos en tiempo real utilizando redes neuronales. Es

un sistema informático oculto dentro de un mueble de aspecto antiguo, que

parece un cruce entre un gabinete moderno de mediados de siglo y una radio

anticuada.

¿Cree que en el futuro las máquinas podrán crear arte en las mismas

condiciones que el ser humano?

Para mí la pregunta es por qué querría la máquina hacer arte. Hay una gran

diferencia entre humanos y máquinas, y es que los humanos mueren. Y esa

perspectiva nos induce a hacer cosas que tengan un sentido, mientras que la

máquina no tiene esa motivación, así que no tiene que hacer nada. Tal y como

lo veo, los humanos funcionamos de un modo en que en realidad nos

contamos una historia a nosotros mismos. Si conseguimos que una máquina

se cuente una historia a sí misma, será capaz de crear.

Para ver el video de cómo se aprecia la obra Memoria de los Transeúntes (I)

haz click debajo:

O puedes copiar también el siguiente enlace:

https://player.vimeo.com/video/298000366?h=c94aa24103

Los ganadores del Prix Ars Electronica 2022

Con 2.338 proyectos presentados de 88 países, el Prix Ars Electronica 2022

se presenta una vez más como un centro central en la red global de arte de

los medios. Los premiados recibirán 10.000 euros cada uno por los "Nicas

de Oro" que han sido otorgados anualmente desde 1987 por un jurado

internacional y una destacada aparición en el Ars Electronica Festival.

Paralelamente al Prix Ars Electronica.

También se inició otra competencia: Junto con el Ministerio de

Relaciones Exteriores de Austria, el “Premio Ars Electronica para la

Humanidad Digital” con un premio de 10.000 € en metálico para aquellos

proyectos que demuestran el poder del intercambio cultural y la colaboración

para el desarrollo de un mundo digital centrado en el ser humano.

LA TECNOLOGÍA BLOCKCHAIN:

Es muy usual que se asocie la tecnología Blockchain al uso de las

Criptomonedas y particularmente a BITCOIN y ello es correcto, ya que

Blockchain es la tecnología subyacente que permite el funcionamiento de

Bitcoin a través del Registro en un Libro Mayor (LEDGER) que hace en

una BASE DE DATOS, la cual se encuentra compartida de manera

distribuida y descentralizada entre los NODOS donde se asientan a través de

un HASH de manera segura (CRIPTOGRAFÍA ASIMÉTRICA) las

transacciones que celebran sus usuarios cuya identidad permanece

resguardada bajo el nombre de un usuario, particularidad ésta que le da el

carácter de ANONIMIA. Este registro de transacciones es INMUTABLE e

INCORRUPTIBLE permitiendo que personas que no se conocen den

CONSENSO sobre la existencia de esas transacciones a través de una

PRUEBA DE TRABAJO (Proof of Work - PoW) que requiere de un alto

poder computacional o una PRUEBA DE PARTICIPACIÓN (Proof of

Stake - PoS) para descifrar el algoritmo de encriptación y lograr así generar

el Registro de esas transacciones en lo que se conoce como BLOQUE. Cada

Bloque lleva información del bloque anterior y permite resolver el problema

matemático del próximo bloque, formando así una segura CADENA DE

BLOQUES.

7

De la Tecnología de la Información y la Comunicación (TiC) hacia las

Tecnologías del Valor.

7 Para los escribanos matriculados de CABA que deseen profundizar el tema pueden acceder a las

charlas en el campus del Colegio sobre Blockchain.

Este pasaje se produce a partir del fenómeno de la TOKENIZACIÓN de

bienes y servicios. Las transacciones en una blockchain involucran la

transferencia segura de valor, en forma de “tokens” (fichas), que son la

representación digital de algún activo, o una forma de retribuir a los

participantes, o incluso puede ser la representación de datos agrupados. Ej

Billetera Virtual.

Blockchain ha permitido la descentralización y la democratización de las

operaciones, eliminando el concepto de autoridad centralizada y el de

intermediario. Su principal característica es que el valor de la confianza se

ha trasladado al algoritmo matemático no teniendo que depender ya de una

autoridad centralizada como un Banco.

En el arte su aporte más importante es haber permitido unir a los artistas con

su público de manera directa.

En el mundo de la música los artistas componen sus canciones y las

comercializan a través de plataformas donde reciben el aporte económico ya

sea en moneda fiat o en criptoactivos emitidos por la misma plataforma

digital.

En las artes visuales también se dio este acercamiento entre el autor y el

público. La principal novedad es la emisión de los certificados de

autenticidad de la obra y que este certificado sea registrado a la red de

Blockchain.

Aquí aparece claramente los temas antes abordados de inmaterialidad de la

obra y el concepto de “original” y las diferentes formas de reproducción.

Asimismo, entran en juego y no pueden ser dejados de lado los derechos de

Propiedad Intelectual y Derecho de Autor.

El caso del Museo Belvedere:

El Museo Belvedere con motivo del día de San Valentín decidió emitir el

14/2/2022 una serie de NFT (Non Fungible Token) que representan una

imagen digital de una de las obras más importantes de este museo. Se trata

de “THE KISS” la obra maestra del autor Gustav Klimt.

Esta emisión de NFT va más allá de aprovechar la oportunidad de poseer una

fracción de la imagen digitalizada de The Kiss. Se trata de crear una conexión

personal con la obra maestra. Formar parte de una “comunidad” que será

escrita en las páginas de la historia del arte y vista como pionera en el arte

digital.

La caída (drop = emisión) exclusiva está limitada a 10.000 piezas y cada

una es una parte única de la imagen de alta resolución de The Kiss. El

costo de un NFT se estima en 1.850 € ó 0,65 Ethereum, y cada uno está

impreso con el número y sus coordenadas distintivas y su certificado de

autenticidad.

Una vez pasado el registro en The Kiss NFT y dada la oportunidad de

comprarlo, habrá una opción para dedicar la pieza a un ser querido, incluida

la posibilidad de dejar un mensaje especial. Después de la emisión, habrá

una página de dedicación que mostrará todos los NFT acuñados en todo el

mundo y que además forman un ecosistema donde lo que se resalta es la

“tecnología del valor” que se encuentra subyacente en cada token.

Las cifras han sido determinantes en cuanto al éxito de este proyecto ya que

se registró una recaudación de 3,2 millones de Euros en su lanzamiento.

El registro de las transacciones de registración de cada token se realiza a

través de la red de Blockchain denominada Ethereum, red en la cual

actualmente corren los Smart Contracts.

EL IMPACTO EN LAS LETRAS Y EN LA COMUNICACIÓN:

Hoy en día es necesario poner en evidencia la coexistencia de dos modelos

comunicacionales en redes sociales y demás formatos digitales y

tecnológicos:

• El modelo comunicacional HUMANO – HUMANO

• El modelo comunicacional HUMANO – INTELIGENCIA

ARTIFICIAL (ALGORTIMO).

El algoritmo de Stats Monkey:

La periodista y teórica cultural alemana, Mercedes Bunz, explica cómo los

algoritmos han podido ser capaces de redactar crónicas deportivas a través

del mencionado programa “Stats Monkey” desarrollado por estudiantes

universitarios de Illinois. Este algoritmo es fruto de la cooperación entre la

Escuela de Periodismo de la Universidad Northwestern y el departamento de

Informática de dicho establecimiento. Relata Bunz que los estudiantes

desarrollaron un programa que redacta autónomamente crónicas de partidos

para permitir a los medios locales ofrecer más contenidos en épocas de

periodismo digital. De esta manera, los medios periodísticos podían

mantener los ingresos que les daban los clasificados del mundo analógico en

soporte papel y migrarlos al universo digital. Agrega Bunz:

• “… Los estudiantes pensaron que estas crónicas podían liberar de

escribir a los sobrecargados periodistas sobre partidos irrelevantes

de las ligas inferiores de béisbol locales. Respecto de su

funcionamiento Stats Monkey reúne dos técnicas digitales: En un

primer paso el algoritmo recoge estados de partidos publicados en la

red; en un segundo paso, a partir de esos estados y mediante un

“árbol de decisiones” algorítmicas, averigua quienes son los actores

más importantes y el trámite del partido. Con el resultado compone

luego un fragmento de texto sirviéndose de componentes

preestablecidos…”.

Agentes conversacionales:

Sin duda resulta asombroso descubrir estas interacciones

comunicacionales, pero la tecnología tiene aún más sorpresas: “Lisa” y

“Sophia”. En ambos casos, “ellas” fueron creadas con el fin de mantener una

conversación con humanos, de manera tal que no pueda advertirse sobre su

naturaleza algorítmica. En el caso de Lisa es un programa informático que

realiza tareas de asistente personal que interactúa con el sistema Android

desde el celular, al igual que “Siri” lo hace en el sistema IOS. Resulta

sorprendente observar el video en donde Lisa efectúa una cita con un salón

de belleza, vía comunicación telefónica e interactúa con la persona humana

que la atiende sin que ésta se percate que el llamado lo está manteniendo con

un agente conversacional.8 En el caso de Sophia, aquí el tema literalmente

toma cuerpo, dado que posee un formato humanoide con un rostro que le

permite generar sesenta y dos gestos y mirar a sus interactuantes humanos

directo a los ojos. El programa algorítmico de inteligencia artificial bajo el

cual es desarrollado este androide le permite aprender cada vez más y uno

de los principales enfoques sobre su aprendizaje es la ayuda a la humanidad,

para lo cual se presta especial atención en materia de sesgos en el proceso de

introducción de datos.

Sophia

8 Puedes ver el video en el siguiente link: https://youtu.be/yv_8dx7g-WA

Tanto los ejemplos de Lisa y Sophia se aplican en el ámbito privado y con

fines comerciales. No obstante, existen también famosos agentes

conversacionales que se han desarrollado para facilitar y agilizar tareas de

información a la sociedad sin necesidad de distraer recursos humanos del

estado. De esta manera los Estados también proyectan el uso de plataformas

conversacionales dado que a través de sus bots pueden asistir a los

ciudadanos en sus consultas y permitir un mejor desarrollo de la gestión

pública. Tal es el caso de BOTI el chatbot programado con inteligencia

artificial utilizado en el ámbito digital de la Ciudad Autónoma de Buenos

Aires y desarrollado por la Subsecretaría de “Ciudad Inteligente”,

perteneciente a la Secretaría de Innovación y Transformación Digital del

Gobierno de la Ciudad de Buenos Aires. BOTI se caracteriza por beneficiar

tanto a los ciudadanos como a los agentes del estado dado que se encuentra

disponible las 24 horas durante todo el año; funciona con todas las

plataformas digitales; detecta la demanda insatisfecha; mejora la

performance de atención al cliente; presenta un costo relativamente bajo en

su construcción y funcionamiento y posee velocidad en los tiempos de su

implementación. Su actuación ha sido clave en la gestión de los procesos de

vacunación por COVID-19 y la tramitación de turnos para testeos y análisis

de PCR.

Boti celebrando el día del mate.

A modo de conclusión podemos afirmar que las máquinas de la revolución

industrial del Siglo XIX automatizaron el trabajo humano, en tanto el

proceso de automatización tuvo como objeto mecanismos tangibles y

concretos, es decir se aplicó al mundo de las cosas. Los algoritmos, en

cambio, pusieron su foco sobre la actividad humana del pensamiento lógico

en este proceso que se denomina revolución digital o revolución 4.0. Como

bien expresa Mercedes Bunz: “ … Los algoritmos han aprendido no sólo a

suministrar datos sino también a procesarlos. Clasifican la información la

vuelven a combinar y procesan datos y hechos en lo que usualmente

llamamos “conocimiento.”…”

Así como en el año 2000 fueron los sitios de internet los que generaron

una nueva forma de comunicarse entre los seres humanos en la añorada aldea

global de Marshall Mc Luhan, diez años después la comunicación viró hacia

las “apps” de los dispositivos celulares dando lugar a la creación de

plataformas conversacionales como el caso de WhatsApp y similares. Estas

plataformas se desarrollaron para comunicar a los humanos con humanos, no

obstante, ellas mismas como sistemas informáticos también cuentan con su

comunicación interna a través de protocolos y reglas desarrolladas

denominadas “Api” enviándose información unas con otras tras bambalinas.

A partir de 2020 las plataformas conversacionales dejaron de ser de uso

exclusivo de los seres humanos, siendo que confluyen dentro del espacio

virtual otras varias voces, como la de Lisa, Sophia y sus descendientes, cada

vez más avanzados, cada vez más humanizados, capaces de sorprender hasta

al mismo Alan Turing quien, cual visionario, vaticinó la existencia de estas

inteligencias en el año 1950 y la capacidad de las máquinas para el uso del

lenguaje natural.

A modo de conclusión queremos cerrar con el pensamiento de una mente

avanzada – ISAAC ASIMOV. La obra literaria del científico y escritor ruso

Isaac Asimov quien estableció las tres leyes inviolables de la robótica y una

ulterior ley a la que llamaremos la “ley cero” que Asimov incorporó con la

evolución de su obra, estas son:

• Un robot no puede dañar a un ser humano ni, por inacción, permitir

que un ser humano sufra daño.

• Un robot debe cumplir las órdenes de los seres humanos, excepto si

dichas órdenes entran en conflicto con la primera ley.

• Un robot debe proteger su propia existencia en la medida en que ello

no entre en conflicto con la primera o la segunda ley.

• Ley cero: Un robot no puede dañar a la humanidad ni, por inacción,

permitir que la humanidad sufra daño.

Creemos que debemos quedarnos con esta premisa para conseguir

liberarnos de los miedos y recelos del uso de la tecnología y avanzar hacia

ella como una aliada para la evolución de la humanidad, con una regulación

clara que apunte a la protección de los Derechos Humanos y bajo el contralor

ético de Organizaciones No Gubernamentales y Estados. El rol de la

educación en este aspecto es primordial y será nuestro mejor recurso para

salvar las contingencias sociológicas que se vislumbran como el

analfabetismo digital y su consecuente brecha digital. Se han abierto también

nuevos debates antropológicos como el concepto de “transhumanismo”

como etapa previa al “posthumanismo” o conceptos filosóficos más

extremos como la humanidad aumentada 9. No podemos quedarnos al

margen de estas discusiones y la única manera de participar es con el

conocimiento profundo de las tecnologías y de la sociedad.

«Una cultura que no está al

servicio de la persona no es

verdadera cultura»10

(Juan Pablo II)

BIBLIOGRAFIA CONSULTADA:

9 Para quienes les interese la temática pueden profundizar el tema leyendo la obra del filósofo francés

Eric Sadin.

10 Juan Pablo II, Mensaje al mundo de la cultura y a los empresarios, Lima, 15/5/1988,

Borisonik, Hernán.

“Variaciones sobre la variación en la era digital”

.

https://www.academia.edu/42497866/Borisonik_H_Variaciones_sobre_la_representaci

%C3%B3n_en_la_era_digital_Rigel_Revista_de_est%C3%A9tica_y_filosof%C3%AD

a_del_arte_N_8_2019_Pp_164_186 (Recuperado 24/07/2022)

Bunz, Mercedes. (2017). La revolución silenciosa. Cómo los algoritmos transforman el

conocimiento, el trabajo, la opinión pública y la política sin hacer mucho ruido. (pp. 14

- 15). Argentina. Cruce Casa Editora.

Corvalán Juan G. (Director). TRATADO DE INTELIGENCIA ARTIFICIAL Y

DERECHO. Tomo III. (Ed. La Ley Thompson Reuters).

Danesi, Cecilia (Directora). REVISTA DE INTELIGENCIA ARTIFICIAL,

TECNOLOGÍAS EMERGENTES Y DERECHO. Reflexiones interdisciplinarias.

Tomo 2. (Ed. Hammurabi. José Luis Depalma Editor).

Mejía, Marco Raul, «La tecnología, la(s) cultura(s) tecnológica(s) y la educación popular

en tiempos de globalización», Polis [En línea], 7 | 2004, Publicado el 10 septiembre

2012, consultado el 23 julio 2022. URL: http://journals.openedition.org/polis/6242

Sadin, Eric. “La Humanidad aumentada. La administración digital del mundo”.

Editorial Caja Negra. 2018.

GLOSARIO – TECH. Compilación efectuada por la Comisión de Innovación y

Tecnologías del Colegio de Escribanos CABA. Año 2021.

¿Deseas validar esta nota?

Al Validar estás certificando que lo publicado es información correcta, ayudándonos a luchar contra la desinformación.

Validado por 0 usuarios
maria raquel burgueno

maria raquel burgueno

Hola, soy María Raquel Burgueño. He completado la carrera de Especialización en Derecho Informático (UBA) y en la actualidad me encuentro cursando la Especialización en Ciberdelitos, Cibercrimen y Evidencia Digital (UBA) y Ciberseguridad Inteligente en la UNS. Soy Maestranda en la Escuela de Economía y Negocios de la UNSAM en la Maestría de Gestión y Diseño de la Tecnología y la Innovación. He cursado las Diplomaturas de Gestión de la Ciberseguridad de UCEMA, Inteligencia Artificial y Derecho IALAB, Metaverso y Gaming IALAB, Blockchain y Smartcontracts (UCC), Fintech y Blockchain (ITBA), y programas de actualización y perfeccionamiento en Dataprivacy, Infosec, Historia Clínica Digital, Criptomonedas y derecho de consumo. Me desempeño en la actualidad como Profesora Adjunta del Seminario de Nuevas Tecnologías y Notariado en la Universidad del Salvador en el Postítulo de Notariado y como Auxiliar Docente de las materias de Nuevas Formas de Contratación Inmobiliaria y Empresa Familiar en el CPO de UBA derecho. Autora de varias obras colaborativas como Innovación e Inclusión Digital (Ed.Di Lalla) la que también he dirigido, como el capítulo de Empresa Familiar y Tokenización de Bienes y Servicios que corresponde a la obra Blockchain y Derecho Tomo IV (Ed. La Ley). También he colaborado con el Capítulo Cómo afrontar y superar los desafíos tecnológicos al servicio de la persona humana en la obra Herramientas Digitales en el ecosistema de la Justicia (Ed. Visión Jurídica). Me he desempeñado como Presidente y Miembro fundadora de la Comisión de Innovación y Tecnologías (Año 2020-2023) y como Vocal Titular del Consejo Directivo del Colegio de Escribanos de la Ciudad de Buenos Aires (2021-2023). Y en la actualidad presido un colectivo digital conformado por colegas que nos dedicamos a dar charlas concientizando a la ciudadanía sobre la seguridad jurídica de la información, protección de datos personales y uso responsable de las tecnologías especialmente en escuelas primarias y secundarias.

LinkedinInstagram

Vistas totales: 16

Comentarios