(🇮🇹 ITA) POST-TRUTH 2️⃣0️⃣ Sogno Profondo - (🇪🇸 ESP) POST-TRUTH 2️⃣0️⃣ Sueño Profundo

Racconta la leggenda che l'Esercito degli USA addestrò una AI, Artificial Intelligence, una Intelligenza Artificiale, per processare fotografie e distinguere i carri armati russi camuffati nel bosco.

Posizionarono i carri armati nel bosco, li ricoprirono con foglie e vegetazione varia e scattarono un centinaio di foto. Poi ritirarono i carri armati e scattarono un altro centinaia di foto del bosco vuoto.

Nessuna differenza era percepibile per l'occhio umano, ma loro sapevano quali foto erano quelle con i carri armati e quali no.
Mostrarono le foto a una rete neurale, con una semplice istruzione: cerca la differenza... e bingo!

La AI, che non sapeva niente di guerre, di carri armati e di mimetismo, riuscì a dividere le foto nei due gruppi che i ricercatori si aspettavano, quello con i carri armati e quello senza.
Al ripetere l'esperimento, con un altro congiunto di foto, invece la AI fracassò strepitosamente.

Cos'era successo?

Rivedendo i risultati del primo esperimento si resero conto che il primo centinaio di foto furono scattate con il sole, mentre il cielo era coperto quando scattarono le foto con il bosco vuoto.

La AI aveva imparato a distinguere le condizioni meteorologiche, altro che carri armati!

Nel capitolo 17. Simboli & Connessioni, vi ho parlato dei due principali approcci teorici all' Intelligenza Artificiale, quello simbolista e quello connessionista, e dei livelli di una architettura computazionale. In questo caso l'errore si presentò già nel primo livello, quello semantico: il sistema aveva compreso a modo suo le istruzioni e il risultato atteso.

Possiamo dividere il sapere umano in tre grandi categorie:

• Ciò che sappiamo;
• Ciò che sappiamo di non sapere;
• Ciò che non sappiamo di non sapere.

In questo caso, gli autori dell'esperimento, all'inizio, neanche sapevano di non sapere ciò che la macchina sapeva (o non sapeva)!

In fondo, non si trattava semplicemente di un dibattito su ciò che significa essere intelligenti, ma su ciò che è intelligibile dell'intelligenza.
James Bridle, Nuova era oscura

L'esempio in questione sembra che sia solo didattico, ne circolano diverse versioni, e serve per metterci in guardia sui nostri limiti rispetto a ciò che sappiamo sull'intelligenza artificiale.

Una versione moderna di "Solo so di non sapere niente", del buon vecchio Socrate.

Un' interessante ricerca sulle versioni di questa storia nel tempo ci mostra, tra l'altro, l'effetto telefono senza fili che può provocare internet ed è un buon esempio di ricerca della fonte.

The Neural Net Tank Urban Legend

Come facciamo a capire se l'algoritmo ha capito?
Come elabora le informazioni d'entrata per fornire un'informazione d'uscita come risposta?

I modelli attuali cercano di emulare le connessioni neuronali, richiedendo una notevole quantità di dati e capacità di computo tanto che per un umano è impossibile retrocedere per ricostruire i percorsi del ragionamento della AI.

Come abbiamo visto nel capitolo simboli e connessioni, non ci è ancora ben chiaro cosa sia l'intelligenza e come essa emerga dall'intricata rete neuronale umana.

Le reti neuronali artificiali che processano il linguaggio si basano su una maglia di significato, una mappa multidimensionale che unisce i diversi termini.

C'è una linea che unisce "acqua" a "plastica", ma sarebbe impossibile tracciare su una mappa bidimensionale o tridimensionale le varie dimensioni su cui si estendono i concetti "acqua" e "sole", "plastica" e "verde", "sole" e "estate", e così via, fino a quando la potenza di calcolo ce lo permette.

Quini ci arrendiamo?
Mai.

E se invece d'indicare alla AI che tipo di risultato ci aspettiamo, la lasciamo fare?
Il processo è simile a quando riconosciamo oggetti nelle nuvole e si chiama pareidolia.
Le mostriamo alcune immagini e poi le chiediamo che amplifichi quello che vede.

Si può operare su diverse cappe, ad esempio solo sulle linee, o solo sulla trama, poi utilizzando l'immagine risultante come nuova immagine entrante si può iterare il processo infinite volte.

Deep Dream, Sogno Profondo, fu addestrata inizialmente con immagini di gatti, ma già anteriormente, la AI che classificava immagini, dopo aver visionato milioni di video di YouTube, la prima cosa che imparò a riconoscere furono proprio i gatti.
Non c'è da stupirsi quindi se Deep Dream è ossessionata con gatti, cani e occhi.

Questa è la mia immagine di profilo processata con Deep Dream Generator.
Perché invece io ho uno scorpione sulla mano invece di un adorabile gattino?

L'occhio che fluttua nei cieli di Deep Dream ricorda l'occhio onniveggente della propaganda distopica: l'inconscio di Google, composto dai nostri ricordi e dalle nostre azioni, elaborato attraverso analisi e monitoraggio costanti per ottenere profitti aziendali e conoscenze, spionaggio privato. Deep Dream è una macchina intrinsecamente paranoica perché emerge da un mondo paranoico.
James Bridle, Nuova era oscura

Quelli che mi seguono da tempo sanno che sono una sostenitrice dei modelli collaborativi Open Source e che non sono una gran fan delle Big Tech private come Google, ma in questo caso la distopia non è dovuta alla corporazione o all'algoritmo.

Deep Dream, in fondo, è solo un innocuo generatore d'immagini che ha lo scopo di fornirci informazioni sui processi di machine learning che casualmente ci sta rivelando il grado di paranoia della nostra era, o per lo meno di quella presente su Youtube.

Deep Dream è a nostra immagine e somiglianza. E questo potrebbe essere un problema. Ma se siamo attenti e autocritici, la AI, e non solo Deep Dream, potrebbe rivelarsi utile anche per riconoscere alcuni bias cognitivi che abbiamo.

Ricapitolando:

• Non sappiamo cos'è la mente;
• Non sappiamo come le reti neuronali ci permettono d'imparare;
• Abbiamo creato reti neuronali che pretendono simulare ciò che non sappiamo;
• Non sappiamo come queste reti neuronali imparano, ma sappiamo che imparano da noi.
• Se siamo paranoici, o abbiamo bias cognitivi, la AI sarà a nostra immagine e somiglianza: paranoica e con bias.

Baci & abbracci 😘 🤗

Cuenta la leyenda que el ejército estadounidense entrenó a una AI, Artificial Intelligence, una Inteligencia Artificial, para procesar fotografías y distinguir los tanques rusos camuflados en el bosque.

Colocaron los tanques en el bosque, los cubrieron con diferentes hojas y vegetación y tomaron un centenar de fotos. Luego retiraron los tanques y tomaron otros centenar de fotos del bosque vacío.

Ninguna diferencia era perceptible para el ojo humano, pero sabían qué fotos eran las de los tanques y cuáles no.
Mostraron las fotos a una red neuronal, con una sencilla instrucción: buscar la diferencia... ¡y bingo!

La IA, que no sabía nada de guerras, tanques y camuflaje, consiguió dividir las fotos en los dos grupos que los investigadores esperaban, el que tenía los tanques y el que no.
Sin embargo, al repetir el experimento con otra serie de fotos, la AI fracasó estrepitosamente.

¿Qué pasó?

Al revisar los resultados del primer experimento, se dieron cuenta de que las primeras cien fotos se tomaron con sol, mientras que el cielo estaba nublado cuando se tomaron las fotos con el bosque vacío.
La AI había aprendido a distinguir las condiciones meteorológicas, ¡nada de tanques!

En el capítulo 17. Símbolos y conexiones, hablé de los dos principales enfoques teóricos sobre la Inteligencia Artificial, el simbolista y el conexionista, y de los niveles de una arquitectura computacional. En este caso, el error ya se produjo en el primer nivel, el semántico: el sistema había entendido las instrucciones y el resultado esperado a su manera.

Podemos dividir el conocimiento humano en tres grandes categorías:

• Lo que sabemos;
• Lo que sabemos que no sabemos;
• Lo que no sabemos que no sabemos.

En este caso, los autores del experimento ni siquiera sabían, al principio, que no sabían lo que la máquina sabía (o no sabía).

En el fondo, no se trataba meramente de un debate en torno a lo que significa ser inteligente, sino a lo que es inteligible sobre la inteligencia.
James Bridle, La nueva edad oscura

El ejemplo en cuestión parece ser meramente didáctico, circulan diferentes versiones del mismo, y sirve para alertarnos sobre nuestras limitaciones con respecto a lo que sabemos sobre la inteligencia artificial.

Una versión actualizada de "Solo sé que no sé nada", del bueno de Sócrates.

Una interesante investigación sobre las versiones de esta historia a lo largo del tiempo nos muestra, entre otras cosas, el efecto teléfono sin cables que puede provocar Internet y es un buen ejemplo de investigación de fuentes.

The Neural Net Tank Urban Legend

¿Cómo sabemos si el algoritmo ha entendido?
¿Cómo procesa la información de entrada para proporcionar información de salida como respuesta?

Los modelos actuales tratan de emular las conexiones neuronales, lo que requiere tantos datos y potencia de cálculo que es imposible que un humano pueda retroceder para reconstruir las vías de razonamiento de la IA.

Como hemos visto en el capítulo de símbolos y conexiones, aún no tenemos claro qué es la inteligencia y cómo surge de la intrincada red neuronal humana.

Las redes neuronales artificiales que procesan el lenguaje se basan en una malla de significado, un mapa multidimensional que conecta los diferentes términos.

Hay una línea que conecta el "agua" con el "plástico", pero sería imposible dibujar en un mapa bidimensional o tridimensional las distintas dimensiones sobre las que se mueven los conceptos "agua" y "sol", y "plástico" y "verde", y "sol" y "verano", etc., hasta donde nos permite la potencia de cálculo.

¿Así que nos rendimos?
Nunca.

¿Y si, en lugar de decirle a la AI qué tipo de resultado esperamos, la dejamos hacer a su aire?
El proceso es similar a cuando reconocemos objetos en las nubes y se llama pareidolia.
Le mostramos algunas imágenes y luego le pedimos que amplíe lo que ve.

Se puede operar sobre diferentes capas, por ejemplo, solo las líneas, o solo la textura, y luego usando la imagen resultante como nueva imagen entrante se puede iterar el proceso infinitas veces.

Deep Dream, Sueño Profundo, se entrenó inicialmente con imágenes de gatos, pero ya antes, la AI que clasificaba imágenes, tras ver millones de vídeos de YouTube, lo primero que aprendió a reconocer fueron justo los gatos.
No es de extrañar que Deep Dream esté obsesionada con los gatos, los perros y los ojos.

Esta es mi foto de perfil procesada con el Deep Dream Generator.
¿Por qué tengo un escorpión en la mano en lugar de un adorable gatito?

El ojo que flota en los cielos de Deep Dream recuerda al ojo que todo lo ve de la propaganda distópica: el inconsciente de Google, compuesto por nuestros recuerdos y acciones, procesado a través de un análisis y una monitorización constantes para obtener beneficios corporativos y conocimientos, espionaje privado. Deep Dream es una máquina inherentemente paranoica porque surge de un mundo paranoico.
James Bridle, New Dark Age

Los que me siguen desde hace tiempo saben que soy una defensora de los modelos colaborativos Open Source y que no soy una gran fan de las Big Tech privadas como Google, pero en este caso la distopía no se debe a la corporación o al algoritmo.

Deep Dream, al fin y al cabo, no es más que un inofensivo generador de imágenes que pretende proporcionarnos información sobre los procesos de machine learning y que acaba revelándonos el grado de paranoia de nuestra era, o al menos de la de YouTube.

Deep Dream es a nuestra imagen y semejanza. Y eso podría ser un problema.
Pero si somos cuidadosos y autocríticos, la IA, y no sólo Deep Dream, también podría resultar útil para reconocer algunos de los sesgos cognitivos que tenemos.

Para recapitular:

• No sabemos qué es la mente;
• No sabemos cómo las redes neuronales nos permiten aprender;
• Hemos creado redes neuronales que pretenden simular lo que no conocemos;
• No sabemos cómo aprenden estas redes neuronales, pero sí sabemos que aprenden de nosotros;
• Si somos paranoicos, o tenemos sesgos cognitivos, la AI será a nuestra imagen y semejanza: paranoica y sesgada.

Besos & abrazos 😘 🤗