Resumo coescrito do dia 05/12/24
por Andre Stangl
1ª Parte: Discussão Teórica e Reflexões Filosóficas
A primeira parte da aula aprofundou o debate sobre a relação entre modelos de linguagem, contexto e filosofia da linguagem, destacando como a IA reflete e limita certos padrões culturais e interpretativos. A discussão foi conduzida de forma interdisciplinar, conectando conceitos técnicos com abordagens filosóficas e sociais.
Modelos de Linguagem e Contexto:
- Exploramos detalhadamente o funcionamento de modelos de linguagem como transformers e mecanismos de coatenção, explicando como essas arquiteturas processam grandes volumes de texto para interpretar palavras e frases com base em contextos.
- Essa abordagem foi comparada com as ideias de Wittgenstein, especialmente o conceito de que o significado de uma palavra é definido pelo uso social e contextual, e não por uma relação fixa com objetos.
- A reflexão aprofundou-se ao considerar as limitações de IAs ao interpretar expressões regionais, gírias e neologismos, destacando o desafio de representar linguagens culturalmente complexas.
Texto de Gisele Beiguelman: IA como Fármaco
- A aula focou na análise do texto de Gisele Beiguelman, que explora a IA sob o conceito de fármaco, inspirado em Platão e Derrida: ao mesmo tempo remédio e veneno. Artigo completo (link)
- Foi discutido como a IA, ao ser desenvolvida e programada por humanos, carrega viés antropocêntrico e colonial, reproduzindo estruturas de poder e exclusão.
- A metáfora do fármaco também destacou a dualidade da IA: ela amplia a criatividade, mas pode restringir ou distorcer a diversidade cultural, especialmente ao seguir padrões estéticos eurocêntricos.
Exemplo prático: Gisele recriou, usando IA, imagens de plantas tradicionalmente consideradas “daninhas”, desafiando padrões estéticos europeus de jardins e refletindo sobre exclusões simbólicas.
Trecho Fedro de Platão:
Ouvi dizer que em Náucratis, no Egito, existe um deus antigo chamado Thoth, cujo pássaro sagrado é a íbis. Esse deus é conhecido por ter inventado os números, o cálculo, a geometria, a astronomia, os jogos de tabuleiro e de dados e, por último, a escrita. Naquela época, o rei de todo o Egito era Thamus, que vivia na grande cidade de Tebas, no Alto Egito. Os gregos chamavam o deus dessa cidade de Ammon.
Thoth foi até Thamus para mostrar suas invenções, dizendo que elas deveriam ser compartilhadas com o povo egípcio. O rei, então, perguntou qual era o benefício de cada uma. Enquanto Thoth explicava, Thamus elogiava o que achava bom e criticava o que achava ruim. Dizem que o rei fez muitos comentários, tanto positivos quanto negativos, sobre cada invenção, mas quando chegaram à escrita, Thoth afirmou:
“Meu rei, a escrita vai tornar os egípcios mais sábios e melhorar sua memória, porque agora eles terão um remédio para isso.”
Mas Thamus respondeu: “Thoth, você é ótimo em criar coisas, mas nem sempre quem cria é bom em avaliar o impacto do que inventa. Como pai da escrita, você está tão entusiasmado com sua invenção que está exagerando os benefícios dela. Na verdade, a escrita não vai melhorar a memória das pessoas, mas enfraquecê-la. As pessoas vão parar de exercitar a própria memória, porque vão depender da escrita para lembrar das coisas. Em vez de lembrar por conta própria, vão buscar informações fora de si mesmas, em sinais externos.
Ou seja, o que você criou não é um remédio para a memória, mas sim para a lembrança. Além disso, sua invenção vai dar às pessoas uma aparência de sabedoria, mas não a verdadeira. Elas vão aprender muitas coisas superficialmente e achar que sabem muito, mas na prática vão continuar ignorantes. Isso vai torná-las mais difíceis de lidar, porque, em vez de sábias, elas vão se tornar presunçosas.” (tradução e simplificação via gpt)
- Texto de Evgeny Morozov – “The AI We Deserve” (link)
- Introduzimos a crítica de Morozov sobre a origem militar da IA e seu caráter teleológico, projetado para resolver problemas de forma instrumental e eficiente.
- Destacamos a ideia do “homem organizacional” burocrático como modelo subjacente à concepção das primeiras IA, voltadas para replicar sistemas administrativos e operacionais.
Tendências em Agentes de IA e Simulações Virtuais:
- Foram abordados experimentos como o “1000 AI NPCs simulate a Civilization in Minecraft”, onde agentes virtuais criaram estruturas sociais complexas de forma autônoma.
- Esse exemplo gerou reflexões sobre o potencial dessas simulações para narrativas interativas e a criação de mundos ficcionais autogeridos, expandindo as possibilidades para narrativas emergentes e autoria distribuída.
Atividade Prática:
- Testes com DALL-E:
- Utilizamos a ferramenta para gerar imagens a partir de prompts e observamos tendências colonialistas nas representações.
- Analisamos como essas ferramentas reproduzem estereótipos culturais e estruturais embutidos nos conjuntos de dados que as treinam.
Reflexões e Conexões:
Discutimos como a IA, ao replicar estruturas coloniais e administrativas, limita sua capacidade de imaginar formas alternativas e mais inclusivas de inteligência e criação.
A conversa conectou as críticas de Beiguelman e Morozov, ressaltando os desafios éticos e culturais no uso de IA em processos criativos.
Coescrita 
Deixe um comentário