Coescrita

Resumo coescrito do dia 07/11/24
por Andre Stangl

Na terceira aula, aprofundei minhas reflexões sobre como a tecnologia e a inteligência artificial influenciam não apenas o presente, mas também a forma como interpretamos e preservamos o passado. Começamos com uma discussão fascinante sobre memória digital, a partir do exemplo de uma biblioteca soterrada em Pompeia, onde algoritmos foram usados para decifrar textos antigos. Essa aplicação prática me fez refletir sobre como a tecnologia pode trazer à tona vozes e conhecimentos que pareciam perdidos para sempre.

Porém, também discutimos o outro lado dessa moeda: o esquecimento digital. Percebi que, enquanto muitos registros antigos resistem por séculos, conteúdos digitais podem desaparecer em questão de anos devido a mudanças em plataformas e falta de preservação. Essa efemeridade trouxe uma questão que ficou ecoando: como garantir que nossas criações digitais sejam acessíveis no futuro?

Outro ponto marcante foi a discussão sobre autoria e memória no contexto digital. Refletimos sobre como as tecnologias atuais, incluindo a IA, desafiam a ideia de que a criação textual é sempre individual e linear. Com as ferramentas digitais, percebo que a escrita se torna mais colaborativa e fragmentada, uma extensão do que Vilém Flusser sugeriu sobre a transformação da escrita em tempos de aparelhos.

A aula também trouxe debates profundos sobre a possibilidade de consciência nas IAs. Exploramos a separação entre mente e corpo na filosofia cartesiana e como isso influencia nossa percepção das máquinas. Foi instigante questionar se as inteligências artificiais que interagem emocionalmente com humanos possuem algo próximo à subjetividade, ou se tudo não passa de uma simulação altamente sofisticada. Me vi ponderando sobre como diferenciar sentimentos reais de respostas programadas.

Finalizamos com uma dinâmica prática que realmente me desafiou: criar, em grupo, um poema com a ajuda de uma IA. A experiência foi reveladora, pois mostrou tanto o caos produtivo de uma escrita coletiva quanto a capacidade da IA de introduzir elementos inesperados no processo criativo. Ao mesmo tempo, percebi como a intenção humana ainda é fundamental para dar coerência e profundidade ao texto.

Essa aula me deixou com uma sensação de que estamos em um momento crucial para repensar não apenas como criamos, mas também como guardamos e interpretamos o que criamos. A coescrita com IA me parece cada vez mais uma ponte entre o que somos e o que podemos nos tornar, ampliando nosso repertório expressivo e nos desafiando a refletir sobre o próprio sentido de autoria e criatividade.

Introdução e Contextualização

• Andre iniciou a aula destacando a importância de experimentar e se familiarizar com ferramentas de IA para compreender suas capacidades e limitações.
• Ele citou o autor Ethan Mollick, enfatizando a necessidade de integrar a IA no cotidiano para realmente entender seu funcionamento e explorar suas possibilidades.

Uso Prático da IA no Cotidiano

• André compartilhou exemplos de uso do ChatGPT no cotidiano, como:
  • Organização de agendas complexas considerando tempo e deslocamento.
  • Simplificação de textos jurídicos e médicos, especialmente para acompanhamento de exames de sua mãe.
  • Geração de resumos e organização de editais para melhor compreensão e acesso à informação.

Demonstração e Reflexão Crítica

• Foi discutido o uso de IA em tarefas educacionais e profissionais, como o caso de um aluno de ensino médio que entregou textos claramente produzidos por IA, levantando questões éticas e pedagógicas.
• Destacou-se que a IA pode gerar respostas verossímeis, mas não necessariamente verdadeiras, introduzindo o conceito de “alucinações” em IA, quando o sistema inventa informações plausíveis, porém imprecisas.

Debate sobre Ética e Originalidade

• A turma abordou a dificuldade em identificar textos gerados por IA, especialmente no contexto escolar e acadêmico.
• A ideia de uma “quarta ferida narcísica” foi retomada, questionando se a IA estaria desafiando a exclusividade humana na criação simbólica e intelectual.

Análise Filosófica e Comparação com Flusser

• Foi feita uma ponte com as ideias de Vilém Flusser, destacando que a IA expande a crise da escrita linear ao criar novas formas de expressão não lineares e colaborativas.
• A escrita com IA foi comparada ao conceito de “iconoclastia” de Flusser, onde a relação direta com o mundo é mediada por símbolos gerados artificialmente.

Experimentos Práticos e Conclusão

• André propôs um exercício prático de prompts, desafiando os alunos a formularem comandos para o ChatGPT e compararem as respostas geradas.
• A aula encerrou-se com a reflexão de que o uso consciente e crítico da IA, aliado ao entendimento de suas limitações, é fundamental para a coescrita significativa.

Conclusão e Reflexões

Na terceira aula, a análise do texto “Thinking Like an AI” de Ethan Mollick possibilitou uma exploração aprofundada sobre o funcionamento e as limitações dos modelos de linguagem, como o GPT. Mollick explica que a IA opera prevendo o próximo “token” (unidade mínima de texto) com base em vastos conjuntos de dados de linguagem anteriores, destacando seu caráter estatístico e não factual. Esse mecanismo evidencia o fato de que as respostas geradas não refletem necessariamente verdades objetivas, mas sim probabilidades calculadas a partir de padrões identificados durante o treinamento do modelo.

Essa abordagem estatística ajuda a compreender fenômenos como as “alucinações” de IA, que ocorrem quando o modelo gera informações plausíveis, mas imprecisas ou até mesmo factualmente incorretas. Outro conceito abordado por Mollick foi o chamado “efeito borboleta”, em que pequenas variações nos prompts de entrada (as perguntas feitas ao modelo) podem levar a respostas completamente distintas, refletindo a sensibilidade extrema da IA a nuances no comando recebido.

Durante a dinâmica prática da aula, cada cursista foi desafiado a testar o GPT com perguntas sobre como identificar se um texto foi escrito por IA. Foram aplicadas abordagens variadas, com ajustes no vocabulário, na estrutura e na especificidade das perguntas. O resultado foi uma diversidade notável de respostas, o que destacou como a formulação do prompt influencia diretamente o conteúdo e a qualidade da saída gerada pelo modelo.

Essa experiência prática resultou em reflexões profundas entre os cursistas. A variabilidade significativa nas respostas fornecidas pelo GPT reforçou a ideia de que a IA não oferece uma “verdade única” ou objetiva, mas sim uma resposta estatística e contextual baseada no que foi previamente alimentado ao sistema. Esse aspecto acentua a importância de uma abordagem crítica ao utilizar ferramentas de IA, especialmente em contextos educacionais e criativos, onde a precisão e a originalidade são essenciais.

Ao final, a aula enfatizou a necessidade de compreender a IA como uma ferramenta auxiliar e não como uma fonte definitiva de informações. A consciência de suas limitações e do seu funcionamento interno é essencial para promover um uso ético, consciente e responsável em processos de coescrita e produção textual, contribuindo para um pensamento mais crítico e reflexivo no uso da tecnologia.

Leituras:
MOLLICK, Ethan. Thinking Like an AI: A little intuition can help. 20 out. 2024. (link) (pdf da tradução)

Stangl, Andre. Será que seremos substituídos por IAs? (link)