Um convite à imaginação crítica

Este texto apresenta reflexões e debates da disciplina “Sociedade da Informação e Inteligência Artificial, Linguagens e Discursividades”, que ministro na Faculdade de Ciências Aplicadas (FCA) da Unicamp. A disciplina faz parte do meu projeto de pós-doutorado sobre “Inovação Ética na Interseção da IA e Comunicação”.

Recentemente, meu trabalho tem se focado em desenvolver “Espaços de Especulação Crítica“, onde a incerteza sobre o futuro se torna uma ferramenta criativa para desafiar o presente. Para isso, tenho estimulado a criação de “Objetos-para-pensar-com“: artefatos que convidam à exploração de futuros possíveis, aguçando o pensamento crítico e a criatividade.

Tais objetos se materializam na articulação entre:

• Práticas Transformadoras: Inspirados na Estética do Sampling e na cultura do Remix, exploramos técnicas como sampling, remix, mashup, fork e pull. A lógica de “separar e recombinar”, profundamente enraizada na história da arte e da mídia, encontra na Inteligência Artificial Generativa (IAG) uma extensão massiva. Nosso Ethos de Remix Brasileiro, com sua perspectiva antropofágica, nos permite criticar, consumir e transformar influências, gerando expressões próprias e significativas.
• Tecnologias Emergentes: Analisamos as potencialidades, limitações e vieses da Inteligência Artificial Generativa, compreendendo-a não como uma força neutra, mas como um artefato cultural e político que reflete decisões de design e visões de mundo.
• Perspectivas Críticas: Adotamos os Novos Letramentos e os Letramentos de Futuros para questionar as Narrativas de Futuro dominantes, muitas vezes moldadas por fluxos de poder que favorecem o autoritarismo digital, o tecnosolucionismo ou o aceleracionismo. Alertamos para as limitações hermenêuticas e epistemológicas dessas visões (os “Paradigm Blinds” ou Déficit de Imaginação), buscando ser sensíveis à forma como vozes e comunidades diversas são representadas (ou apagadas) nas discussões sobre o futuro.

Minha própria trajetória, acadêmico com com ancestralidade e herança Bóe-Bororo, vivendo em contexto urbano, informa essas escolhas teóricas e poéticas. Compreendo que toda produção de sentido (incluindo a tecnológica), está situada e carrega as marcas de sua origem, de quem a produz e para quem se dirige.

Imaginar futuros alternativos é, portanto, um ato político de reivindicar passados silenciados e presentes subalternizados.

Futuro como Exercício de Design, Não de Adivinhação

É fundamental deslocar a concepção predominante do futuro – muitas vezes atrelada a um determinismo tecnológico – do campo da adivinhação para o campo do design. Como nos lembra o economista David Autor, pensar sobre o futuro não é tentar prever eventos inevitáveis, mas sim projetar e analisar ativamente os arranjos sociotécnicos, éticos e estéticos que queremos construir. As tecnologias, incluindo a IA, não são forças autônomas; são a materialização tangível de decisões humanas, valores culturais, interesses econômicos e disputas políticas.

Compreender a IA como um produto de design implica reconhecer que seus contornos são fruto de escolhas deliberadas sobre como desejamos organizar a vida social, econômica e política. Essa perspectiva é crucial para a construção de Letramentos Críticos em IA, essenciais na formação de cidadãos na era digital.

Esse letramento passa por questionar incessantemente os valores e arquitetônicas/designs dominantes:

• Quem está tomando as decisões fundamentais sobre o desenvolvimento e a implementação dessas tecnologias?
• Quem se beneficia economicamente de suas aplicações e, crucialmente, em detrimento de quem?
• Quem arca com os custos sociais, ambientais e éticos frequentemente invisibilizados?
• Quem é excluído, marginalizado ou prejudicado pela operação desses sistemas projetados com vieses específicos?

Interrogar essas questões é fundamental para desnaturalizar a tecnologia, retirando-a do pedestal de neutralidade ou inevitabilidade técnica, e devolvendo-a ao terreno intrinsecamente humano e relacional: o da política, da ética e da escolha coletiva.

Inteligência Artificial e Narrativas Tecnológicas Dominantes: Vícios e Limitações Epistêmicas

O desenvolvimento da IA é moldado por narrativas poderosas que definem o que ela é e o que ela pode (e deve) ser. Essas narrativas operam como projetos de futuro, influenciando decisões políticas e moldando a percepção pública. Discursos hegemônicos, como o Futurismo Tecno-Facista (com sua glorificação da velocidade e da violência), o Transumanismo do Vale do Silício (que vê a IA como uma divindade redentora – tecnognose), o Aceleracionismo (progresso ilimitado via mercado) e o Tecnopopulismo/Tecnoautoritarismo (busca por liderança geopolítica, segurança nacional e controle sociocultural), embora diversos, compartilham vícios recorrentes.

Essas narrativas contribuem para um cegueira epistemológica, caracterizado por:

• Simplificação Excessiva: Reduz a “Inteligência Artificial” a uma entidade única, monolítica, ignorando sua natureza diversa e fragmentada. Isso impede uma análise crítica granular e situada.
• Déficit de Imaginação: As narrativas são frequentemente capturadas por agendas de poder estabelecidas, restringindo a imaginação sobre o futuro da IA a servir a esses interesses. Isso tende a reificar e aprofundar desigualdades históricas, marginalizando outras visões de mundo e projetos de futuro tecnológico.

Superar esses vícios é essencial para abrir o campo da IA a possibilidades mais plurais, éticas e socialmente responsáveis, reconhecendo a diversidade da tecnologia e amplificando vozes historicamente silenciadas.

A Mediação Tecnológica e o Design Ético da IA na Educação

A IA, como artefato sociotécnico, é fruto de design (arquitetada, desenhada, planejada) e, portanto, inserida no terreno da política e da ética. Inspirados em Peter-Paul Verbeek, compreendo que as tecnologias não são ferramentas neutras; elas moldam ativamente as formas como os seres humanos agem, interagem e interpretam o mundo: co-participam na construção da realidade.

Por exemplo, na educação, a IA não é apenas um instrumento para melhorar métricas ou otimizar processos, ela age como uma entidade co-participante na construção das práticas educacionais, nas trajetórias de aprendizado dos estudantes e nos processos de construção de significados. Sistemas de IA que recomendam conteúdos, automatizam avaliações ou geram materiais didáticos reconfiguram nossa percepção sobre o próprio processo formativo.

Isso impõe uma responsabilidade ética adicional a designers, gestores e educadores. É imperativo antecipar como essas tecnologias irão mediar as ações, percepções e valores humanos. No contexto educacional, por exemplo, isso significa realizar uma avaliação moral contínua dos impactos envolvidos na mediação do que é ensinado, de como se aprende e de quem define o que é sucesso educacional.

Nesse sentido, uma abordagem Especulativa Crítica sugere um processo cíclico:

1. Antecipar as Mediações: Prever rigorosamente como a tecnologia irá interagir com os usuários e as possíveis implicações morais, sociais e pedagógicas.
2. Avaliar as Mediações: Realizar uma avaliação moral sistemática, considerando métodos de persuasão, influência tecnológica e os efeitos (previstos e imprevistos) gerados.
3. Redesenhar e Iterar: Estar preparado para revisar e redesenhar a tecnologia e as práticas caso as avaliações revelem mediações problemáticas.

A implementação ética e eficaz da IA deve ser um processo colaborativo, onde tecnologias e seres humanos co-criam práticas e experiências. Isso exige uma abordagem tecnodemocrática, fundamentada em princípios como:

• Transparência: Informar todas as partes interessadas sobre as tecnologias, mecanismos, dados coletados e processos de decisão da IA.
• Participação: Envolver ativamente todos implicados na produção, implementação, uso e no ciclo de vida da IA.
• Responsabilidade e Prestação de Contas: Garantir que as decisões críticas permaneçam sob controle humano informado, com mecanismos de auditoria e feedback.
• Equidade e Inclusão: Assegurar acesso igualitário e mitigar vieses e desigualdades, com avaliações de impacto rigorosas.
• Educação Crítica: Integrar a compreensão crítica das tecnologias de IA e seus impactos nos diferentes domínios.

Protocolos Indígenas e Inteligência Artificial

Em contraposição às narrativas hegemônicas, o movimento “Indigenous Protocols and Artificial Intelligence” (Protocolos Indígenas e Inteligência Artificial), iniciado formalmente por volta de 2019-2020, representa um marco ético fundamental. Articulado por um grupo de trabalho internacional de acadêmicos, artistas e lideranças indígenas, ele propõe um deslocamento radical nos debates sobre IA, trazendo as perspectivas e preocupações dos povos originários para o primeiro plano.

Os princípios articulados por este movimento desafiam as premissas dominantes:

• Soberania e Autodeterminação: Respeitar as jurisdições próprias, cosmovisões e direitos inalienáveis dos povos indígenas sobre a coleta, uso, acesso e posse de dados que lhes pertencem, conforme a Declaração das Nações Unidas sobre os Direitos dos Povos Indígenas (UNDRIP). Isso implica controlar como seus conhecimentos, territórios e identidades são representados em sistemas de dados.
• Reciprocidade e Cuidado: As tecnologias são vistas como entidades com as quais se estabelecem relações de cuidado, respeito e responsabilidade mútua, contrastando com a abordagem extrativista e instrumental predominante.
• Descolonização Digital: Recusa explícita à extração de conhecimentos tradicionais e dados comunitários sem consentimento livre, prévio e informado, e sem mecanismos de reparação e benefício coletivo, combatendo o que tem sido chamado de “colonialismo de dados”.
• Diversidade Epistêmica: Reconhecimento de que não existe uma perspectiva indígena única e homogênea, mas um pluriverso de protocolos, linhagens de conhecimento, cosmologias e práticas específicas de cada povo.

Esses protocolos oferecem um arcabouço ético robusto e alternativo para pensar, projetar e governar a IA, ancorado em relações, responsabilidades e respeito pela pluralidade de saberes.

Dos Algoritmos aos Algorhythms

A pesquisadora Michelle Lee Brown, ativa nos workshops do Indigenous AI Working Group, cunhou o neologismo algorhythms. Esse termo busca marcar uma diferença fundamental de cadência entre os algoritmos convencionais e aqueles que poderiam ser concebidos a partir de outras matrizes culturais.

Os algorhythms se caracterizariam por:

• Reenraizamento: Ancorar as operações digitais em diferentes ritmos e cronotópos, incluíndo tempos específicos da vida comunitária, nos ciclos da natureza e nas temporalidades locais.
• Integração Físico-Digital: Operar nas fronteiras entre o mundo físico e o digital sem romper os laços de parentesco, as relações com o território e vivências ancestrais.
• Nomeação e Pertencimento: Nomear e implicar-se às histórias e linhagens que conectem a contextos culturais específicos, atribuindo-lhes obrigações e responsabilidades locais.
• Convivialidade: Convidar a uma relação de “fazer de parentesco com as máquinas” (making kin with the machine), explorando formas de convivência e colaboração.

O conceito de algorhythms nos desafia a imaginar e construir tecnologias que ressoem com valores de cuidado, relacionalidade e respeito pela diversidade de mundos.

A Partir Daqui

Diante desse cenário e das possibilidades abertas pelos Protocolos Indígenas e pela ideia de algorhythms, meu projeto atual, desenvolvido na FCA-Unicamp, busca traduzir reflexões com essas em ações concretas:

• Prática Pedagógica: Desafiar os estudantes a prototiparem seus próprios algorhythms, inspirados em protocolos indígenas, focando em utilidade comunitária, transparência de dados e avaliação de impactos (ambientais e sociais).
• Pesquisa-Ação: Mapear e analisar casos concretos de soberania de dados indígenas em sistemas de IA e investigar como universidades podem adotar políticas e licenças de dados alinhadas aos CARE Principles for Indigenous Data Governance (Collective benefit, Authority to control, Responsibility, Ethics).
• Obra-para-pensar-com: Utilizar a IA generativa para imaginare explorar futuros alternativos

Futuros de Muitos Fios

Os Protocolos Indígenas para IA e a noção de algorhythms oferecem muito mais do que uma simples crítica; eles representam uma ampliação radical do nosso horizonte de possibilidades. Ao fazê-lo, rejeitam o fatalismo tecnológico e abrem caminhos para futuros tecno-diversos, plurais, ancorados em princípios relacionais como o cuidado mútuo, a responsabilidade ética e uma imaginação coletiva que celebra a pluralidade de saberes, existências e cosmologias.

Projetar futuros é, em sua essência, um ato de linguagem que nunca é neutro, carregando as marcas de quem fala, para quem fala, a partir de qual lugar social e histórico, e com quais intenções e valores. Que nossos próximos passos, na pesquisa acadêmica, na prática pedagógica ou no desenvolvimento de tecnologias, possam fazer jus à imensa complexidade e à vibrante pluralidade de mundos que coexistem e resistem às monoculturas tecnológicas e epistêmicas. O convite é para tecermos futuros com muitos fios, muitas vozes, muitas cores e muitos ritmos.

---

Recursos e Convite à Conversa

Para Aprofundar:

• Position Paper on Indigenous Protocol and Artificial Intelligence: Leia o documento fundamental que detalha as discussões e diretrizes iniciais do grupo: https://www.indigenous-ai.net/position-paper/
• CARE Principles for Indigenous Data Governance: Conheça os princípios para governança de dados indígenas desenvolvidos pela Global Indigenous Data Alliance (GIDA): https://www.gida-global.org/care
• Tecnologia sem protocolo é colonização digital: o caso do Duolingo indígena como exemplo de risco aos povos originários: Artigo de Anápuàka Tupinambá Hãhãhãe que aprofunda a discussão sobre os riscos da tecnologia sem a devida consulta e protocolo junto aos povos originários: https://radioyande.com/tecnologia-sem-protocolo-e-colonizacao-digital-o-caso-do-duolingo-indigena-como-exemplo-de-risco-aos-povos-originarios/

Convite ao Diálogo: Este post é um ponto de partida para uma conversa mais ampla que passarei a publicar com mais frequência neste espaço remixdumoura.com

Em breve…

Irei abrir três grupos (Espaços de Especulação Crítica) com a finalidade de construirmos Objetos-para-pensar-com

1. IA e metáforas de educação: grupo de estudos focado na interseção entre Inteligência Artificial e Educação. Nosso objetivo principal é promover discussões aprofundadas e colaborativas sobre as concepções e metáforas de educação e aprendizado presentes nos modelos de IA, com um olhar particular sobre as técnicas de Aprendizado por Reforço (RL).
2. Espírito NanoGPT: Inspirado na filosofia do NanoGPT de desmistificar tecnologias complexas, propomos um grupo de estudo focado em dissecar e reconstruir os elementos essenciais dos modelos GPT. Nosso princípio fundamental será a simplicidade, não como uma limitação, mas como a principal ferramenta para um aprendizado colaborativo e profundo. Em vez de apenas utilizar bibliotecas de alto nível, nosso objetivo será mergulhar no código-fonte, adaptá-lo e remixar o GPT. O grupo irá operar com um número reduzido de membros comprometidos, garantindo a participação ativa e a troca de conhecimento. Desta forma, o código se torna nossa base de estudo, um ponto de partida para experimentações e projetos mais ambiciosos, refletindo o ethos do NanoGPT de ser uma ferramenta poderosa e um catalisador para a inovação.
3. IA para Games: Design, Crítica e Prototipagem: E se um jogo fosse o próprio ambiente para desmontar e reinventar a IA? Este grupo é um convite para irmos além da simples aplicação de modelos prontos, focando em projetar sistemas lúdicos que funcionem como laboratórios criativos. Nosso objetivo é construir jogos que não apenas contenham IA, mas que nos permitam interagir com seus componentes fundamentais, reconstruindo-os de forma intencional. Ao transformar a própria arquitetura da IA em um elemento de design, abrimos espaço para interrogar suas lógicas internas, subverter seus padrões e prototipar novas formas de agência e comportamento, transformando o desenvolvimento de games em uma poderosa prática de pesquisa e expressão crítica.

---

Se você se interessa por como a IA impacta a sociedade e deseja contribuir para um debate que promova uma tecnologia mais justa e inclusiva, junte-se aos nossos Espaços

Apoie essa idéia