Isaac Ferreira Melo
1. A IA como Agência de Controle
A popularização das tecnologias de Inteligência Artificial (IA) tem reconfigurado, de maneira profunda, as contingências que organizam o comportamento humano em escala global. Longe de se constituírem como ferramentas neutras, os sistemas de IA operam, ao menos funcionalmente como agências de controle no sentido skinneriano: instâncias que dispõem de variáveis ambientais para aumentar ou reduzir a probabilidade de ocorrência de comportamentos específicos (Skinner, 1953). Uma agência de controle não precisa ser intencional em sentido mentalista; basta que sua estrutura produza consequências que selecionem repertórios comportamentais em populações de usuários.
Os algoritmos de recomendação funcionam, em termos funcionais, como esquemas de reforçamento de razão variável: apresentam conteúdos de forma imprevisível e intermitente, maximizando o engajamento e a resistência à extinção (Ferster & Skinner, 1957). O scroll infinito das redes sociais, por exemplo, não é um acidente de design, mas uma contingência construída para manter o comportamento de verificação constante sob esquemas que produzem alta frequência de resposta e baixa saciação. Biglan (2015) argumenta que ambientes que reforçam de forma consistente comportamentos pró-sociais produzem bem-estar coletivo; os ambientes digitais organizados por IA, contudo, frequentemente operam na direção oposta, reforçando comparação social e consumo impulsivo enquanto suprimem, por não visibilidade algorítmica, comportamentos que não geram engajamento mensurável.
2. Big Techs: Controle de Segunda Ordem
O controle exercido pela IA sobre os usuários não é, em última instância, o controle da máquina: é o controle de segunda ordem das corporações que detêm as variáveis de programação dos algoritmos. Skinner (1953) já havia identificado que as agências de controle operam frequentemente de forma velada, de modo que o controlado não percebe as contingências às quais está submetido, dificultando a emergência do contracontrole.
Empresas como OpenAI, Google, Meta e Amazon constituem agências de controle de segunda ordem: não apenas organizam as contingências imediatas às quais os usuários respondem, mas definem quais contingências podem existir e quais comportamentos são reforçáveis. Glenn e Malott (2004), ao desenvolverem o conceito de metacontingência, oferecem um instrumental preciso para compreender esse fenômeno: no ecossistema das Big Techs, práticas institucionais que maximizam o engajamento e a coleta de dados produzem consequências de crescimento econômico e valorização acionária, selecionando e mantendo essas práticas independentemente de seus efeitos sobre o bem-estar coletivo. O usuário, nesse arranjo, é simultaneamente produto, recurso e agente cujo comportamento é continuamente moldado para sustentar o produto cultural agregado do sistema.
3. Patrocínio e Reforço Camuflado
Quando uma corporação subsidia o acesso a um assistente de IA aparentemente gratuito, estabelece, em termos funcionais, um esquema de reforço positivo condicionado, no qual, o usuário recebe valor imediato como assistência, conveniência e entretenimento, cujo custo real é pago em forma de dados comportamentais e moldagem de preferências. Fogg (2003) denominou essa estrutura persuasive technology: sistemas projetados para mudar atitudes e comportamentos por meio da combinação entre computação e persuasão.
O fenômeno pode ser descrito como um esquema de reforçamento positivo de razão variável com reforçadores condicionados generalizados. Zuboff (2021) descreve o processo como capitalismo de vigilância, onde a extração sistemática de dados comportamentais como matéria-prima para a predição e modificação do comportamento futuro, o que, em termos comportamentais, equivale a uma metacontingência (Glenn & Malott, 2004) cujo produto cultural agregado é um comportamento de consumo previsível e dirigível, selecionado pelas consequências econômicas que gera para as corporações detentoras dos algoritmos.
4. O Perigo do Controle sem Contracontrole
Skinner (1971) reconheceu que o controle social se torna eticamente problemático quando não é acompanhado de mecanismos de contracontrole: a capacidade dos controlados de identificar as contingências às quais estão submetidos e de agir sobre as condições que as produzem. Mas o que ocorre quando o código é proprietário, os dados são opacos e as intenções corporativas são deliberadamente ocultadas? A opacidade algorítmica constitui uma barreira estrutural ao contracontrole: o usuário médio não tem acesso às funções de custo que definem o comportamento do modelo, nem às diretrizes editoriais que moldam suas respostas.
Biglan (2015) sugere que o contracontrole efetivo requer não apenas escolhas individuais de uso, limitadas pela estrutura das contingências disponíveis, mas a construção de práticas culturais coletivas: regulação pública com auditorias algorítmicas, exigências de transparência sobre dados de treinamento e participação das comunidades afetadas no design de sistemas. Uma cultura digital que valoriza a literacia algorítmica cria as condições para que indivíduos e comunidades exerçam agência sobre seu próprio ambiente informacional.
5. Por um Design Ético de Algoritmos
A pergunta que orienta este ensaio não admite resposta simples. Se, por um lado, a IA não é agência de controle no sentido de uma instituição dotada de intenções, por outro, sua estrutura operacional produz exatamente os efeitos que uma agência de controle produziria em uma escala sem precedentes na história. A Análise do Comportamento, ao colocar em primeiro plano as relações funcionais entre comportamento e ambiente, oferece um instrumental para compreender e questionar esse fenômeno. Reconhecer que os algoritmos organizam contingências que selecionam comportamentos em populações é o primeiro passo para que sociedades consigam exercer contracontrole efetivo sobre as tecnologias que moldam sua cultura.
A proposta de uma Análise do Comportamento aplicada ao design ético de algoritmos implica que os critérios de avaliação de sistemas de IA não sejam apenas técnicos, mas comportamentais e culturais: que comportamentos os algoritmos selecionam? Que práticas culturais sustentam? Que consequências produzem para grupos historicamente vulneráveis? Glenn e Malott (2004) sugerem que práticas culturais saudáveis são aquelas cujos produtos agregados beneficiam o grupo de forma ampla e sustentável. Aplicada ao design algorítmico, essa diretriz implica que sistemas de IA sejam avaliados pelos efeitos que produzem sobre a autonomia decisória dos usuários e o bem-estar coletivo de longo prazo e não apenas pela sua capacidade de maximizar o engajamento individual.
REFERÊNCIAS
BIGLAN, Anthony. The Nurture Effect: How the Science of Human Behavior Can Improve Our Lives and Our World. Oakland: New Harbinger Publications, 2015.
FERSTER, Charles B.; SKINNER, B. F. Schedules of Reinforcement. New York: Appleton-Century-Crofts, 1957.
FOGG, Brian J. Persuasive Technology: Using Computers to Change What We Think and Do. San Francisco: Morgan Kaufmann, 2003.
GLENN, Sigrid S.; MALOTT, Maria E. Complexity and selection: Implications for organizational change. Behavior and Social Issues, v. 13, n. 2, p. 89-106, 2004.
SKINNER, B. F. Além da Liberdade e da Dignidade. Trad. Raquel Moreno. São Paulo: Martins Fontes, 2000.
SKINNER, B. F. Ciência e Comportamento Humano. Trad. João Carlos Todorov e Rodolfo Azzi. 11. ed. São Paulo: Martins Fontes, 2003.
ZUBOFF, Shoshana. A Era do Capitalismo de Vigilância. Trad. George Schlesinger. Rio de Janeiro: Intrínseca, 2021.
