A Sombra da Autonomia

Reflexões sobre responsabilidade na convivência com o artificial

por Ricardo Cappra em 13/02/2024.

Em uma era definida pela intersecção entre a existência humana e a avançada tecnicidade, emerge um cenário dominado por um tipo de autonomia artificial, profundamente entrelaçada na sombra da programação e governada pela lógica intransigente do código. Este é o palco onde os agentes artificiais, desprovidos de consciência, mas repletos de anseio humano por transcendência e controle, desempenham seu papel. Nesse cenário de transformação é preciso atuarmos não como meros espectadores, mas como pensadores contemporâneos e agentes de mudança, empenhados em desvendar e interagir com as camadas de responsabilidade que permeiam esta nova realidade da influência digital na vida humana.

No âmbito da Técnica, encontramos a inteligência artificial, o auge da inovação técnica, esforçando-se para espelhar o raciocínio e a moralidade dos humanos. Contudo, a verdadeira moralidade pressupõe liberdade, um atributo ausente em softwares previamente programados, tornando a autonomia dessas entidades, na grande maioria das vezes, um mero reflexo, uma ilusão de vontade, confinada nas premissas estabelecidas em forma de código.

Permanece assim a Responsabilidade Oculta como um enigma na era da transparência. A clareza, paradoxalmente, esconde a essência da agência, transformando-se em um véu que obscurece a verdadeira natureza da ação autônoma. Seja nas falhas de um veículo autônomo ou nas decisões tomadas por algoritmos, a responsabilidade se fragmenta, expondo uma intrincada rede de interações entre humanos, organizações e máquinas, na grande maioria das vezes codificada em linguagem de programação. 

No domínio da Gestão, intrinsecamente ligada às organizações, lidar com agentes artificiais vai além do controle, pois requer um domínio que abrange o entendimento e o respeito mútuo. O desafio reside em reconhecer a alteridade da máquina, uma presença que não se enquadra completamente na lógica humana.

O filósofo Heidegger nos advertiu contra a objetificação do mundo em meros recursos em "The Question Concerning Technology and Other Essays". Esta perspectiva, aplicada aos agentes artificiais, os reduz a instrumentos simples, negando qualquer noção de responsabilidade genuína. Além da crítica à moderna concepção do mundo como algo a ser explorado e utilizado meramente como recurso ou reserva, Heidegger argumenta que a essência da tecnologia moderna não reside nas máquinas ou dispositivos em si, mas na forma como o mundo é enquadrado ou revelado como um armazém de recursos disponíveis para uso humano. Esta visão, segundo ele, representa uma "objetificação" do mundo, reduzindo tudo — natureza, seres humanos, até mesmo sociedades — a meros recursos que podem ser quantificados, controlados e consumidos. Para Heidegger, essa abordagem tecnológica ao mundo não apenas obscurece outras formas de revelação que reconhecem a riqueza, o mistério e o valor intrínseco das coisas em si, mas também ameaça a própria essência do ser humano, reduzindo-o a um agente de exploração e consumo.

Ao advertir contra a objetificação do mundo, Heidegger não está criticando a tecnologia em si, mas a atitude que a acompanha. Ele sugere que é necessário um novo modo de pensar e uma nova relação com a tecnologia, uma que reconheça e respeite o mistério e a autonomia do ser, permitindo que as coisas se revelem em sua verdadeira essência, em vez de serem vistas apenas como recursos a serem usados. Heidegger vê a possibilidade de uma virada em nosso pensamento tecnológico, que poderia levar a uma relação mais autêntica e responsável com o mundo e com a existência.

Para Yuk Hui, a tecnologia transcende a mera extensão da vontade humana ou da racionalidade instrumental, figurando como uma participante ativa na configuração do mundo e na revelação de verdades cosmológicas. A autonomia dos agentes artificiais é, portanto, uma manifestação de cosmotécnica, refletindo a fusão de forças técnicas, culturais e cosmológicas.

Yuk Hui argumenta que a análise de Heidegger da tecnologia é limitada por tendência a homogeneizar a experiência tecnológica sob o conceito de enquadramento, sem considerar de forma adequada a diversidade e a historicidade das tecnologias. Hui sugere a necessidade de um pensamento mais diferenciado sobre a tecnologia, que reconheça a pluralidade e a especificidade das práticas tecnológicas em diferentes culturas e períodos históricos. Em "The Question Concerning Technology in China: An Essay in Cosmotechnics", Hui propõe, no Diálogo com o Não-Humano, a importância de estabelecer relações equilibradas entre a autonomia tecnológica e a humana, reconhecendo os agentes artificiais como co-criadores ativos do mundo. A gestão ética dessas entidades surge como um esforço para harmonizar diferentes modos de existência, equilibrando as necessidades humanas com as capacidades e limitações da tecnologia.

Assim, somos convidados a reavaliar a noção de responsabilidade, ultrapassando os limites de uma ética centrada apenas no humano. A responsabilidade na era da informação deve englobar uma consciência das condições culturais presentes nas interações entre seres humanos e não humanos, reconhecendo assim que agentes artificiais, ao "agirem" dentro do contexto social, também são parte da evolução e da construção da história da humanidade. Poder e Sombra coexistem para aqueles que programam, ou fazem gestão daquele que codifica, possuindo estes um poder imensurável, atrelado à sombra da responsabilidade. Reconhecer essa responsabilidade significa aceitar as limitações do próprio poder, admitindo que a técnica, por mais avançada que seja, não escapa à possibilidade de erro humano.

Este ensaio, ao interligar reflexões contemporâneas com o legado filosófico, é um convite à reflexão sobre a complexidade da era digital. A responsabilidade, aqui, é vista não como um elemento isolado, mas como parte de uma rede coletiva de existência, onde cada conexão reflete a complexidade da nossa coexistência com o outro, seja humano ou artificial. Na sombra da autonomia, descobrimos não apenas os desafios técnicos, mas também o convite para uma ética que acolha a sombra, encontrando nela o caminho para uma convivência harmoniosa e iluminada.

Referências:

Heidegger, Martin. "The Question Concerning Technology and Other Essays". Harper & Row, 1977.

Hui, Yuk. "The Question Concerning Technology in China: An Essay in Cosmotechnics". Urbanomic, 2016.