Eu sempre fui um grande crítico das Gen AI (ou IAs generativas, como tradução corrente) por seu absurdo e injustificável impacto ambiental, alto custo e baixa funcionalidade, e pelo uso neoliberal feito por diversas empresas para redução de custos em troca de um aumento na produtividade que não se prova real, causando uma reação em cadeia típica do capitalismo tardio que afeta áreas diferentes de formas distintas, mas que em geral intensifica o acúmulo de renda e os sofrimentos gerados pelo e no ambiente de trabalho. Para este texto, vou (tentar) me ater ao que tange à psicologia.
É importante ressaltar que nenhum artigo citado aqui foi revisado por pares até o momento da elaboração deste texto. As publicações foram feitas dessa forma por considerarem a validade da discussão sobre os resultados frente ao momento político e científico enfrentado pela comunidade mundial. Ainda assim, os resultados parecem indicar um viés já previsto anteriormente em várias frentes, como medicina, linguística e psicologia.
A referência principal do texto é o artigo “Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task”, publicado no início de junho por um conjunto de pesquisadoras do MIT. O artigo explica extensamente os critérios de avaliação, testes realizados e imagens neurais utilizadas para metrificação dos resultados e, de forma simplificada, 54 participantes foram divididos em três grupos de 18 para escreverem textos sobre temas escolhidos por eles (entre algumas opções), em três momentos distintos. Os grupos foram: um de uso exclusivo de LLM (Large Language Model, um modelo de treino de linguagem para inteligências artificiais), no caso utilizado apenas o ChatGPT, um de uso exclusivo de mecanismos de busca, e um sem quaisquer ferramentas para a construção do texto ou pesquisa de referências. Após essa fase, 18 participantes do primeiro e terceiro grupos (os que só usaram os ChatGPT e os que não usaram nenhuma ferramenta) refizeram o experimento, só que trocando o grupo para o qual haviam participado anteriormente, ou seja, quem usou o ChatGPT nos três textos anteriores teriam que fazer um novo por conta própria, e quem fez os textos sem auxílio ganhou acesso à ferramenta para esta última etapa. No total, a pesquisa durou quatro meses.
Os resultados da pesquisa apontam uma redução gradual do uso de conexões cerebrais, acesso de dados da memória e elaboração dos conteúdos dos textos, sendo a ordem sem ferramentas > mecanismos de busca > ChatGPT. O último grupo teve um uso de conexões neurais 55% menor do que o que criou o texto apenas com os próprios conhecimentos e criatividade. O grupo que utilizou o chatbot nas três primeiras iterações também demonstrou uma gradual perda de eficiência cognitiva na elaboração da tarefa, com menos respostas visuais e de atenção, o que é algo visível e facilmente demonstrável quando pensamos no uso de corretor automático em quaisquer aplicativos de texto utilizados em tablets e celulares. A redução da atenção ao que está sendo escrito e o aumento de erros, mesmo com mecanismos de aprendizado das ferramentas sendo atualizados com frequência aumentam ao longo do tempo e provocam uma impressão de redução da capacidade de leitura durante a escrita, gerando textos mais truncados e menos compreensíveis, com mais erros de ortografia e concordância. Os textos resultantes das elaborações feitas com Gen AI mostram menos variabilidade entre conteúdo e abordagem do assunto, parecendo obedecer uma tendência dos mecanismos de pesquisa que essas ferramentas utilizam para obter os dados, demonstrando um viés que impacta nos usuários dessas ferramentas, que tem menos exposição a linhas de pensamento diferentes e, consequentemente, tem menos possibilidades de elaborar um pensamento crítico através de informações que dialoguem de formas diferentes.
Entre as duas primeiras atividades há um incremento perceptível dos resultados obtidos pelo grupo de LLM, em parte devido a um aprendizado do uso da ferramenta, permitindo um aprofundamento maior das perguntas, que mostrou a maior variação até o final do estudo, sendo o grupo que menos obteve resultados em atividade neural, amplitude linguística e de memória, e menores resultados nas avaliações das produções textuais, realizadas por professores convidados para participar da avaliação no estudo. De forma irônica, a IA criada exclusivamente para a avaliação dos textos nesta pesquisa não identificou formatos e vieses de escrita nas produções, seja pelo uso das ferramentas, seja pelo estilo de escrita dos participantes, algo que os professores identificaram com facilidade, mesmo sem terem nenhuma informação sobre os participantes ou a qual grupo eles pertenciam quando da correção dos textos.
Um dado simbólico desta pesquisa, que foi focada nos aspectos de aprendizagem, é que a diferença de comportamento exibido pelos três grupos da avaliação de citação dos próprios textos teve uma variação muito grande. No primeiro texto produzido, o grupo que utilizou o ChatGPT evidenciou uma dificuldade ou incapacidade de se lembrar do que foi escrito em 83% dos casos, 15 dos 18 participantes. No terceiro, um terço ainda apresentava a mesma dificuldade, o que é um indicativo de que a forma de uso da ferramenta tem impacto significativo nos resultados mas, além disso, que o uso sem critério dessas ferramentas, como propagado pelas empresas que vendem os produtos, tem impactos óbvios de curto prazo e potencialmente danosos a longo prazo. Um traço característico desse grupo foi a dificuldade de sinalização sobre autoria dos próprios textos, e os motivos não ficam claros, mas aqui cito a falta de leitura dos conteúdos produzidos, a falta de apropriação do conteúdo do texto e a dificuldade de reconhecimento da autoria de fato, dado que a ferramenta gera atividades prontas, como possíveis explicações.
Além dos resultados quantitativos, a pesquisa aponta que o uso de ferramentas digitais pode contribuir com o rendimento produtivo de tarefas, porém o uso contínuo dessas mesmas ferramentas gera algum nível de inibição de atividade cerebral, leia-se processamento cognitivo, uso de memória e capacidade de absorção e interação com o conteúdo que está sendo apresentado. Isso indica uma dificuldade de entrar em contato com os conteúdos que estão sendo apresentados pelas ferramentas. Assim como no exemplo dos teclados virtuais, os participantes que usaram o ChatGPT mostraram extrema acuidade de digitação e adaptação ao uso do plataforma, o que implica num menor tempo de atividade, em troca de menos atenção aos resultados apresentados, menor capacidade de leitura e, consequentemente, leitura crítica, e retenção dos dados vistos ao longo do processo. Em resumo, o uso de IAs com a função de ganho de tempo pode gerar impactos severos na capacidade de aprendizado e na formação política e social de seus usuários, dada a apresentação do viés de pesquisa das ferramentas. Uma suposição apontada pelas pesquisadoras é que os impactos a longo prazo podem atingir a susceptibilidade à manipulação e redução da criatividade.
O indicativo inicial do artigo é que o uso de ferramentas que utilizem LLM não é recomendado para pessoas em fases de desenvolvimento e aprendizado de atividades, e recomendam que o início de sua aplicação seja gradual, como uma ferramenta para o auxílio na busca de informações e esclarecimento de dúvidas. É importante que esses instrumentos sejam utilizados como fontes potenciais de pesquisa, e não como indicadores de verdade, como muitas vezes é feito atualmente. Os chatbots não são confiáveis, num sentido que não há uma checagem das informações ou exibições das fontes utilizadas para as pesquisas, a menos que isso seja solicitado, e a tendência ao uso de dados nos primeiros resultados das pesquisas aponta uma influência do uso de capital como forma de propagar ideias, o oposto da noção de desenvolvimento de um pensamento crítico. Psicologicamente falando, os usuários acríticos ficam “mais burros”, por assim dizer, já que abdicam do exercício das capacidades de crítica e reflexão, muitas vezes nem conferindo as respostas por completo e aceitando sua veracidade. A médio prazo, a redução de uso de certas faculdades mentais gera resultados claros, como dificuldade de comunicação, elaboração de discurso, adaptação social e material em diversos contextos e, principalmente, a uma redução da sociabilização, pela redução gradual do contato com variações linguísticas e uma adaptação cognitiva para o contato com um chatbot de preferência, que se adaptou ao uso de linguagem construído através de sua usabilidade.
Duas matérias publicadas nos periódicos Time e Endgadget, comentando os resultados do artigo citado e de outras pesquisas (que também não foram revisadas por pares, repito) apontam um dado recente e alarmante: o uso constante de chatbots provoca gradualmente uma sensação de isolamento em seus usuários. As respostas rápidas, numa linguagem compreensível e a possibilidade de customização da ferramenta, como usuários que solicitam um tipo específico de tratamento ou de linguagem, além de outros que nomeiam as IAs e as tratam como seres sencientes, geram uma forte sensação de proximidade e acolhimento de forma rápida, nublando a análise crítica de que aquela plataforma continua sendo um produto feito por humanos para consumo por outras pessoas e que tem como principal objetivo o lucro das empresas que as criaram. Não são raros os relatos de bots “surtando”, recomendando ações ilegais, travando e repetindo frases específicas ou dando respostas em uma língua não utilizada na conversa, situações que tendem a aparecer após alguma atualização das ferramentas, mas que podem acontecer pelo tipo de contato realizado. Uma das matérias fala de chatbots utilizados como “modelos terapêuticos” e revela problemas sérios que envolvem questões éticas, de saúde e segurança que atravessam seus usuários, como ofertas sexuais, aceitabilidade de crimes hediondos e indicativo de uso de substâncias ou de práticas como autolesão. É essencial lembrarmos que as ferramentas de Gen AI não são inteligentes, não tem discernimento ou senciência, são robôs que buscam dados em diversos espaços na internet e compilam o que é julgado serem os melhores resultados através de sua programação e os organizam num discurso supostamente plausível e compreensível.
Falando especificamente sobre o uso dessas tecnologias como “terapias acessíveis”, os resultados podem variar muito, desde uma sensação de melhora, muitas vezes baseada na noção de acolhimento, passando por ausência de alterações visíveis, até a danos psicológicos extensos, como relatos de paranóias, sensação constante de isolamento e o surgimento de sintomas ansiosos e depressivos, todos eles geralmente provocados pela intensificação de um sofrimento prévio que não é adequadamente assimilado pelos chatbots, até porque isso não é possível, e, consequentemente, não cuidado.
Ferramentas supostamente psicoterapêuticas existem desde 1966, quando Eliza, “um chatbot rogeriano” foi criado e disponibilizado como uma espécie de método terapêutico. O ponto é que nada substitui a interação entre pessoas, dado que os bots, por mais bem programados que sejam, não conseguem identificar um traço essencialmente humano, a subjetividade. Esse é um limite tecnológico que, acredito eu, nunca será superado dada a sua complexidade e variabilidade. Como os resultados da pesquisa do MIT apontam, o uso de ferramentas LLM pode ser uma ótima forma de construir resultados mais completos, tirar dúvidas pontuais e auxiliar na compreensão de diversas dúvidas, desde que seu uso seja feito de forma muito criteriosa e questionadora, considerando o histórico das ferramentas e suas tendências de resultados. Também é importante que seus usuários foquem em atividades de exercício de suas capacidades cognitivas, desde o uso individual, como a leitura, até o uso coletivo, como interações sociais e a participação em espaços de discussão e construção coletivas. Apenas assim conseguimos buscar resultados psicologicamente e neurologicamente mais saudáveis e menos danosos, lembrando das limitações do uso das ferramentas e da relevância da ajuda especializada quando esta é necessária.
Por fim, ainda que sejam tecnologias recentes e os estudos utilizados como referência sejam limitados e não revisados, todos os resultados não tendenciosos (e aqui entendam aqueles que não foram ordenados ou realizados pelas big techs) apontam mais problemas (e em geral, graves) do que soluções pelo uso das Gen AI. A lógica predatória que é aplicada em seu desenvolvimento, desde o roubo de dados pessoais em massa e o descarte da força de trabalho de seus desenvolvedores, até os danos ambientais de seu funcionamento, como o aumento da temperatura dos oceanos onde os servidores são localizados e a queima de combustíveis para geração de energia, são igualmente observados em sua utilização. Os usuários fornecem dados às plataformas sem quaisquer garantias de uso, proteção ou segurança das informações, muitas vezes sem saber que os dados estão sendo coletados ou para qual objetivo (a exemplo do Gboard, da Google), além dos variados impactos emocionais e psicológicos causados, que não são reconhecidos pelas empresas e acabam sendo, no final das contas, de responsabilidade individual, dos usuários que foram lesados através do uso das ferramentas, seja por um mau uso, seja pela própria estrutura comercial da plataforma.
Minha aposta é que, daqui a alguns anos, teremos novas entradas no CID (Classificação Internacional de Doenças) e no DSM (Diagnostic and Statistical Manual of Mental Disorders) falando especificamente sobre diagnósticos provocados pelo uso de tecnologias digitais, e em específico das baseadas em LLM. Da minha experiência clínica, boa parte das pessoas que começam a utilizar o ChatGPT e seus concorrentes rapidamente evidenciam um declínio da capacidade de falar sobre si e nomear sentimentos, deixando de olhar para seus corpos como partes de si que avisam sintomas de forma explícita, buscando elaborações mais complexas, de fontes pseudocientíficas de consumo rápido e sem muito embasamento. Como apontado desde o início, este texto foi motivado por um viés de confirmação produzido pela leitura de alguns artigos que apontam algo que minha experiência prática já me dizia: que o uso das Gen AI é feito majoritariamente de forma acrítica, e que os potenciais danos desse uso são muito maiores do que os usuários conseguem enxergar num primeiro momento.
Fontes utilizadas:
