Seleção e tradução de Júlio Marques Mota
6 min de leitura
Texto 20 – Alunos com formação liberal precisam de ser mais do que consumidores de IA
Por Ted Underwwod
Publicado por 
em 10 de Setembro de 2023 (original aqui)
Se estou a comprar um processo de pensamento, preciso realmente de compreender o que vejo quando olho lá para dentro
A primeira onda de controvérsia sobre os grandes modelos de linguagem na educação está a diminuir. Ainda não chegámos a um consenso sobre o que fazer. (Recuar para provas presenciais? Criar exercícios de escrita mais difíceis? Simplesmente proibir o uso de IA?) Mas agora está claro para todos que os modelos exigirão alguma resposta.
Dentro de um mês ou mais, haverá uma reação a esse debate, quando os professores descobrirem que os modelos atuais ainda não são capazes de escrever sozinhos um trabalho de investigação coerente, com notas de rodapé e doze páginas. Podemo-nos convencer de que a ameaça à educação foi exagerada e nos congratulamos por tê-la enfrentado.
Isso será um erro. Ainda nem começámos a discutir o desafio que a IA representa para a educação.
Para os professores, sim, a perturbação inicial será fácil de resolver: podemos encontrar estratégias que nos permitam continuar a avaliar o trabalho dos alunos enquanto ensinamos os cursos que estamos habituados a lecionar. Problema resolvido. Mas o desafio que realmente importa aqui é um desafio para os alunos, que se formarão num mundo onde o trabalho de colarinho branco está a ser redefinido. Algumas coisas ficarão mais fáceis: talvez todos tenhamos assistentes para nos ajudar a lidar com e-mails. Mas, da mesma forma, os alunos serão desafiados a enfrentar problemas maiores.
A nossa visão desses desafios atualmente está limitada por um discurso que trata os modelos como máquinas de escrever artigos. Mas essa certamente não é a fronteira das suas capacidades. Por exemplo, os modelos podem ler. Assim, em 2033, um advogado pode ser solicitado a ‘usar um modelo para fazer uma análise rápida da nova jurisprudência nessas trinta jurisdições e apresentar um relatório amanhã sobre as implicações para o nosso projeto’. Mas, pensando bem, um relatório é volumoso e estático. Então, sabe de uma coisa? “Não escreva um relatório. O que eu realmente preciso é de um modelo preparado para fornecer uma visão geral e depois responder a perguntas sobre esse tema conforme surgirem nas reuniões ao longo da próxima semana”.
Daqui a uma década, em resumo, provavelmente estaremos a usar a IA não apenas para recolher e analisar informações, mas também para nos comunicarmos de forma interativa com clientes e colegas. Todas as formas de pensamento crítico que ensinamos hoje ainda terão valor nesse futuro. Ainda será essencial questionar o contexto social, as hipóteses ocultas e as incertezas por trás de qualquer estimativa. No entanto, os nossos alunos não estarão preparados para lidar com essas questões a menos que também entendam o suficiente sobre aprendizagem automática [machine learning] para avaliar as premissas e a incerteza de um modelo. Em cargos de maior responsabilidade, isso exigirá mais do que ser um utilizador de perguntas e respostas rápidas ou um consumidor astuto. Os profissionais de colarinho branco provavelmente estarão a ajustar os seus próprios modelos; precisarão de escolher um modelo base, avaliar estratégias de treino e decidir se os seus modelos são excessivamente confiantes ou cautelosos.
O problema central é que não podemos externalizar completamente o próprio pensamento. Posso confiar na Toyota para me construir um bom carro, mesmo sem saber como funciona a injeção de combustível. Talvez eu leia a Consumer Reports e compre o que eles recomendam? Mas, se estou a comprar um processo de pensamento, preciso realmente de compreender o que vejo quando olho “para debaixo do capô”. Caso contrário, o “pensamento crítico” perde todo o sentido.
Até agora, o debate académico parece não ter reconhecido esse desafio. Focamos em preservar os exercícios tradicionais, quando deveríamos estar a discutir os novos cursos e as novas atividades que os estudantes precisarão para pensar criticamente na década de 2030.
Como a IA foi retratada como uma coleção de dispositivos opacos, sei que este conselho frustrará muitos leitores. ‘Como podemos preparar os alunos para a década de 2030? É impossível saber os detalhes técnicos das ferramentas que estarão disponíveis. Além disso, ninguém entende como é que os modelos funcionam. Eles são caixas-pretas. A melhor preparação que podemos oferecer é uma atitude geral de caveat emptor [que o comprador tome cuidado]”.
Esta é uma resposta compreensível, porque as coisas avançaram muito rapidamente nos últimos quatro anos. Ainda estávamos com dificuldade para absorver os princípios básicos da aprendizagem de máquina estatístico quando ele foi substituído por uma nova geração de ferramentas que pareciam ainda mais misteriosas. Os jornalistas mais ou menos desistiram de explicar as coisas.
Mas existem princípios que fundamentam a aprendizagem de máquina. A aprendizagem estatística é, na verdade, na sua essência, uma teoria da aprendizagem: ela tenta descrever matematicamente o que significa generalizar a partir de exemplos. O conceito de ‘dilema enviesamento-variância’ [1], por exemplo, permite-nos raciocinar com maior precisão sobre a intuição de que existe um nível ótimo de abstração para os nossos modelos do mundo.
A aprendizagem profunda (deep learning), de facto, torna as coisas mais complexas do que a ilustração acima sugere. (Na verdade, compreender a natureza da generalização realizada por LLMs [Modelos de Linguagem Grandes] ainda é um desafio fascinante — veja os primeiros minutos desta palestra recente de Ilya Sutskever para um exemplo de reflexão sobre o tema.) Mas, se os alunos vão ajustar (fine-tuning) os seus próprios modelos, eles certamente precisarão de, pelo menos, uma base em conceitos como ‘variância’ e “sobreajustamneto” (overfitting). Um curso introdutório sobre aprendizagem estatística deveria ser parte do currículo básico.
Eu poderia ir um pouco além e sugerir que professores de todos os departamentos vão querer refletir sobre os princípios e aplicações da aprendizagem de máquina, para que possamos dar aos alunos a base necessária para continuarem a pensar criticamente sobre a nossa área de especialização num mundo onde alguns (não todos) aspetos de leitura e análise podem ser automatizados.
Isso é muito trabalho? Sim. Já estamos sobrecarregados e deveríamos ter mais apoio? Sim e sim. Os professores já dedicaram grande parte das suas vidas dominando um campo de especialização; pedir que aprendam o básico de outro campo rapidamente, enquanto continuam a fazer os seus trabalhos originais, é muita coisa. Portanto, a adaptação à IA acontecerá lentamente, será imperfeita, e todos nós devemos ser compreensivos uns com os outros.
Mas, para ver o lado positivo: nada disto é chato. Não é apenas um aborrecimento técnico a ser evitado. Há desafios intelectuais fundamentais aqui, e se passarmos por esses corredores, é provável que descubramos algumas coisas novas.
____________
[1] N.T. Em estatística e aprendizagem de máquina, o dilema viés-variância descreve a relação entre a complexidade de um modelo, a precisão das suas previsões e o quão bem ele consegue fazer previsões com base em dados nunca antes vistos e que não foram usados para treiná-lo (ver wikipedia aqui).
O autor: Ted Underwood é Professor de Ciências da Informação e Inglês na Universidade de Illinois, Urbana-Champaign. Recebeu formação de romancista mas atualmente a sua investigação é tanto sobre ciência da informação como crítica literária. Está especialmente interessado em aplicar a aprendizagem de máquina a grandes coleções digitais. Como as “grandes coleções digitais” ainda não existem na forma que se precisaria para uma pesquisa literária interessante, muito do seu trabalho envolve corrigi-las e enriquecê-las. Recentemente, terminou um livro sobre as novas perspectivas abertas pelas grandes bibliotecas digitais, chamado Distant Horizons: digital Evidence and Literary Change (Univ de Chicago, Primavera de 2019). É autor de Why Literary Periods Mattered: Historical Contrast and the Prestige of English Studies. Stanford, CA: Stanford University Press, 2013 e de The Work of the Sun: Literature, Science, and Political Economy, 1760-1860. New York: Palgrave, 2005.