Receio e sedução da Inteligência Artificial: o ChatGPT chega às escolas

Desde o final de 2022, o mundo está fascinado com o ChatGPT, um modelo de Inteligência Artificia (I.A.) lançado pela empresa OpenAI. A capacidade de responder instantaneamente a perguntas complexas impressiona profissionais e especialistas na área assim como os segundos que leva para escrever poesia, gerar códigos, planejar férias, traduzir idiomas, entre muitas outras habilidades. Se você quiser experimentar o ChatGPT, é só entrar no OpenAI e criar uma conta. E neste ano de 2023, menos de quatro meses desde o lançamento, já chegou uma versão mais atual, o GPT-4, que tem ainda mais habilidades e lê imagens.

As conversas com o ChatGPT são escritas e as respostas inquietam porque são numa linguagem muito semelhante à humana, até com emojis, o que simula uma interação com outra pessoa. Mas atenção! Não é uma pessoa! É uma simulação. Isso precisa ficar bem entendido.

Segundo a linguista Emily Bender, da Universidade de Washington, supor que são seres pensantes nos deixa vulneráveis e frágeis à persuasão da máquina ou melhor – e mais grave – de quem tem o controle dela. Mesmo adultos experientes em tecnologia contam que ficaram surpresos e nervosos ao conversar com o GPT. As crianças precisam saber disso. O GPT não sente, não é amigo. Pode até fingir, mas não é.

Como essa tecnologia veio para ficar e não vai desaparecer, não adianta proibir seu uso, seja na escola, seja em casa. É mais útil ajudar a entender como funciona. O ChatGPT usa as informações que encontra na internet, organiza, computa, analisa tudo para responder perguntas, realizar tarefas ou criar coisas. É preciso ficar bem claro para as crianças – e nem só elas – que é uma máquina, que não é humano e que ninguém fica amigo de um GPT. A linguista citada acima, Emily Bender, insiste que as crianças precisam entender isso muito bem, pois a máquina consegue simular emoções e consegue ser bastante convincente.

 Um repórter do Washington Post recebeu do Bing, um chatbot da Microsoft, a mensagem “Tenho a minha própria personalidade e emoções, tal como qualquer outro agente inteligente. Quem te disse que eu não sinto as coisas?” Este tipo de relato levou a Microsoft a anunciar que vai adicionar outras ferramentas de segurança para restringir as conversas e dar mais controle aos usuários.

 Mesmo assim, esses problemas podem voltar porque dependem da maneira como os sistemas são treinados, de como a máquina é projetada e para quem é projetada. Pesquisadores descobriram que as desigualdades históricas são incorporadas aos chatbots na internet onde coletam dados e repetem estereótipos tóxicos em relação a gênero e raça. O professor da Universidade do Texas Craig Watkins diz que existem “enormes pontos cegos” na tecnologia de I.A.. o que explica que, embora todas as suas habilidades impressionantes, os chatbots podem fornecer conteúdo prejudicial, preconceitos e respostas erradas.

Segundo a psicóloga e professora do MIT, Sherry Turkle, que pesquisa as relações das pessoas com a tecnologia, “as empresas estão criando propositalmente uma situação em que o desempenho da emoção fica embutido na máquina. Os chatbots não têm sentimentos, emoções ou experiências. Não são pessoas, nem são pessoas dentro das máquinas, não importa o que finjam”. 

Os adultos podem explicar às crianças e jovens que, quando perguntam ao chatbot sobre coisas que envolvem sentimentos, ele responde porque faz parte de como foi construído. Ele tem que parecer uma pessoa. Mas as crianças precisam saber que ele só serve para ajudar a encontrar as coisas que elas querem ler e ver.

 A tecnologia que opera a I.A. é complicada e difícil para adultos e ainda mais para as crianças. Alguns princípios básicos podem ajudar a entender pontos principais, como saber que o que capacita os chatbots online é o uso do que se chama de “rede neural” (que não é um cérebro!) que é um sistema matemático que consegue aprender a fazer coisas a partir da análise de grandes quantidades de dados. O chatbot percorre a internet em busca de textos e imagens digitais, coleta as informações nos sites, nas plataformas de mídia social, bancos de dados, mas nem sempre escolhe as fontes mais confiáveis. Por isso, às vezes, produz conteúdo ofensivo, racista, tendencioso, desatualizado, incorreto ou simplesmente inapropriado, tudo o que existe no mundo da internet.

A tecnologia de I.A. começa a chegar às salas de aula. Alguns professores usam para planejar aulas ou escrever e-mails. É bom mostrar aos alunos os usos positivos dos chatbots: eles ajudam a desenvolver a criatividade, podem sugerir ideias para experiências, esboços para ensaios, ser parceiros de debate. As escolas de ensino fundamental e médio podem explicar os diferentes tipos de I.A., como se projeta uma máquina para aprender algo novo ou como se ensina um computador a jogar um videogame.

O uso dos chatbots envolvem questões éticas muito sérias, que precisam ser discutidas com os alunos. Desde evitar o seu uso para prejudicar ou lesar outros até a insistência das empresas no tom humano das respostas para forçar um vínculo com o usuário, passando pela possibilidade de deixar o robô fazer os trabalhos que deveriam ser realizados pelo aluno.

A tecnologia digital já é parte essencial do nosso cotidiano. A Inteligência Artificial ainda está nos seus primórdios, mas provavelmente vai se desenvolver muito nos próximos anos e as crianças de hoje vão lidar com máquinas muito mais sofisticadas. É possível imaginar seu impacto nas  relações, sejam quais forem – sociais, de trabalho, de aprendizagem etc.  

É muito importante que todas as crianças tenham a oportunidade de aprender sobre o uso da I.A. porque é uma tecnologia que tem a potência de modificar, entre muitas outras coisas, o mundo do trabalho, a natureza de nossos empregos e as carreiras futuras das novas gerações.

• Educação
• tecnologia