Cuidado com o tecno-otimismo exagerado...

A economia global já foi impulsionada pela industrialização. Hoje é alavancada por conhecimento e informação. Grandes avanços tecnológicos e mudanças de plataforma aceleraram essa transição. Na década de 1990 tivemos a Internet. Os anos 2000 trouxeram a era da computação em nuvem. A década de 2010 deu origem à onipresença dos smartphones. O que antes eram plataformas emergentes ampliou o acesso ao conhecimento e transformou a forma como as pessoas se comunicam, criam e consomem conteúdo.

Hoje, os avanços nos sistemas chamados de Large Language Models, ou “LLMs”, e outras ferramentas generativas de ML (“generative AI”) estão simplificando a criação de conteúdo. LLMs são redes neurais complexas que podem gerar textos ou imagens. Esses modelos são a sustentação de sistemas como o chatGPT e similares. Os LLMs vêm aumentando em tamanho e sofisticação em períodos curtos. Como resultado, esses sistemas podem gerar conteúdo de forma autônoma, seja texto, visual, áudio, código, dados ou multimídia, a partir de simples prompts criados por humanos. Esses modelos estão se tornando rapidamente a estrutura cognitiva da aplicação da IA ​​em muitas aplicações do mundo real.

A IA generativa é a base de uma importante mudança de paradigma na criação de conteúdo, comunicação e geração de conhecimento. Assim como a computação em nuvem e os smartphones transformaram indústrias e criaram outras totalmente novas, a IA generativa também têm grande potencial. A IA generativa tem ampla aplicação em mídia e comunicações, software, ciências da vida e assim por diante.

E aqui discutimos um ponto de atenção. Generative AI poderá redefinir como criamos, mas também como interagimos e nos relacionamos com as criações dos outros.

Enquanto a IA tradicional nos permite extrair padrões e insights dos dados, moldando-os em novos conhecimentos, a IA generativa vai além. Ele usa esses dados para gerar mais dados. O fato de sua utilidade se manifestar no nível do consumidor tem potencial de mudar muita coisa. Qualquer pessoa pode usar a IA generativa para criar novos dados.

Podemos viver em uma era sem precedentes de expansão criativa. O que historicamente era reservado para poucos agora está ao alcance de qualquer pessoa com computador e acesso à internet. A maioria das pessoas do planeta ainda não sabe que essa tecnologia existe, mas não demorará muito para que ela se torne mais e mais disseminada. É fácil de acessar e usar, e extremamente versátil.

Nesse nível, o que mais importa é a escala — não como “grande o suficiente para resolver um problema”, mas como “grande o suficiente para causar um”. O desenvolvimento acelerado combinado com utilidade transversal e escalabilidade inerente (fácil de usar e barato) é a maior força da IA ​​generativa e, também, sua maior fraqueza.

Essas ferramentas de IA generativa podem ajudar a melhorar a capacidade humana, de escrever, pintar, codificar e qualquer outra coisa que possa surgir. Se uso de forma criativa, com as pessoas explorando seus “eus” criativos, é extremante positiva. Essas criações terão intenção e personalidade, mesmo que seja impossível capturá-las totalmente com os textos dos prompts.

Mas, creio que o problema aparece quando essas ferramentas se cruzam com nossa falta de senso de proporção e os incentivos externos aos quais todos estamos sujeitos, quando nosso objetivo é gerar o máximo de conteúdo possível para obter algum benefício. A cultura do “like”.

Muitas pessoas não estarão aprimorando suas habilidades, mas a substituirão, usando as ferramentas em todas as oportunidades possíveis. Como podemos usar essas ferramentas para qualquer atividade criativa, muitos (se não a maioria das pessoas) as usarão para todas as tarefas criativas, substituindo sua criatividade, pela combinação das criatividades de outras pessoas, que formaram o treinamento desses sistemas.

Uma consequência negativa é que eventualmente inundaremos a Internet com dados gerados por IA. Isso não implica que os sistemas de IA criarão todos os dados na internet, mas se metade for gerada por IA e não soubermos disso, talvez aí tenhamos um problema. Esses métodos sofisticados de IA produzem resultados sem explicar por que ou como seu processo funciona. Como o processo pelo qual criou essas representações foi desenvolvido por aprendizado de máquina que reflete padrões e conexões em grandes quantidades de texto, as fontes precisas e os motivos para os recursos específicos de qualquer representação permanecem desconhecidos. Por qual processo a máquina de aprendizagem armazena seu conhecimento, destila e recupera permanece igualmente desconhecido.

À medida que a IA generativa melhora e se torna mais acessível ao público em geral, a diferença na velocidade com que nós, coletivamente, criamos dados da forma pessoal versus a automática só aumentará, com a porcentagem de dados e imagens criados pelos humanos diminuindo rapidamente.

Enquanto uma imagem do Instagram pode ter filtros ou reestruturação de formato, ou seja, uma melhoria no trabalho humano, uma imagem gerada por um sistema de IA generativa pertence a uma categoria diferente de mídia sintética. Com modelos de texto para imagem, a entrada humana é um prompt, um simples texto. É o sistema de LLM que apresenta uma representação visual, que não é apenas uma transformação mínima, e o processo intermediário é opaco (impenetrável) e estocástico (dificilmente repetível).

Os dados gerados pelos sistemas LLM são o mais distante do “natural”, pois a entrada humana é mínima. Embora isso não reduza necessariamente o valor do resultado, o coloca em uma categoria própria. Isso abre todo uma discussão sobre direitos autorais que precisarão ser atualizados.

Hoje, uma pequena porção do conteúdo online ainda é gerado usando esses algoritmos. Agora, imagine que o uso dessas ferramentas, cresça de forma acelerada durante os próximos anos para mais centenas de milhões de usuários diários, que é um crescimento possível, se assumirmos que a tecnologia amadurecerá e será integrada a produtos e serviços populares. Teríamos alguns trilhões de imagens sendo geradas por esses sistemas em pouco anos. Isso é no mínimo quatro a cinco vezes todas as imagens feitas pelo homem na Internet. E esse volume pode ser esperado para texto, código, etc. A Internet já contém mais informações do que qualquer ser humano (ou todos combinados, aliás) jamais poderia consumir em toda a vida. Apenas no YouTube, os usuários carregam 30 anos de vídeos todos os dias. O mesmo acontecerá com textos, gerados por ferramentas de IA generativa.

O problema pode ser a qualidade dessas informações. Nada impede que a baixa qualidade impere e sejamos inundados por imagens desagradáveis e textos que geram desinformação, preconceitos e falsidades. Como temos o incentivo para criar mais dados porque a maioria não tem a intenção de transmitir ou armazenar ideias, pensamentos ou sentimentos, mas sim atrair atenção (objetivo de gerar receita com “likes”), a proposta de “precisamos criar mais e mais” não é positiva.

Esses modelos também tendem a ser repletos de vieses que podem não ser imediatamente aparentes para os usuários. Por exemplo, eles podem expressar opiniões coletadas na Internet como se fossem fatos verificados. Quando milhões são expostos a esses vieses em bilhões de interações, essa IA tem o potencial de remodelar as visões da humanidade. Mesmo que os modelos generativos de IA se tornem, no futuro, totalmente interpretáveis ​​e precisos, eles ainda apresentariam desafios inerentes à conduta humana. Estudantes estão usando o ChatGPT para colar nas provas. A IA generativa pode criar anúncios por e-mail que inundam as caixas de entrada e são indistinguíveis das mensagens de amigos pessoais ou de pessoas conhecidas de negócios. Vídeos e anúncios gerados por IA retratando falsas plataformas de campanha podem dificultar a distinção entre posições políticas. Sinais sofisticados de falsidade, incluindo marcas d’água que significam a presença de conteúdo gerado por IA, podem não ser suficientes; eles precisam ser apoiados por um elevado ceticismo humano.

Algumas consequências podem ser inerentes. Na medida em que usamos menos nossos cérebros e mais nossas máquinas, os humanos podem perder algumas habilidades. Nosso próprio pensamento crítico, escrita e podemos atrofiar as nossas habilidades de design. O impacto da IA ​​generativa na educação pode se manifestar no declínio da capacidade dos futuros líderes de discriminar entre o que intuem e o que absorvem mecanicamente. Ou pode resultar em líderes e gestores que aprendem seus métodos de negociação com máquinas e sua estratégia de negócios com evoluções da IA generativa, em vez de com outros humanos. Os efeitos colaterais podem ser muitos e ainda nem temos ideia do seu alcance.