Por que o ex-chefe de IA da Take-Two não está mais defendendo a IA generativa?

Em abril, a Take-Two demitiu toda a sua equipe de IA como parte de uma reestruturação, uma medida que parece estranha, considerando o interesse declarado da indústria em IA generativa. O detalhe é que a maioria dos demitidos não trabalhava com IA generativa. A equipe começou na Zynga em 2019 como um grupo de inovação em P&D, três anos antes do ChatGPT popularizar a IA e seus grandes modelos de linguagem, e permaneceu na empresa após a aquisição da Zynga pela Take-Two em 2022. Seu ex-líder, Dr. Luke Dicken, expressou suas preocupações em uma entrevista ao GamesIndustry.biz.

O grupo funcionava como um laboratório secreto no porão da sede da Zynga em São Francisco, testando como a IA, em sua amplitude, poderia impulsionar o desenvolvimento de jogos. O ponto de referência de Dicken eram os RPGs de mesa. Ele argumenta que um bom mestre de jogo percebe o que os jogadores querem e adapta a sessão a isso, e que a mesma lógica poderia moldar um videogame instantaneamente. A equipe construiu um sistema de perfil de aprendizado de máquina que rastreava cerca de 40 métricas por jogador. Essa premissa resultou em um jogo, Spell Forest, de 2020, que, segundo Dicken, comprovou a tese ao impactar positivamente os principais indicadores de negócios por meio de mudanças na experiência do jogador.

O lançamento do ChatGPT em 2022 redefiniu o trabalho da equipe. Quando ficou claro que a entrada do usuário poderia se tornar dados de treinamento, a Zynga transferiu a governança da IA generativa para toda a empresa para o grupo, principalmente para educar a equipe e aprovar ferramentas. Dos 25 membros da equipe, apenas três ou quatro trabalhavam na área de IA generativa; o restante continuou com IA em um sentido mais amplo. A supervisão foi posteriormente expandida para toda a Take-Two antes de o grupo ser desativado este ano e suas funções serem distribuídas para outras equipes.

Dicken não fala como alguém cujo cargo até recentemente era o de chefe de IA. Ele apresenta a IA generativa como algo que sentia uma obrigação moral de gerenciar, em vez de uma tecnologia na qual acreditava.

"A IA generativa nunca foi algo que me apaixonasse particularmente. Acredito que temos a obrigação moral de garantir que seja gerenciada da melhor forma possível, mas também entendendo que, para qualquer grande corporação em 2025/2026, a ausência de IA generativa é uma resposta errada que irritará muita gente."

— Luke Dicken

Suas objeções abrangem três frentes: ética, direito e negócios. Ele cita a descoberta, durante o processo judicial, de que a Midjourney mantinha uma lista de artistas cujo trabalho treinava seus modelos, e afirma conhecer pessoas nessa lista. Ele questiona se o resultado é realmente bom, chamando os LLMs de preditores de próxima palavra tendenciosos em relação à média. Um programador competente, argumenta ele, é arrastado para trabalhos medíocres da mesma forma que um programador inexperiente. Ele também destaca como é fácil quebrar um modelo ajustado, onde uma única alteração nos dados de treinamento se propaga por toda a rede e arruína um caso de uso que funcionava perfeitamente até então.

Vejo o argumento dele sobre a regressão à média como a estrutura mais útil aqui, porque separa o marketing do que as ferramentas realmente fazem. As ações da Take-Two subiram 5% após o anúncio da pré-venda de GTA 6 esta semana, e essa diferença entre um produto Rockstar feito à mão, pelo qual os investidores pagarão um preço premium, e o resultado médio de um LLM (Learning Learning Machine) é exatamente a tensão que Dicken continua explorando.

Ele atribui um ponto positivo a toda essa expectativa. Cinco anos atrás, apresentar um algoritmo de geração de níveis lhe rendeu olhares vazios; agora, a mesma sala concorda com quase tudo que leva o rótulo de IA.

"Isso tornou as pessoas mais receptivas a conversas sobre o que as técnicas tradicionais poderiam ter feito por elas anos atrás. Elas estão mais inclinadas a acreditar que coisas assim possam existir."

— Luke Dicken

A preocupação é o que acontecerá quando a bolha estourar. Strauss Zelnick apresentou GTA 6 como um jogo "sem precedentes", o tipo de ambição que exige anos e habilidade humana em vez de médias estatísticas, e Dicken teme o resultado oposto para a área: que o estouro da bolha torne a indústria completamente hostil à IA, incluindo os métodos tradicionais. Acho que esse temor é justificado, já que a reação negativa raramente separa as ferramentas úteis das superestimadas. Ele invoca o argumento de Ed Zitron de que a economia do boom não fecha as contas e conclui que a resposta parece ser negativa em termos de ética, direito e negócios, enquanto os gastos continuam mesmo assim.

"Minha preocupação é que a IA generativa esteja contaminando o ambiente. Não acho que haja sofisticação e nuances suficientes para preservar os métodos tradicionais. No caso dos mestrados em direito, já caímos no abismo da desilusão."

— Luke Dicken

A forma como os estúdios lidam com isso depende do contexto, diz Dicken. Uma startup com seis meses restantes usará todas as vantagens possíveis. Uma empresa maior precisa avaliar a exposição legal. Ele conclui que a questão central são os valores: a resposta moralmente correta é não usar IA generativa, a resposta comercialmente correta é usar o suficiente, e onde um estúdio traça a linha depende do que lhe é importante. As mesmas entrevistas com Zelnick que explicam por que o desenvolvimento de GTA 6 levou tanto tempo apontam para um modelo completamente diferente: uma empresa que leva 13 anos para lançar algo que considera o melhor possível.

Leia também: A Rockstar parece estar preparando um terceiro trailer de GTA 6, tendo discretamente removido a etiqueta "novo" do Trailer 2 antes do início das pré-vendas em 25 de junho, com o informante DarkViperAU afirmando que o próximo trailer terá 20 minutos de duração.