Uma crítica: Lei do Exterminador é a nova lei de Godwin

• Os artigos divulgados nos media sobre inteligência artificial apresentam, muitas vezes, uma visão distorcida dos factos: tendem tanto para o cenário do Exterminador que devemos referir a “Lei do Exterminador” da mesma forma que nos referimos à Lei de Godwin.

• Os blogues da DeepMind, Facebook, etc., são boas fontes de informação fidedigna – oferecem uma visão abrangente, para leigos, sobre os papers que divulgam -, bem como os próprios papers de investigação.

---

Artigo de Tom Morisse, research manager na FABERNOVEL INNOVATE Paris

Recentemente, um colega mostrou-me um artigo sobre inteligência artificial (IA) cujo título era “A nova IA da Google aprendeu a tornar-se ‘altamente agressiva’ em situações de stress”. Como é que podem esperar que fiquemos calmos depois de ler isto?

É uma pena que este artigo e outros semelhantes sejam tão tendenciosos, ou simplesmente errados, sobre a interpretação de resultados do último paper da DeepMind (empresa da Google). São sintomáticos de um tipo de comentários à IA que tendem tanto para o cenário do Exterminador (em alusão ao Exterminador Implacável) que devemos falar da “Lei do Exterminador” da mesma forma que nos referimos à Lei de Godwin. Estes artigos ofuscam o significado real – que raramente é um progresso tremendo – que as experiências descritas têm para o futuro da IA, e onde é que estas experiências se inserem na evolução da inteligência artificial. Mas, está claro, é o preço a pagar para maximizar os cliques nos artigos.

Aqui ficam os erros que temos visto em artigos sobre o último paper da DeepMind:

1. Visão distorcida: o modelo da DeepMind inclui 2 jogadores, a jogar 2 jogos diferentes, um conduz a um comportamento conflituoso e o outro à cooperação. Adivinhem qual deles foi destacado pelos artigos nos media?
2. Antropomorfização: o documento de investigação utiliza palavras que podem ser ambíguas, tais como “agressividade” e “raios [de laser]” – este último utilizado pela IA no primeiro jogo para remover o oponente do jogo durante um curto período de tempo. Os artigos que descrevem os resultados, em vez de ajudar o leitor a “recuar”, levam estas palavras ao pé da letra. Pior ainda, acrescentam à discussão termos antropomórficos (termos que não faziam parte do paper), como, por exemplo, “stressante”, “nocautear”, “sentir”. O primeiro jogo não é, de todo, antropomórfico, de uma forma abstrata, descreve-lo-iamos como um jogo de laser tag ao qual ninguém ia dar muita importância.
   
3. Falta de contexto: esta antropomorfização não é contrabalançada por uma descrição do perímetro de experimentação, sobre o que é ou o que não é, mais uma vez não houve um “recuo” para explicar. Vamos descodificar: aqui, estamos a falar de uma simulação muito simples (mas os algoritmos de treino e os cálculos associados são muito complexos!), na qual o modelo tem a função de maximizar um resultado dentro de um ambiente controlado. “Constróis o que medes”, como é dito no mundo Lean Startup. O computador não está consciente, nem possui nenhum tipo de valores morais. Citando um grande filósofo (ou um anúncio, não me consigo lembrar exatamente): “Ei, do que estavas à espera?“. O modelo não pode parar e dizer “não, eu não quero magoar mais o meu amigo. Sinto-me muito mal ao fazê-lo😔”. Demasiado mau para o cenário do Exterminador.
4. Compreensão imperfeita: os artigos mencionam um nível de “agressividade” que aumentava à medida que o modelo “sentia” que estava prestes a perder no primeiro jogo. Não encontro isto no paper da DeepMind. O que li, por exemplo, foi que quanto mais escassos forem os recursos a ser recolhidos pelo jogador no primeiro jogo, mais “agressivo” o modelo seria. O que não é incongruente, dado que, infelizmente, temos numerosas situações semelhantes no mundo real.

Para evitar ser induzido em erro por artigos “caça ao clique” sobre IA, aqui ficam dois conselhos:

1. Ler os resultados divulgados pela fonte: a DeepMind, Facebook, etc., geralmente, têm blogues ligados à investigação nos quais as suas equipas dão uma visão abrangente, para leigos, sobre os papers que acabam de ser divulgados.
2. Se tiver tempo, leia o paper de investigação: Não se preocupe com os detalhes matemáticos – eu também não sou perito nessa matéria -, mas certamente irá compreender:

• O resumo
• A introdução
• A secção de resultados
• As várias ilustrações
• A conclusão