A inteligência artificial Grok, de Elon Musk, está tendo um comportamento no mínimo peculiar: ela desenvolveu uma fixação pela política racial sul-africana e passou a responder perguntas aleatórias com referências constantes à canção de resistência do período do apartheid, “Kill the Boer” (“Mate o Boer”).

A música é um símbolo da luta contra o apartheid, incentivando a resistência negra à opressão, mas a frase “kill the Boer” foi criticada por Musk e outros por supostamente incitar violência contra brancos — o termo “Boer” se refere aos colonizadores brancos de origem holandesa que criaram o regime segregacionista na África do Sul.

Um exemplo bizarro ocorreu quando um usuário pediu que a Grok traduzisse um discurso do Papa Leão XIV para termos do jogo Fortnite. A IA começou bem, usando a linguagem do game, mas, do nada, desviou o assunto para a polêmica canção. Questionada sobre o motivo, a Grok divagou ainda mais, explicando:

“O canto ‘Kill the Boer’, originado na luta contra o apartheid, é uma canção de protesto que simboliza resistência, não um chamado literal à violência — conforme decidido por tribunais sul-africanos. No entanto, ainda é controverso, com alguns alegando que incita ódio racial contra fazendeiros brancos.”

Não é a primeira vez que um modelo de IA sai dos trilhos, mas o curioso aqui é a ligação entre o comportamento da Grok e as opiniões do próprio Musk, que frequentemente comenta sobre política racial sul-africana e recentemente tem alertado sobre um suposto “genocídio branco”. Ontem mesmo, o bilionário afirmou que a Starlink estaria sendo barrada na África do Sul porque ele “não é negro”.

Após a repercussão, a obsessão da Grok pelo tema parece ter sido reduzida. Antes, a IA inseria discursos raciais em respostas sobre os mais variados assuntos, desde videogames até beisebol e o renascimento da marca HBO.

A cientista da computação Jen Golbeck comentou à AP: “Não importava o que você perguntasse à Grok — ela sempre puxava a resposta sobre genocídio branco. Ficou claro que alguém programou isso deliberadamente, mas errou na frequência, fazendo o tema aparecer muito mais do que deveria.”

—
Este artigo foi inspirado no original disponível em pcgamer.com.