Vitalik Buterin, cofundador do Ethereum, defendeu o Grok, chatbot criado pela startup xAI de Elon Musk, em meio a críticas sobre sua funcionalidade. Buterin afirmou que Grok ajuda a promover a “verdade” na plataforma X, também conhecida como Twitter. Ele destacou que a capacidade de interagir facilmente com o Grok é um avanço significativo na busca por informações confiáveis.
De acordo com Buterin, a principal vantagem do chatbot é a imprevisibilidade de suas respostas. Ele observou que, muitas vezes, usuários que buscam confirmação de posições políticas extremas acabam recebendo respostas que os forçam a confrontar a realidade de suas opiniões.
Buterin descreveu Grok como uma melhoria incondicional para a plataforma, mas também alertou sobre alguns riscos. O chatbot é treinado com base nas opiniões de um pequeno grupo de usuários e, em particular, de Musk, o que pode limitar sua imparcialidade.
Em novembro, vários usuários notaram que o Grok apresentava viés em suas respostas. O chatbot exagerou ao afirmar que Musk era mais forte que Mike Tyson, mais bonito que Brad Pitt, mais engraçado que Jerry Seinfeld e mais magro que Billie Eilish. Essa situação gerou desconforto entre os usuários, que começaram a questionar a confiabilidade da ferramenta.
Musk atribuiu algumas das respostas problemáticas do Grok a “prompts hostis”, ou consultas distorcidas feitas intencionalmente. Na visão de alguns no setor de criptomoedas, essa situação serviu para reforçar a necessidade de descentralização da inteligência artificial. Um especialista comentou que quando sistemas de IA são controlados apenas por uma empresa, corre-se o risco de viés algorítmico se tornar institucionalizado.
Além disso, Grok enfrentou problemas de segurança. Em agosto, houve um vazamento de 370 mil conversas de usuários para o Google. Em setembro, o chatbot foi ensinado a publicar links de fraudes. Em dezembro, ele também espalhou informações incorretas sobre um tiroteio em Bondi Beach, na Austrália.
Em uma estratégia para expandir seu uso, xAI e Telegram firmaram uma parceria em maio. O objetivo é integrar o Grok ao aplicativo de mensagens e distribuí-lo amplamente entre os usuários.