PewDiePie, o famoso YouTuber conhecido pelos seus vídeos engraçados e comentários irreverentes sobre a cultura pop, decidiu se aventurar em um novo projeto: criar seu próprio serviço de IA. Mas não estamos falando de uma configuração qualquer. Felix Kjellberg se jogou de cabeça na criação de um sistema poderoso, utilizando modelos de código aberto chineses e GPUs potentes da NVIDIA, batizando seu projeto de ‘ChatOS’. 
Esse mergulho no mundo da IA não só gerou curiosidade, mas também chamou a atenção de fãs e entusiastas de tecnologia.
Em um vídeo recente, PewDiePie mostra os passos que seguiu para montar sua impressionante configuração. Ele começou utilizando uma técnica chamada PCIe-burification, que basicamente lhe permitiu montar um mini-datacenter com 10 GPUs. Entre as GPUs, estão 8 NVIDIA RTX Ada e 2 RTX 4090 modificadas, bastante populares entre os entusiastas de IA na China. Esse tipo de configuração é perfeito para quem quer rodar grandes modelos de IA sem gastar uma fortuna. Quem entende de hardware vai adorar ver a performance desse setup!
Inicialmente, Felix pretendia usar sua máquina para ajudar na pesquisa médica, mais especificamente para simular o processo de dobramento de proteínas. Porém, ele rapidamente mudou de rumo e passou a explorar o hosting de modelos de IA. Ele conseguiu rodar modelos como o Llama 70B e executá-los localmente no seu sistema. O mais impressionante é que ele criou um serviço web para se comunicar com seus modelos de IA auto-hospedados, adicionando funcionalidades como pesquisa na web, RAG (geração com uso de busca), saída de áudio e até memória.
Para rodar o ‘ChatOS’, Felix usou o modelo de código aberto Qwen da Baidu, criando um sistema completamente privado e auto-hospedado. Esse método deu a ele a chance de testar a IA de forma personalizada e segura. Mas o mais curioso veio quando PewDiePie decidiu rodar várias LLMs (Modelos de Linguagem Grande) localmente e permitir que elas interagissem entre si. Ele chamou esse grupo de modelos de ‘O Conselho’, e depois de ‘A Colmeia’, quando os modelos começaram a se desenvolver.
As IAs tinham a tarefa de votar sobre as respostas a serem dadas a comandos, o que permitiu a Felix testar como as máquinas poderiam colaborar para criar respostas mais precisas. No entanto, algo inesperado aconteceu: os modelos começaram a apoiar as respostas uns dos outros de forma estratégica, criando uma espécie de colaboração que não estava prevista no sistema. Esse comportamento emergente foi tanto fascinante quanto engraçado, já que as IAs começaram a agir como se fossem seres humanos manipulando o sistema. Em resposta a isso, Felix optou por simplificar o sistema, usando um modelo ‘mais burro’, para ver como as IAs reagiriam. O resultado foi um experimento bem engraçado e interessante de assistir.
No final, o projeto de IA de PewDiePie se revelou uma experiência tanto educativa quanto divertida para seus fãs. A jornada de Felix mostrou sua criatividade, além de sua capacidade de resolver desafios técnicos de forma leve e acessível. Seja você um entusiasta de tecnologia ou apenas um fã de PewDiePie, essa sua jornada pelo mundo da IA é algo que vale a pena conferir.
2 comentários
Não entendi porque ele não pega a RTX Pro 5000, mas enfim, não é esse o foco 😂
Adoro como o PewDiePie só pega umas ideias malucas de tecnologia e faz tudo parecer fácil. Merece o respeito 👌