O Open AI anuncia dois “GPT-OS” Open AI Model, e você pode baixá-los hoje
O Openai está lançando um novo modelo de IA generativo hoje, e não, GPT-5 Não um deles. Dependendo de como você se sente sobre a IA generativa, esses novos modelos podem ser ainda mais interessantes. A empresa está desenvolvendo o GPT-OSS-120B e o GPT-20B, que é o seu primeiro Modelos de peso aberto Desde o lançamento do GPT2 em 2019. Você pode baixar e executar esses modelos em seu próprio hardware, o que pode suportar raciocínio artificial, uso do dispositivo e personalização profunda.
Quando você acessa os modelos proprietários da empresa na nuvem, eles estão operando em uma poderosa infraestrutura de servidor que não pode ser facilmente copiada para a empresa. Os novos modelos Openi vêm em duas variações (120b e 20b) para executar em hardware menos poderoso. Ambos são transformadores com uma China capaz (COT), apoiando configurações baixas, médias e altas. As configurações mais baixas são nítidas e usam menos recursos de computação, mas os resultados são melhores com a configuração mais alta. Você pode definir o nível do COT com a mesma linha no prompt do sistema.
Pequenos GPT -SS -20b possuem um total de 21 bilhões de parâmetros, que podem ser usados para reduzir o composto (MOE) para reduzi -lo a 3,6 bilhões de parâmetros por token. No que diz respeito ao GPT -S -1220B, seus 117 bilhões de parâmetros chegaram a 5,1 bilhões por token com MOE. A empresa diz que o modelo menor pode operar em uma máquina no nível do usuário de 16 GB ou mais de memória. Executando o GPT -SS -1220B, você precisa de 80 GB de memória, o que é muito mais do que encontra em uma máquina de usuário comum. Embora deva se encaixar em uma AI ai ai ai ai accide a GPU como a NVIDIA H100. Ambos os modelos têm uma janela de contexto de 128.000 token.
