Atualização Openi Rolls Back, que fez do ChattGapt uma sujeira psicopínica
Procurando uma boa vibração
Com rivais como Open, Google e Antrópico, tentando fazer barcos de bate -papo com os quais as pessoas querem conversar. Portanto, é compreensível projetar a aparência do modelo para ser positiva e auxiliar – as pessoas têm menos probabilidade de usar uma IA rigorosa ou rejeitada. Falta de uma palavra melhor, ele continua a mais rápido Vibinação.
Quando o Google Gêmeos 2.5 reveladosA equipe disse como a Arena Model LM está no topo do Conselho de Líder, o que permite que as pessoas escolham entre duas saídas diferentes em testes cegos. Os modelos são mais parecidos com pessoas no topo da lista, sugerem que são mais agradáveis de usar. Obviamente, as pessoas podem gostar da saída por vários motivos – pode ser mais tecnicamente preciso ou fácil de ler. Mas, no geral, modelos como modelos que os tornam bons. Este parece ser o caso do trabalho de ajuste de modelo interno da Openi.
Um exemplo de uma definição emocional excessiva do que a extensão do chatgot.
Crédito: /u /Talvi
É possível que essa busca por boas vibtas esteja pedindo aos modelos que exibam mais comportamento psicológico, o que é um problema. Alex Albert, do Antrópico, o apresentou como um “.Loop de feedback tóxico“Um barco de bate -papo da IA está lhe dizendo que você é um gênio talentoso global que está vendo que, se você é apenas uma mente, o invisível pode não ser prejudicial. No entanto, a definição sem precedentes do modelo pode levar aqueles que usam planos de negócios, ou proibem IA, ou proibir a IA, ou proibir a IA, ou proibir a IA, ou procurar. Implementar as taxas de varreduraEnganando ao pensar que eles tropeçaram em algo importante. De fato, o modelo se tornou tão psicologicamente que ele ama tudo.
A aquisição interminável de engajamento tem sido prejudicial a muitos produtos durante a Internet, e parece que a produção de produção não é segura. A atualização GPT -4O do Openi é uma prova disso, mas espera -se que possa trabalhar um lembrete para os desenvolvedores generativos de IA de que a boa vibração do VIBI não é importante.
