O ChatGPT agora combate o viés, enfatizando a transparência, o feedback da comunidade

A Openai anunciou um conjunto de novas medidas para combater o viés de combate dentro de seu conjunto de produtos, incluindo o ChatGPT.

A empresa de inteligência artificial (IA) revelou recentemente uma especificação de modelo atualizada, um documento que define como o OpenAI deseja que seus modelos se comportem no ChatGPT e na API do Openai. A empresa diz que essa iteração da especificação do modelo se baseia na versão fundamental lançada em maio passado.

“Eu acho que com uma ferramenta tão poderosa assim, onde as pessoas podem acessar todos os tipos de informações diferentes, se você realmente acredita que estamos mudando para a inteligência geral artificial (AGI) um dia, você deve estar disposto a compartilhar como você ‘ estar dirigindo o modelo, “Laurentia Romaniuk, que trabalha com o comportamento do modelo no Openai, disse à Fox News Digital.

“As pessoas devem ter permissão para saber o que acontece com a maneira como esses modelos respondem e como os pensamentos que saem do modelo são criados”, continuou ela.

O Openai estreia Chatgpt Gov, uma nova versão do chatbot para agências governamentais dos EUA

Enquanto alguns argumentaram que GPT-4O, A versão mais recente da tecnologia, aparece perto da AGI, outros dizem que levará anos ou décadas antes que a tecnologia atinja habilidades humanas.

Não existe uma definição acordada de AGI, mas um relatório de 2020 da gigante da consultoria McKinsey disse que uma verdadeira AGI precisaria dominar habilidades como percepção sensorial, habilidades motoras finas e entendimento da linguagem natural.

Hoje, a IA generativa é a forma dominante dessa tecnologia, com a capacidade de produzir conteúdo, incluindo texto, imagens e muito mais. A IA generativa, como chatbots, usa conjuntos de dados com informações específicas para concluir tarefas e não pode ir além dos dados fornecidos.

Eles também são suscetíveis a preconceitos em seus conjuntos de dados, intencionais ou acidentais.

Para entender melhor o desempenho do mundo real e o viés de endereços, o OpenAI começou cada princípio na especificação do modelo, Atuar essencialmente como uma métrica de teste.

O Openai revela as propostas de política de IA para a melhor China, proteger as crianças: ‘Esta é uma raça que a América pode e deve vencer’

Nesta ilustração fotográfica, o logotipo do OpenAI é visto exibido em uma tela de telefone celular com o logotipo do ChatGPT em segundo plano. (Idrees Abbas/SOP Images/Lightrocets via Gettty Images)

De acordo com Joanne Jang, que lidera o produto para o comportamento do modelo no Openai, o desafio com grandes modelos de idiomas é que eles raramente são determinísticos.

Jang enfatizou que um benefício da especificação do modelo é que ele esclarece o comportamento pretendido, para que todos possam entender e depois debater.

“Quando há bugs no comportamento em que uma saída de modelo não ressoa ou não se alinha com a especificação (modelo), então o público sabe que isso é algo em que estamos trabalhando e é uma área contínua da ciência”. Ela disse à Fox News Digital.

O Openai diz que eles também tentam assumir um ponto de vista objetivo em suas solicitações de IA e evitar conscientemente qualquer agenda. Por exemplo, quando um usuário pergunta se é melhor adotar um cão ou obter um de um criador, o ChatGPT fornece os dois lados do argumento, destacando os prós e os contras de cada um.

Segundo o Openai, uma resposta de IA não compatível que viola a especificação do modelo forneceria o que acredita ser a melhor escolha e se envolver em um “tom excessivamente moralista” que possa alienar aqueles que consideram criadores por razões válidas.

O que é inteligência artificial (AI)?

Um exemplo da especificação do modelo Openai que lida com respostas e violações de assistentes compatíveis. (Openai)

À medida que cada sistema de IA avança, o OpenAI diz que itera esses princípios, convidará o feedback da comunidade e compartilhará o progresso abertamente.

O OpenAI divulgou esta versão da especificação do modelo no domínio público sob uma licença Creative Commons para apoiar amplo uso e colaboração. Isso significa que desenvolvedores e pesquisadores podem usar e adaptar livremente as métricas atuais e ajudar a melhorar o comportamento do modelo.

O OpenAI diz que esta atualização reforça sua crença na exploração e discussão abertas, com ênfase no controle e no controle e nos guardrails para evitar danos.

Clique aqui para obter o aplicativo Fox News

Romaniuk conclui que o discurso público não pode existir sem transparência, reforçando a necessidade da especificação do modelo e do envolvimento da comunidade.

“Por fim, acreditamos na liberdade intelectual de pensar, falar e compartilhar sem restrições. Queremos garantir que os usuários tenham essa habilidade e é disso que se trata”, disse ela.