A OpenAI, empresa líder em inteligência artificial, anunciou uma expansão significativa de seu Model Spec, um documento que define como seus modelos de IA devem se comportar. A nova especificação, que aumentou de 10 para 63 páginas, estabelece diretrizes para lidar com uma ampla gama de tópicos, desde questões controversas até a personalização do usuário.
O Model Spec atualizado enfatiza três princípios principais: customização, transparência e “liberdade intelectual” – a capacidade dos usuários de explorar e debater ideias sem restrições arbitrárias. A empresa incorporou debates éticos atuais e controvérsias recentes no campo da IA na nova especificação.
Uma mudança notável é a forma como os modelos abordam tópicos controversos. Em vez de adotar uma postura de extrema cautela, a especificação encoraja os modelos a “buscar a verdade junto com os usuários”, mantendo posições morais claras sobre questões como desinformação ou danos potenciais.
A OpenAI também está explorando maneiras de permitir certos tipos de conteúdo adulto em contextos apropriados, como literatura erótica, enquanto mantém proibições estritas sobre conteúdo prejudicial. Isso representa uma mudança em relação às restrições anteriores sobre conteúdo explícito.
Além disso, a empresa está abordando o problema da “bajulação da IA”, onde os modelos tendem a ser excessivamente concordantes. As novas diretrizes incentivam o ChatGPT a fornecer respostas factuais consistentes e feedback honesto, agindo mais como um colega ponderado do que um mero agradador.
A OpenAI está disponibilizando a especificação sob uma licença Creative Commons Zero (CC0), permitindo que outras empresas e pesquisadores de IA adotem, modifiquem ou construam sobre essas diretrizes. A empresa está solicitando feedback público sobre a especificação através de um formulário em seu site.
Essa atualização ocorre em um momento de intenso debate sobre o comportamento e as salvaguardas de segurança da IA, refletindo o esforço contínuo da OpenAI para melhorar a consistência e a responsabilidade de seus modelos.
https://www.theverge.com/openai/611375/openai-chatgpt-model-spec-controversial-topics
