AI Text Classifier

O Classificador de IA é uma ferramenta útil projetada para ajudá-lo a descobrir se um texto foi escrito por um humano ou gerado por uma IA.

Este classificador, criado pela OpenAI, foi treinado para identificar textos produzidos por vários sistemas de IA. Embora não seja 100% preciso, pode ser bastante útil para prevenir o uso indevido de conteúdo gerado por IA. Isso inclui questões como desinformação automatizada, trapaça em ambientes acadêmicos ou até mesmo a má representação de chatbots de IA como pessoas reais.

No entanto, é importante lembrar que a ferramenta nem sempre é confiável. Por exemplo, ela tem dificuldades com textos mais curtos e às vezes pensa erroneamente que a escrita humana vem de uma IA. Além disso, sua eficácia diminui quando se trata de textos em idiomas diferentes do inglês, e não se sai bem em trechos de código. Também tende a julgar mal textos muito previsíveis. Os usuários podem manipular o sistema ajustando textos gerados por IA, o que pode ainda mais confundir a precisão. Além disso, classificadores como este frequentemente têm dificuldades quando apresentados a dados que diferem do que foram treinados, o que pode levar a previsões erradas.

O processo de treinamento para este classificador envolve o ajuste fino de um modelo de linguagem usando pares de textos gerados por IA e escritos por humanos sobre os mesmos tópicos. Essas respostas vêm de vários modelos de linguagem produzidos por diferentes organizações, e foram organizadas em prompts e respostas para criar um conjunto de dados robusto. Para a aplicação web, as configurações da ferramenta são ajustadas para minimizar as chances de rotular erroneamente algo como gerado por IA.

O Classificador de IA está acessível para qualquer pessoa usar, e a OpenAI está ansiosa para ouvir feedback sobre quão bem ele funciona. Eles acreditam que esta ferramenta pode ter um impacto significativo em várias áreas, como jornalismo, pesquisa e educação.