Tal debate foi novamente acendido por conta de uma declaração vinda da OpenAI, a dona e criadora do ChatGPT, um dos modelos de IA mais famosos da atualidade. Segundo a organização, a última versão lançada por eles, o GPT-4, em breve poderá estar assumindo mais uma função humana.
Neste caso em específico, eles se referem à moderação de conteúdo, alegando que o bot pode fazer tal tarefa de forma muito mais precisa, técnica e consistente, sem deixar que o lado emocional interfira ao se deparar com material violento ou abusivo por horas seguidas.
Isso realmente pode ocorrer?
A empresa de propriedade de Sam Altman afirma que já está utilizando a referida plataforma para moderar conteúdos e, ao que tudo indica, os resultados estão sendo satisfatórios até o momento. Mas para desempenhar tal função, a IA precisaria de um “treinamento” prévio.
Assim, o sistema seria modelado para atuar em um passo a passo para identificar e remover itens problemáticos de um site ou rede social, por exemplo.
A chefe de sistemas da OpenAI, Lilian Weng, vai ainda mais longe e diz que não existe mais a necessidade de grandes equipes para fazer esse tipo de tarefa. De acordo com ela, você não precisa mais contratar dezenas de milhares de moderadores.
Para ela, os seres humanos ainda poderão trabalhar como conselheiros, garantindo que a IA esteja desempenhando seu papel corretamente. Além disso, as pessoas também poderão atuar como conselheiros que podem garantir que o sistema baseado esteja trabalhando corretamente.
Logo, a moderação já era uma prática desafiadora antes mesmo deste tipo de tecnologia surgir. Há, inclusive, um grande debate sobre a influência de material nocivo na saúde mental das pessoas que atuam nesta área. Por exemplo, em maio deste ano, moderadores do Facebook residentes no Quênia pediram aumento e processaram a empresa.
Uma das grandes preocupações é que a presença do GPT-4 torne a profissão ainda mais desafiadora e colabore para gerar desinformação e outras coisas indesejadas. Apesar disso, essa alternativa é vista por muitos especialistas como a única forma para responder ao crescimento exponencial da desinformação e notícias falsas.
