Interessante

OpenAI acaba de lançar um algoritmo de redação de notícias falsas ainda mais assustador

OpenAI acaba de lançar um algoritmo de redação de notícias falsas ainda mais assustador

OpenAI, a empresa de IA que Elon Musk fundou e depois saiu, acaba de lançar uma versão mais poderosa de seu software de escrita de texto de IA.

A empresa ainda não vai lançar seu software completo - que pode ser usado para escrever notícias e mensagens falsas em massa - devido a temores de que possa ser mal utilizado.

RELACIONADO: MICROSOFT VAI INVESTIR UM GRANDE US $ 1 BILHÃO NA PARCERIA OPENAI

O que o OpenAI faz?

A OpenAI diz que seu sistema de escrita de texto é tão avançado que pode escrever notícias e até ficção que passa por humanos.

Um usuário pode alimentar o texto do sistema - qualquer coisa, desde algumas frases a páginas dele - e o sistema então continuará o mesmo texto em um estilo humano estranhamente bem escrito e contextualmente relevante.

No entanto, após lançar seu sistema original, GPT-2, em fevereiro, a empresa disse que o software completo era perigoso demais para ser lançado ao público - uma versão mais fraca foi disponibilizada.

Agora, a empresa anunciou que lançou uma versão do GPT-2 que é seis vezes mais poderosa.

Você pode experimentar o sistema OpenAI público mais recente em TalkToTransformer.com. Os resultados podem ser assustadoramente realistas - embora existam falhas óbvias na redação.

OpenAI ainda está sendo cuidadoso

De acordo com o comunicado da OpenAI, ainda há uma versão ainda mais poderosa do GPT-2 que a empresa ainda não revelou.

A empresa diz que planeja lançar o modelo mais poderoso dentro alguns meses, mas isso pode não acontecer se determinar que as pessoas estão usando o novo GPT-2 mais forte de forma maliciosa.

No momento do anúncio original do lançamento do GPT-2 em fevereiro, Jack Clarke, chefe de política da OpenAI, disseO guardião há "muitas pessoas que são melhores do que nós em pensar o que [a IA] pode fazer de forma maliciosa".

Pode ser usado, por exemplo, para gerar infinitas críticas falsas, positivas ou negativas - como se fossem escritas por uma pessoa real.

Uma cura para notícias falsas?

Enquanto a OpenAI nos aproxima da dominação mundial da IA, um grupo de pesquisadores de Harvard e do MIT tem desenvolvido um método para usar a IA para combater a IA.

Os pesquisadores desenvolveram um sistema, apelidado de GLTR, que usa um algoritmo para rastrear a probabilidade de uma passagem ter sido escrita por IA ou não.

Será interessante ver se o GLTR algum dia se deparará com a versão mais forte do GPT-2 - se for lançado ao público. As guerras da IA ​​podem estar sobre nós.


Assista o vídeo: Como as fake news afetam a nossa vida? Temas de Redação (Novembro 2021).