A CheckPoint liberou um relatório (via Ars Technica) que mostra que os cibercriminosos encontraram uma maneira bastante fácil de contornar as barreiras de moderação de conteúdo do ChatGPT para a criação de malwares e vírus com o objetivo de ganhar dinheiro rapidamente com isso. Por menos de US$ 6, você pode fazer com que o ChatGPT gere um código malicioso ou uma tonelada de cópias persuasivas para e-mails de phishing.
Você também pode gostar:
Minecraft: Tudo sobre um dos Jogos mais Famosos do Mundo
TODOS os Comandos para Minecraft e como Executá-los
Saiba como Baixar e Instalar o Minecraft no seu PC, MAC e Mobile
Mods OBRIGATÓRIOS para Todos Jogadores de Minecraft
Maono DM30: A Escolha Perfeita Para Podcasters E Streamers
5 Melhores Microfones Para Podcast, Gamer, Streaming E Youtube Até R$ 400
Esses hackers fizeram isso usando a API da OpenAI para criar bots especiais no popular aplicativo de mensagens Telegram, que pode acessar uma versão sem restrições do ChatGPT por meio do aplicativo. Os cibercriminosos estão cobrando dos clientes um valor tão baixo quanto US$ 5,50 para cada 100 consultas e dando aos clientes em potenciais exemplos das coisas prejudiciais que podem ser feitas com isso.
Outros hackers encontraram uma maneira de passar pelas proteções do ChatGPT criando um script especial (novamente usando a API do OpenAI) que se tornou pública no GitHub. Esta versão escura do ChatGPT pode gerar um modelo para um e-mail de phishing para se passar por uma empresa e seu banco, mesmo com instruções sobre onde colocar o link de phishing da melhor forma no e-mail.
Ainda mais assustador é que você pode usar o Chatbot para criar um código de malware ou melhorar um já existente simplesmente solicitando. Checkpoint tinha alertado sobre como é fácil para aqueles sem experiência em codificação gerar algum malware bastante desagradável, especialmente nas versões anteriores do ChatGPT, cujas restrições só se tornaram mais rígidas para a criação de conteúdo malicioso.
ChatGPT também será integrado ao Bing
A tecnologia ChatGPT da OpenAI será integrada na próxima atualização do mecanismo de pesquisa do Microsoft Bing, que apresentará um bate-papo de IA para fornecer respostas mais robustas e fáceis de digerir para perguntas mais abertas. A empresa está lançando uma nova versão de seu navegador Edge hoje, com esses novos recursos de IA integrados na barra lateral. A nova experiência já está disponível no Bing, mas ainda é um pouco limitada. Para a experiência completa, você terá que entrar na lista de espera.
Como esperado, o novo Bing agora apresenta a opção de iniciar um bate-papo em sua barra de ferramentas, o que leva você a uma experiência de conversa semelhante ao ChatGPT. Um ponto importante a ser observado aqui é que, embora o bot ChatGPT da OpenAI tenha sido treinado em dados que cobrem apenas 2021, a versão do Bing é muito mais atualizada e pode lidar com consultas relacionadas a eventos muito mais recentes.
Como observou o CEO da Microsoft, Satya Nadella, a equipe quer permanecer fiel aos seus Princípios de IA e reconheceu que, como acontece com toda nova tecnologia, é importante permanecer ciente das consequências potencialmente negativas. “Trata-se também de estar atento às consequências não intencionais de qualquer nova tecnologia”, disse ele. Ele enfatizou que a Microsoft quer usar tecnologia que aumente a produtividade humana e que esteja alinhada com os valores humanos.
Nadella observou que acredita que esta tecnologia remodelará “praticamente todas as categorias de software” e enfatizou que uma tecnologia como esta tem o potencial de remodelar a web. Quanto às novas experiências do Bing, a Microsoft mostrará esses resultados baseados em GPT em uma caixa no lado direito da página de resultados de pesquisa. Eles aparecerão quando você pesquisar fatos para os quais o Bing sabe a resposta.
Agora, diga aí nos comentários? Vai usar o Bing com ChatGPT? Está preocupado com esses novos vírus e ameaças geradas por IA? Fale conosco nos comentários e diga se curtiu essa novidade e aproveite para ler mais notícias, sobre como os teclados HyperX Alloy Origins, no nosso site.
Fonte: Ars Technica
