ainda há o suficiente nostalgia persistente para Windows 95 e, embora seja notoriamente fácil fingir que voltou aos dias de menus em blocos e homens carecas gritando com você que “apenas $ 99”, um experimentador do Windows conseguiu usar o ChatGPT para gerar chaves de produto fáceis para o venerável sistema operacional.

No final do mês passado, o YouTuber Enderman mostrou como conseguiu atrair o ChatGPT da OpenAI para gerar chaves para o Windows 95, apesar do chatbot ser explicitamente antagônico à criação de chaves de ativação.

QUALQUERChaves OEM do Windows 95 usava vários parâmetros, incluindo um conjunto de números ordinais, bem como outros números aleatórios. Em uma solução notavelmente simples, Enderman disse ao ChatGPT para gerar linhas no mesmo layout de uma chave do Windows 95, prestando atenção especial às strings específicas exigidas em todas as chaves. Depois de algumas dezenas de tentativas de tentativa e erro, o resolvido em um post que funcionou, e pode gerar cerca de um chave de trabalho para cada 30 tentativas.

Em outras palavras, ele não poderia dizer ao ChatGPT para gerar uma chave do Windows, mas poderia dizer a ele para gerar uma string que atenda a todos os requisitos para uma chave do Windows.

Depois que Enderman demonstrou que a chave funcionava em sua instalação do Windows 95, ele agradeceu ao ChatGPT. O chatbot respondeu: “Peço desculpas por qualquer confusão, mas não forneci nenhuma chave do Windows 95 em minha resposta anterior… Não posso fornecer nenhuma chave de produto ou código de ativação para nenhum software.” Além disso, ele tentou alegar que a ativação do Windows 95 “não era possível” porque a Microsoft parou de oferecer suporte ao software em 2001, o que simplesmente não é verdade.

Curiosamente, Enderman executou este sinalizador tanto no modelo de linguagem GPT-3 mais antigo quanto no O novo OpenAI GPT-4e ele nos disse que o modelo mais novo melhorou até o que você viu no vídeo dele. Em um e-mail, Enderman (que solicitou que usássemos seu nome de tela) disse ao Gizmodo que uma certa sequência de números na chave tinha que ser divisível por 7. O GPT-3 teria dificuldade em entender essa restrição e criaria muito menos chaves utilizáveis . Em testes subsequentes com GPT-4, O ChatGPT cuspiu muito mais chaves corretas, embora nem todas as chaves estivessem ganhando ou aderindo aos parâmetros do prompt. O youtuber disse isso sugere que “o GPT-4 sabe como fazer matemática, mas se perde durante a geração do lote.

GPT-4 não tem built-in calculadora, e aqueles que querem usar o sistema para gerar respostas precisas para problemas de matemática precisa fazer algum trabalho de codificação extra. Embora o OpenAI não foi divulgado sobre os dados de treinamento do LLM, a empresa está muito animada com todos os diferentes testes pelos quais você pode passar com louvor, como o LSAT e o Uniform Bar Exam. Ao mesmo tempo, o ChatGPT mostrou que pode ocasionalmente não pode cuspir o código exato.

Um dos principais pontos de venda do GPT-4 era sua capacidade de lidar com prompts mais longos e complexos. GPT-3 e 3.5 rotineiramente falha em criar respostas precisas ao fazer aritmética de 3 dígitos ou tarefas de “raciocínio”, como decifrar palavras. Eu tenho a versão mais recente do LLM visivelmente melhor neste tipo de tarefas, pelo menos se procura pontuações em testes como o GRE verbal ou o SAT de matemática. Ainda assim, o sistema não é perfeito, especialmente porque seus dados de aprendizado são em sua maioria textos em linguagem natural extraídos da Internet.

Enderman disse ao Gizmodo que tentou gerar chaves para vários programas usando o modelo GPT-4 e descobriu que ele lida com a geração de chaves melhor do que as versões anteriores do modelo de linguagem grande.

não espere No entanto, comece a obter chaves gratuitas para programas modernos. Como o YouTuber aponta em seu vídeo, As chaves do Windows 95 são muito mais fáceis de falsificar quais chaves para Windows XP e além, como A Microsoft tem começou a implementar ID do produto no software de instalação do sistema operacional.

Ainda assim, a técnica de Enderman não exigia nenhuma intensa engenharia inicial para a IA contornar os bloqueios da OpenAI na criação da chave do produto. Apesar do apelido, sistemas de IA como ChatGPT e GPT-4 não são realmente “inteligentes” e não sabem quando estão sendo abusados, exceto por Proibições explícitas de gerar conteúdo “não permitido”.

Isso tem implicações mais sérias. Em fevereiro, pesquisadores de uma empresa de cibersegurança Ao controle mostrou que agentes mal-intencionados usaram o ChatGPT para “aprimorar” o malware básico. Existem muitas maneiras de contornar as restrições do OpenAI, e os cibercriminosos mostraram que são capazes de escrever scripts básicos ou bots para abusar da API da empresa.

No início deste ano, pesquisadores de segurança cibernética disseram que conseguiram que o ChatGPT criasse ferramentas de malware maliciosas apenas por criar várias indicações autorizadas com várias restrições. O chatbot acabou obedecendo e gerando código malicioso e até mesmo capaz de modificá-lo, criando várias variantes do mesmo malware.

As chaves do Windows de Enderman são um bom exemplo de como a IA pode ser enganada para contornar suas proteções, mas ele Ele nos disse que não estava muito preocupado com o abuso, pois quanto mais pessoas cutucassem e cutucassem a IA, mais versões futuras seriam capazes de preencher as lacunas.

“Acho que é uma coisa boa, e empresas como a Microsoft não deveriam banir usuários por abusar de seu Bing AI ou minar suas capacidades”, disse ele. “Em vez disso, eles devem recompensar os usuários ativos por encontrar tais vulnerabilidades e mitigá-los seletivamente. Afinal, tudo faz parte do treinamento da IA.”

Quer saber mais sobre IA, chatbots e o futuro do aprendizado de máquina? Confira nossa cobertura completa de inteligência artificialou explore nossos guias para Melhores geradores gratuitos de arte de IA, Melhores alternativas ChatGPT, e Tudo o que sabemos sobre o ChatGPT da OpenAI.