Pesquisadores da Universidade de Stanford removeram seus chatbot de curta duração que aproveitou o LLaMA AI da Meta, apelidado de Alpaca AI. Os investigadores lançou o Alpaca com uma demonstração pública que qualquer um poderia experimentar na semana passada, mas rapidamente desligou o modelo graças ao aumento dos custos, preocupações com a segurança e “alucinações”, que é a palavra da comunidade de IA. decidiu quando um chatbot afirma com confiança desinformação, imaginando um fato que não existe.
Junto com uma demonstração interativa, o Institute for Human-Centered Artificial Intelligence de Stanford também divulgou os dados de treinamento da Alpaca, o código para seu processo de geração de dados e o código de treinamento usado para ajustar o modelo. de acordo com o registro.
em um Comunicado de imprensa anunciando a inicial livrar-se de Alpaca O autor principal Rohan Taori, estudante de doutorado em ciência da computação em Stanford, reconheceu que um teste público tem riscos. “A implementação de uma demonstração interativa para Alpaca também apresenta riscos potenciais, como uma disseminação mais ampla de conteúdo nocivo e redução da barreira para spam, fraude ou desinformação”, disseram os pesquisadores. taori disse a equipe implementou um filtro de conteúdo e um sistema de marca d’água que poderia identificar palavras em alpaca para mitigar esses riscos.
Não se sabe exatamente o que deu errado. “O objetivo original de lançar uma demonstração era divulgar nossa pesquisa de forma acessível. Sentimos que atingimos esse objetivo e, devido aos custos de hospedagem e à inadequação de nossos filtros de conteúdo, decidimos cancelar a demonstração”, disse porta-voz do departamento ele disse ao Registro. Instituto de Stanford para Inteligência Artificial Centrada no Homem Ele não respondeu imediatamente a um pedido de comentário.
Apesar de suas falhas aparentes, a Alpaca tem algumas facetas interessantes que contribuem para um projeto de pesquisa interessante. Seus baixos custos iniciais são particularmente dignos de nota. Os pesquisadores gastaram apenas US$ 600 para fazê-lo funcionar e supostamente executaram a IA usando máquinas de baixo consumo., incluindo computadores Raspberry Pi e até um smartphone Pixel 6, em contraste com os supercomputadores multibilionários da Microsoft.
Você não pode mais acessar uma cópia de trabalho do Alpaca, mas o código subjacente e os dados ainda estão disponíveis. GitHub.
“Incentivamos os usuários a nos ajudar a identificar novos tipos de falhas sinalizando-os na demonstração da web”, disseram os pesquisadores no comunicado à imprensa. “No geral, esperamos que o lançamento do Alpaca possa facilitar pesquisas adicionais sobre modelos de seguimento de instruções e seu alinhamento com os valores humanos”.
Quer saber mais sobre IA, chatbots e o futuro do aprendizado de máquina? Confira nossa cobertura completa de inteligência artificialou explore nossos guias para Melhores geradores gratuitos de arte de IA e Tudo o que sabemos sobre o ChatGPT da OpenAI.
