LLaMA 3. 1: Meta Lança seu Novo Modelo de Linguagem

Introdução ao Modelo Llama 3.1

O ano de 2024 está se tornando um dos melhores anos em termos de progresso na IA Generativa. Na semana passada, tivemos a Open AI lançando o GPT-4o mini, e ontem mesmo (23 de julho de 2024), tivemos a Meta lançando o Llama 3.1, que mais uma vez conquistou o mundo. Quais poderiam ser os motivos desta vez?

Primeiro, a Meta tem se concentrado fortemente em modelos de código aberto , e por código aberto significa realmente código aberto. Eles liberam tudo, incluindo código e conjuntos de dados. Esta é a primeira vez que temos um LLM de código aberto MASSIVO de 405 bilhões de parâmetros. Isso é quase 2,5x o tamanho do GPT-3.5.

Treinamento e Arquitetura do Modelo Meta LLaMA 3. 1:

O LLaMA 3. 1 foi treinado nos enormes 15 trilhões de tokens, um tamanho do conjunto de dados que superou todos os modelos anteriores e muitos dos atuais. Um treinamento tão abrangente, combinado com treinamento adicional em mais de 10 milhões de exemplos rotulados por pessoas, permite que o modelo realize cálculos para resolver problemas de raciocínio bastante sofisticados e produza materiais de alta qualidade em formatos de texto, imagem e código.

Recursos avançados e habilidades multimodais do Modelo Meta LLaMA 3. 1:

Adicione um dos elementos mais proeminentes do LLaMA 3. 1, pois ele é adequado para processar entradas de duas ou mais modalidades. Essa capacidade permite que o modelo passe e ofereça não apenas textual, mas também imagem e possivelmente outros formatos de saída. O comprimento máximo de contexto aumentado de até 128.000 tokens permite que o modelo permaneça focado na coerência impressionante, mesmo ao lidar com textos grandes, o que o torna particularmente bom para aplicativos que exigem a análise de discussões detalhadas.

Aspectos de Segurança e conformidade do Modelo Meta LLaMA 3. 1:

Ultimamente, tem havido uma quantidade considerável de debate sobre as implicações éticas da integração de IA, e é por isso que a Meta aprimorou os protocolos de segurança do LLaMA 3. 1, que podem incluir os nomes de aplicativos como LLaMA Guard 2 e Code Shield. Essas ferramentas auxiliam a identificar e mitigar a produção de conteúdo inseguro ou malicioso, que são parte das tentativas de promover o uso ético da inteligência artificial.

Comparação de Desempenho do Modelo Meta LLaMA 3. 1:

O LLaMA 3. 1 superou os outros benchmarks em vários testes contra os modelos recentemente lançados e bem conceituados, como o GPT-4 da OpenAI. Por exemplo, aspectos como geração de código superam o modelo mais no benchmark HumanEval do que os outros estilos. Isso torna o LLaMA 3. 1 especialmente atraente para desenvolvedores de aplicativos e entidades comerciais que desejam incorporar funções de codificação aprimoradas em seus produtos.

Principais inovações e capacidades do Modelo Meta LLaMA 3. 1:

Além dos testes de benchmark, a Meta também usou um processo de avaliação humana para comparar o Llama 3 405B com o GPT-4 (versão API 0125), GPT-4o (versão API) e Claude 3.5 Sonnet (versão API). Para realizar uma avaliação humana pareada de dois modelos, eles perguntaram aos anotadores humanos qual das duas respostas do modelo (produzidas por modelos diferentes) eles preferiam. Os anotadores usam uma escala de 7 pontos para suas classificações, permitindo que indiquem se uma resposta do modelo é muito melhor do que, melhor do que, ligeiramente melhor do que ou quase igual à outra resposta do modelo.

As principais observações do Modelo Meta Llama 3.1 incluem:

• O Llama 3.1 405B tem um desempenho aproximadamente igual ao da versão 0125 API do GPT-4, ao mesmo tempo em que obtém resultados mistos (algumas vitórias e algumas derrotas) em comparação com o GPT-4o e o Claude 3.5 Sonnet
• Em tarefas de raciocínio e codificação multiturn, o Llama 3.1 405B supera o GPT-4, mas tem desempenho inferior ao GPT-4 em prompts multilíngues (hindi, espanhol e português)
• O Llama 3.1 tem desempenho equivalente ao GPT-4o em prompts em inglês, equivalente ao Claude 3.5 Sonnet em prompts multilíngues e supera o Claude 3.5 Sonnet em prompts em inglês de uma ou várias voltas.
• O Llama 3.1 está atrás do Claude 3.5 Sonnet em recursos como codificação e raciocínio

Aplicações e Direções Futuras Modelo Meta LLaMA 3. 1:

Os casos de uso do LLaMA 3. 1 são tão diversos quanto a revitalização de aplicativos de mídia social com tradução ao vivo e geração de imagens de alta qualidade, criando chats da web altamente desenvolvidos e geradores de conteúdo. Além disso, as especificidades do modelo podem ser ajustadas devido às suas características de código aberto, o que, como resultado, torna o aplicativo acessível para públicos mais amplos empregarem e executarem com a tecnologia.

É evidente que o Meta está aumentando o potencial do LLaMA com relação a modelos com mais de 400 bilhões de parâmetros que acomodariam várias línguas e aprimorariam as operações multimodais. A partir dessa trajetória, é lógico supor que o LLaMA manterá a tendência de elevar o nível do que é possível no espaço LLM com a ajuda da IA.

Como usar o Modelo meta Llama 3.1 na Plataforma da WiiChat?

O modelo da Meta Llama 3.1 já está disponível para uso nos chatbots da WiiChat através do app AI Mastery. Clientes do plano Profissional da WiiChat podem ter acesso ao modelo da Llama 3.1 e outros 190+ modelos de linguagens generativas através do nosso aplcativo.

Conclusão

LLaMA 3. 1 é um grande avanço na criação de grandes modelos de linguagem. Devido ao seu suporte de treinamento completo, possibilidades multimídia e altos padrões de proteção, tornou-se uma ferramenta útil na vida individual, bem como no comércio. Portanto, talvez seja esperado que, à medida que a Meta continua refinando e ampliando este modelo, grandes melhorias em aplicativos baseados em IA estejam no horizonte.

Para obter uma compreensão mais profunda do LLaMA 3, as seguintes características são notáveis. 1 e seus recursos, é necessário consultar a documentação oficial do Meta e outras orientações disponíveis na web.

‍