Velvet: o novo paradigma da IA entre ética e inovação

O ano de 2025 será um ponto de virada para a inteligência artificial. Um ano de consolidação e, sobretudo, de especialização.

Já está claro que a IA não é um domínio exclusivo das big techs norte-americanas ou chinesas, e, em todo o mundo, estão surgindo large language models (LLM) verticais e especializados, que não apenas compreendem a linguagem, mas captam suas nuances culturais, evolução e contexto de uso em diferentes países.

Velvet se encaixa perfeitamente nesse cenário. A família de LLM inteiramente made in Italy, concebida pela Almawave: leve, ágil e confiável, projetada para empresas públicas e privadas que desejam aproveitar o potencial da IA com um foco específico em ética, sustentabilidade e confiabilidade.

O que diferencia Velvet é a capacidade de unir potência e precisão a uma arquitetura enxuta e eficiente, otimizada especialmente para a língua italiana e alinhada às normas éticas e jurídicas europeias.

Os dois modelos que compõem a família Velvet – 14B e 2B – foram desenvolvidos integralmente pela Almawave na Itália, com uma arquitetura proprietária, e treinados no supercomputador Leonardo, gerenciado pela Cineca, um dos computadores mais poderosos da Europa e do mundo.

Com um know-how adquirido ao longo de anos de colaboração com empresas e administrações públicas, a Almawave projetou Velvet para oferecer uma inteligência artificial realmente consciente e contextualizada.

Neste artigo, exploraremos todos os aspectos-chave de Velvet, suas vantagens e casos de uso específicos.

Como vimos, Velvet é uma família de Large Language Models multilíngues projetados e desenvolvidos na Itália, com bases sólidas de governança de dados, construídos com especial atenção ao quadro regulatório europeu.

São ferramentas avançadas de inteligência artificial textual, capazes de lidar com uma ampla gama de tarefas linguísticas com alta precisão. Por exemplo, responder perguntas, realizar tradução automática, extrair informações-chave, categorizar automaticamente textos e documentos, além de gerar conteúdos enriquecidos com acesso a fontes de dados externas.

Velvet é composto por dois modelos, ambos desenvolvidos do zero, projetados para atender diferentes necessidades de escalabilidade e especialização.

O que os diferencia principalmente é o número de parâmetros utilizados, que indica a complexidade da rede neural da IA e sua capacidade de processar informações e gerar conteúdos.

Velvet-14B

Velvet-14B foi projetado para lidar com tarefas complexas que exigem maior capacidade de processamento.

Características técnicas:

• 14 bilhões de parâmetros
• Treinado com 4 trilhões de tokens e um vocabulário de 127.000 tokens – o equivalente a 50 milhões de livros
• Os dados de treinamento foram tratados algoritmicamente, reduzindo a toxicidade em 60% em relação aos dados open-source iniciais, garantindo maior controle sobre a qualidade das respostas
• O modelo foi refinado com 50.000 instruções de segurança e treinado com 2 milhões de exemplos reais, provenientes de setores nos quais a Almawave possui vasta experiência
• Janela de contexto de 128.000 tokens

Velvet-2B

Velvet-2B é mais leve e pensado para aplicações mais enxutas, mantendo um alto nível de eficácia.

Características técnicas:

• 2 bilhões de parâmetros
• Treinado com 3 trilhões de tokens em 2 idiomas (italiano e inglês)
• 1 milhão de exemplos reais
• Janela de contexto de 32.000 tokens

O que torna Velvet realmente inovador é sua abordagem baseada em três princípios-chave: consciência, leveza e agilidade.

• Consciência: Velvet foi projetado com um foco especial em ética e segurança. O uso de dados limpos e controlados, com atenção à redução de vieses e toxicidade, além do forte alinhamento com as normas europeias, tornam o modelo “consciente” do contexto em que opera, especialmente em relação à proteção de dados e à confiabilidade das respostas.
• Leveza: Velvet foi projetado para ser eficiente e sustentável. A versão Velvet-2B, em particular, pode operar em infraestruturas menos potentes, sem exigir grandes recursos computacionais. Isso a torna acessível até mesmo para empresas menores. A eficiência energética é outro ponto-chave: a infraestrutura otimizada reduz a pegada de carbono e os custos computacionais, garantindo um uso sustentável dos recursos.
• Agilidade: Velvet é uma IA desenvolvida para transformar os negócios e simplificar a experiência das pessoas de forma concreta. Projetada para se adaptar facilmente a domínios específicos e linguagens setoriais, ela pode se conectar a processos e dados internos das empresas, integrando-se também a aplicações especializadas e “ready-to-use”.

Velvet é flexível e versátil. Integra-se facilmente em aplicações específicas e foi projetada para se adaptar rapidamente a qualquer tarefa. Mas, acima de tudo, permite personalizações rápidas para múltiplos setores e tipos de empresas, tanto públicas quanto privadas.

A supervisão por um comitê ético e técnico garante que Velvet esteja alinhado com os princípios de transparência, equidade e segurança. As revisões periódicas de Velvet avaliam o impacto do modelo em aplicações de alto risco.

Mas essa não é a única maneira pela qual a equipe da Almawave conseguiu garantir o cumprimento desses princípios:

• Redução de vieses e respeito ao contexto cultural: No processo de treinamento de Velvet, foram desenvolvidos e integrados métodos específicos para minimizar ao máximo os preconceitos culturais, éticos, de ódio e de gênero.
  Além disso, ao contrário de modelos treinados principalmente em conteúdos em inglês e textos traduzidos, o conjunto de dados de treinamento de Velvet foi cuidadosamente balanceado entre vários idiomas. Por exemplo, no Velvet-14B, 23% dos dados são compostos por conteúdos originalmente escritos em italiano. Essa abordagem garante que os resultados gerados reflitam com mais precisão as diferenças culturais e as nuances inerentes às línguas representadas nos dados de treinamento.
• Atenção à privacidade e às regulamentações europeias: Como explicamos, Velvet foi treinado apenas com dados controlados, limpos e confiáveis, minimizando toxicidade e erros. Para maximizar a proteção da privacidade, um elemento inovador de Velvet nesse sentido é o “PAE” (Privacy Association Editing), um algoritmo proprietário que permite remover, quando necessário e diretamente no modelo, informações sensíveis sem a necessidade de um novo treinamento.
• Não se enquadra nos modelos de risco sistêmico: Graças à sua arquitetura de treinamento balanceada e ao design do modelo, Velvet não se encaixa na categoria de modelos de risco sistêmico segundo a definição do AI Act, isentando as organizações que o utilizam de importantes responsabilidades de gestão.
• Formato open-weights sob licença Apache 2.0, em cloud ou on-premise: Os modelos estão disponíveis no formato open-weights, o que significa que os pesos do modelo (weights), ou seja, os parâmetros resultantes do treinamento da IA, são públicos e transparentes. Além disso, a licença Apache 2.0 é open-source, permitindo o uso, modificação e distribuição do modelo e de seus pesos, inclusive para fins comerciais, desde que o autor original seja citado e a licença incluída.
  Por fim, os modelos estão disponíveis tanto na nuvem (em servidores remotos acessíveis via internet) quanto on-premise, ou seja, instalados diretamente nos servidores da empresa ou instituição que os utiliza.
• Parceiros de excelência: Os modelos Velvet são fruto de diversas colaborações em andamento com o meio acadêmico e de pesquisa para aumentar sua confiabilidade. Entre os parceiros da iniciativa estão: Universidade Tor Vergata, Fundação Bruno Kessler, Universidade La Sapienza, Universidade de Catania e Universidade de Bari. Além disso, a SIpEIA (Sociedade Italiana para a Ética na Inteligência Artificial) foi envolvida para garantir a conformidade ética e regulatória.

Um dos aspectos distintivos do Velvet, como vimos, é sua eficiência computacional, alcançada graças a um processo extremo de otimização dos datasets e à redução da toxicidade.

Tanto o modelo 14B quanto o 2B compartilham uma espécie de economia de dados que, no entanto, não compromete a qualidade dos outputs.

O objetivo é criar uma IA super eficiente, capaz de se adaptar rapidamente a uma ampla variedade de contextos verticais.

Como esse objetivo foi alcançado?

• Treinamento com exemplos reais: Para garantir uma rápida adaptação a diferentes setores e maior precisão em tarefas específicas, Velvet foi treinado com exemplos concretos, baseados nos anos de experiência da Almawave em áreas como saúde, administração pública, segurança, finanças, mobilidade, educação e turismo.
  Especificamente, o Velvet-14B foi treinado com 2 milhões de exemplos reais, enquanto o Velvet-2B utilizou 1 milhão de exemplos, todos selecionados manualmente e retirados de cenários de uso concretos.
• Amplitude da janela de contexto: A janela de contexto define a quantidade máxima de tokens que o modelo pode processar em um único input.
  No caso do Velvet-14B, a janela chega a 128.000 tokens, o equivalente a mais de 400 páginas de texto.
  Quanto maior a janela de contexto, mais complexas podem ser as solicitações feitas ao modelo, permitindo que Velvet lide com tarefas altamente elaboradas. Esse fator é essencial para tornar o modelo altamente eficiente mesmo em domínios hiper-específicos.

As aplicações de Velvet nos setores-chave

Como vimos, graças à sua especialização e capacidade de processar textos com conexões, sínteses e raciocínios avançados, Velvet pode ser aplicado em diversos setores.

Aqui estão alguns exemplos concretos:

• Saúde: suporte à tomada de decisões em Sistemas DSS (Decision Support System), ajudando equipes médicas a realizarem análises rápidas e precisas
• Administração Pública: oferecer serviços personalizados aos cidadãos, processar documentos administrativos, realizar análises jurídicas e de conformidade e agilizar operações internas
• Educação: assistentes virtuais avançados e personalizados para alunos e professores, tanto em empresas quanto em instituições de ensino
• Finanças: oferecer consultoria e gestão personalizada para usuários em plataformas bancárias
• Justiça: suporte na análise documental e gestão de processos legais, aumentando a transparência e acessibilidade e reduzindo o tempo de espera
• Segurança: análise preditiva e ferramentas de monitoramento avançadas
• Mobilidade: otimização das informações sobre transportes públicos, gestão avançada de intervenções em campo e assistência aos usuários
• Setor industrial e operacional: suporte a operações em campo com comandos de voz inteligentes
• Atendimento ao cliente e contact center: chatbots avançados para melhorar a experiência dos usuários e a eficiência operacional
• Turismo: análise automática de dados e avaliações, auxiliando destinos e operadores a aprimorarem seus serviços, além da personalização da experiência de viagem para turistas.