Mumbai—24 de outubro de 2024— A Zoho Corporation, empresa global de tecnologia com sede em Chennai, anunciou hoje que aproveitará a plataforma de computação acelerada NVIDIA AI – que inclui a NVIDIA NeMo, parte do software NVIDIA AI Enterprise – para criar e implantar grandes modelos de linguagem (LLMs) em suas aplicações SaaS. Depois que os LLMs forem criados e implantados, eles estarão disponíveis para os mais de 700.000 clientes da Zoho Corporation, por meio das empresas ManageEngine e Zoho.com globalmente. No ano passado, a empresa investiu mais de US$ 10 milhões na tecnologia de IA e GPUs da NVIDIA e planeja investir mais US$ 10 milhões no próximo ano. O anúncio foi feito durante o NVIDIA AI Summit, em Mumbai.
Ramprakash Ramamoorthy, diretor de IA da Zoho Corporation, comentou: “Muitos LLMs no mercado hoje são projetados para uso do consumidor, oferecendo valor limitado para as empresas. Na Zoho, nossa missão é desenvolver LLMs adaptados especificamente para uma ampla gama de casos de uso de negócios. Possuir toda a nossa pilha de tecnologia, com produtos abrangendo várias funções de negócios, nos permite integrar o elemento essencial que torna a IA verdadeiramente eficaz: o contexto.”
A Zoho prioriza a privacidade do usuário desde o início para criar modelos compatíveis com os regulamentos de privacidade do zero, em vez de adaptá-los. Seu objetivo é ajudar as empresas a obterem retorno sobre seus investimentos de forma rápida e eficaz, aproveitando a pilha completa do software NVIDIA AI e a computação acelerada para aumentar o rendimento e reduzir o atraso de sistemas.
A Zoho vem construindo sua própria tecnologia de IA há mais de uma década e adicionando-a contextualmente ao seu amplo portfólio de mais de 100 produtos em suas divisões ManageEngine e Zoho. Sua abordagem à IA é multimodal, voltada para levar inteligência contextual que pode ajudar os usuários a tomar decisões de negócios. A empresa está construindo modelos de linguagem estreita, pequena e média, que são distintos dos LLMs. Isso permite a oferta de opções aplicáveis a diferentes modelos de IA de tamanhos distintos, para fornecer melhores resultados em uma variedade de negócios. Oferecer vários modelos também significa que as empresas que não têm uma grande quantidade de dados ainda assim podem se beneficiar da IA. A privacidade também é um princípio central na estratégia de IA da Zoho, e seus modelos de LLM não serão treinados em dados do cliente.
“A capacidade de escolher entre uma variedade de tamanhos de modelos de IA capacita as empresas a adaptar suas soluções de IA precisamente às suas necessidades, equilibrando o desempenho com custo-benefício”, disse Vishal Dhupar, diretor administrativo da NVIDIA no Sul da Ásia. “Com o software de IA da NVIDIA e a plataforma de computação acelerada, a Zoho está construindo uma ampla gama de modelos para ajudar a atender às diversas necessidades de seus clientes empresariais.”
Por meio dessa colaboração, a Zoho acelerará seus LLMs na plataforma de computação acelerada NVIDIA com GPUs NVIDIA Hopper, usando a plataforma NVIDIA NeMo para desenvolver IA gerativa personalizada, incluindo LLMs, multimodais, visão e IA de fala. Além disso, a Zoho está testando o NVIDIA TensorRT-LLM para otimizar seus LLMs para implantação, e já viu um aumento de 60% na taxa de transferência e 35% na latência em comparação com uma estrutura de código aberto usada anteriormente. A empresa também está acelerando outras capacidades de processamento, como fala em texto na infraestrutura de computação acelerada pela NVIDIA.
Sobre a Zoho Corporation
A Zoho Corporation é uma empresa de tecnologia privada e lucrativa. Fundada em 1996, está sediada em Chennai, Índia. Zoho Corp. tem mais de 15.000 funcionários globalmente.É a empresa-mãe de marcas de tecnologia proeminentes, incluindo ManageEngine, Zoho, TrainerCentral, Qntrl e Zakya.
